llama.cpp

作者： ggml-org

LLM inference in C/C++ with quantization — runs models on CPU, GPU, and edge devices.

スター

133,692

フォーク

25,250

言語

C++

カテゴリ

Inference & Serving

コードを取得

# リポジトリをクローン
git clone https://github.com/ggml-org/llama.cpp

llama.cpp とは何ですか？

LLM inference in C/C++ with quantization — runs models on CPU, GPU, and edge devices.

llama.cpp は安全に使えますか？

llama.cpp は ggml-org による GitHub 上のオープンソースプロジェクトです。本番利用前にソースコードとライセンスを確認してください。

llama.cpp の始め方は？

git clone https://github.com/ggml-org/llama.cpp

llama.cpp はどの言語で書かれていますか？

openSource.faqWhatLanguageAnswer