llama.cpp

द्वारा ggml-org

LLM inference in C/C++ with quantization — runs models on CPU, GPU, and edge devices.

स्टार

133,692

फोर्क

25,250

भाषा

C++

श्रेणी

Inference & Serving

कोड प्राप्त करें

# रिपॉजिटरी क्लोन करें
git clone https://github.com/ggml-org/llama.cpp

llama.cpp क्या है?

LLM inference in C/C++ with quantization — runs models on CPU, GPU, and edge devices.

क्या llama.cpp का उपयोग सुरक्षित है?

llama.cpp GitHub पर ggml-org का ओपन-सोर्स प्रोजेक्ट है। प्रोडक्शन में उपयोग से पहले सोर्स कोड और लाइसेंस देखें।

llama.cpp के साथ कैसे शुरू करें?

git clone https://github.com/ggml-org/llama.cpp

llama.cpp किस भाषा में लिखा गया है?

openSource.faqWhatLanguageAnswer