LocalAI

yazan: mudler

Run any model — LLMs, vision, voice, image, video — on any hardware, no GPU required.

Yıldız

50,248

Çatallar

4,581

Dil

Kategori

Inference & Serving

Kodu al

# Depoyu klonla
git clone https://github.com/mudler/LocalAI

LocalAI nedir?

Run any model — LLMs, vision, voice, image, video — on any hardware, no GPU required.

LocalAI kullanımı güvenli mi?

LocalAI, mudler tarafından GitHub'da geliştirilen açık kaynak bir projedir. Üretimde kullanmadan önce kaynak kodu ve lisansı inceleyin.

LocalAI ile nasıl başlanır?

git clone https://github.com/mudler/LocalAI

LocalAI hangi dilde yazıldı?

openSource.faqWhatLanguageAnswer

Run large models locally with a single command — LLMs, vision, and embeddings on any machine.

LLM inference in C/C++ with quantization — runs models on CPU, GPU, and edge devices.

High-throughput, memory-efficient inference and serving engine for LLMs with PagedAttention.