LocalAI

Run any model — LLMs, vision, voice, image, video — on any hardware, no GPU required.

Estrelas

50,248

Forks

4,581

Linguagem

Categoria

Inference & Serving

Obter o código

# Clone o repositório
git clone https://github.com/mudler/LocalAI

O que é LocalAI?

Run any model — LLMs, vision, voice, image, video — on any hardware, no GPU required.

É seguro usar LocalAI?

LocalAI é um projeto open source de mudler no GitHub. Revise o código-fonte e a licença antes de usar em produção.

Como começar com LocalAI?

git clone https://github.com/mudler/LocalAI

Em qual linguagem LocalAI é escrito?

openSource.faqWhatLanguageAnswer

Run large models locally with a single command — LLMs, vision, and embeddings on any machine.

LLM inference in C/C++ with quantization — runs models on CPU, GPU, and edge devices.

High-throughput, memory-efficient inference and serving engine for LLMs with PagedAttention.