开源项目|LocalAI:48.8K star 的本地 AI 引擎,无需 GPU
· 来源：GitHub
LocalAI:一个服务跑所有模型类型(LLM/视觉/语音/图像/视频),CPU/Apple Silicon/树莓派皆可,OpenAI 兼容 API,48.8K stars。
LocalAI(mudler)是一个开源"AI 引擎":一个服务运行所有模型类型——LLM、视觉、语音、图像、视频——在任何硬件上,CPU、Apple Silicon、树莓派都能跑,无需 GPU。API 与 OpenAI 接口完全兼容:改个 base_url 就能把现有代码切到本地。仓库 48.8K stars / 4.4K forks,commit 数 7700+。
核心价值:一个 Docker 容器拿到完整的本地 AI 栈——无厂商锁定、数据不出域、边际成本几乎为零。仓库还包含 formal-verification(对调度层的形式化验证)和大量 examples(text2speech、image2video 等),是本地推理方向最完整的选项之一。