LocalAI

LocalAI官網

一個實現了在個人電腦上運行 LLM 模型，并集成了服務接口和在線界面的項目。

網站服務：AI開源項目，ai，AI編程，AI開源項目，ai。

LocalAI簡介

:robot: The free， Open Source OpenAI alternative. Self-hosted， community-driven and local-first. Drop-in replacement for OpenAI running on consumer-grade hardware. No GPU required. Runs ggml， gguf， GPTQ， onnx， TF compatible models: llama， llama2， rwkv， whisper， vicuna， koala， cerebras， falcon， dolly， starcoder， and many others – GitHub – mudler/LocalAI: :robot: The free， Open Source OpenAI alternative. Self-hosted， community-driven and local-first. Drop-in replacement for OpenAI running on consumer-grade hardware. No GPU required. Runs ggml， gguf， GPTQ， onnx， TF compatible models: llama， llama2， rwkv， whisper， vicuna， koala， cerebras， falcon， dolly， starcoder， and many others
LocalAI是一個可替換的REST API，與OpenAI API規范兼容，用于本地推理。它允許你用消費級硬件在本地或內部運行LLM（而不僅僅是），支持與ggml格式兼容的多個模型系列。不需要GPU。

LocalAI官網入口網址

https://github.com/go-skynet/LocalAI

OpenI小編發現LocalAI網站非常受用戶歡迎，請訪問LocalAI網址入口試用。