llama2.c官網(wǎng)

純 C 語言實現(xiàn)的 Llama 2 推理引擎

網(wǎng)站服務(wù)：AI開源項目，ai，AI編程，AI開源項目，ai。

llama2.c簡介

Inference Llama 2 in one file of pure C. Contribute to karpathy/llama2.c development by creating an account on GitHub.
llama2.c是一個用純 C 語言編寫的 Llama 2 LLM 架構(gòu)的推理引擎。 該項目允許用戶在 PyTorch 中訓(xùn)練 Llama 2 模型，將權(quán)重保存為二進制文件，然后使用 C 文件加載和運行模型。 該項目并非用于生產(chǎn)環(huán)境，而是一個周末項目。 評論中討論了優(yōu)化性能、在普通 Linux 服務(wù)器上運行 LLM、減小 Llama2 模型大小以及在 Web 應(yīng)用中使用 LLM 的潛力等各種話題。

llama2.c官網(wǎng)入口網(wǎng)址

https://github.com/karpathy/llama2.c

OpenI小編發(fā)現(xiàn)llama2.c網(wǎng)站非常受用戶歡迎，請訪問llama2.c網(wǎng)址入口試用。