l
llama.cpp✓
本地部署
Georgi Gerganov
Facebook LLaMA 模型的 C/C++ 移植版本。 foundational 项目，使在消费级硬件（Mac、Windows、Linux、Android）上高性能运行大语言模型成为可能。
免费限制
依赖硬件性能
社区投票
283
■ 可用模型
Any GGUF Model
■ 功能标签
核心行动性能C++