K

KoboldCpp✓

本地部署 KoboldAI

单文件 GGUF 推理引擎，面向大语言模型。专注于故事创作和角色扮演，具有丰富的上下文管理和世界信息功能。

访问官网 ↗ 返回目录

免费限制

依赖硬件性能

社区投票

296

■ 可用模型

Any GGUF Model

■ 功能标签

角色扮演GGUF本地部署故事创作

■ 相关平台

本地 AI 的标准。直接在 Mac、Linux 或 Windows 机器上运行 Llama 3、Mistral、Gemma 和数百...

发现、下载和运行本地大语言模型的最简单方式。拥有精美的 UI、GPU 卸载功能，以及内置的模拟 OpenAI API 的本地服务器...

在桌面上本地运行开源 AI。Jan 是一个 100% 离线运行的 ChatGPT 替代品，注重隐私，提供 OpenAI 兼容的本地...

免费使用、本地运行、注重隐私的聊天机器人。无需 GPU 或网络，使用 CPU 量化技术在主流消费级硬件上运行。...