K

KoboldCpp✓

本地部署 KoboldAI

单文件 GGUF 推理引擎，面向大语言模型。专注于故事创作和角色扮演，具有丰富的上下文管理和世界信息功能。

访问官网 ↗ 返回目录
N
New.bi 推荐
GPT / Claude / Gemini · 国内直连 · 低至 1.5 折
立即注册
免费限制
依赖硬件性能
社区投票
296

■ 可用模型

Any GGUF Model

■ 功能标签

角色扮演GGUF本地部署故事创作

■ 相关平台

O
Ollama
本地 AI 的标准。直接在 Mac、Linux 或 Windows 机器上运行 Llama 3、Mistral、Gemma 和数百...
本地部署
L
LM Studio
发现、下载和运行本地大语言模型的最简单方式。拥有精美的 UI、GPU 卸载功能，以及内置的模拟 OpenAI API 的本地服务器...
本地部署
J
Jan.ai
在桌面上本地运行开源 AI。Jan 是一个 100% 离线运行的 ChatGPT 替代品，注重隐私，提供 OpenAI 兼容的本地...
本地部署
G
GPT4All
免费使用、本地运行、注重隐私的聊天机器人。无需 GPU 或网络，使用 CPU 量化技术在主流消费级硬件上运行。...
本地部署