什么是 SillyTavern?
SillyTavern(或简称 ST)是一个本地安装的用户界面,允许您与文本生成 LLM、图像生成引擎和 TTS 语音模型进行交互。
一个可以本地部署的虚拟角色聊天软件,支持多种虚拟角色,也可以自己创造角色,后台可以连多种不同LLM,比如OpenAI、Claude、Llama等,支持TTS(文字转语音)
支持中文、英文、日文、韩文等多语言
部分界面截图:


除了 SillyTavern 还需要什么?
由于 SillyTavern 只是一个界面,您需要访问 LLM 后端才能进行推理。您可以使用 AI Horde 进行即时聊天。除此之外,我们还支持许多其他本地和基于云的 LLM 后端:兼容 OpenAI 的 API、KoboldAI、Tabby 等等。您可以在文档中了解更多关于我们支持的 API 的信息。
我需要一台功能强大的 PC 来运行 SillyTavern 吗?
硬件要求极低:任何支持 NodeJS 18 或更高版本的设备均可运行,(电脑端、手机端均可运行下载)
如果您打算在本地机器上进行 LLM 推理,我们建议您使用 3000 系列 NVIDIA 显卡,并至少配备 6GB VRAM。更多详情,请查看您后端的文档。
推荐的后端(非官方合作)
- AI Horde – 使用志愿者提供的模型。无需进一步设置
- KoboldCpp – 社区最喜欢的本地运行 GGUF 模型的工具
- tabbyAPI – 一个流行、轻量级、本地托管的 exl2 推理 API
- OpenRouter – 一个支持多个云服务提供商(OpenAI、Claude、Meta Llama 等)以及流行社区模型的单一 API。
AI角色卡片
SillyTavern 围绕”AI角色卡片”的概念构建。角色卡片是一系列设定 LLM 行为的提示,是 SillyTavern 进行持久对话所必需的。它们的功能类似于 ChatGPT 的 GPTs 或 Poe 的机器人。角色卡片的内容可以是任何东西:一个抽象场景、为特定任务定制的助手、一个著名人物或一个虚构角色。
要在不选择角色卡的情况下快速对话,或仅测试 LLM 连接,只需在打开 SillyTavern 后,在欢迎屏幕的输入栏中输入您的提示输入。这将创建一个空的”助手”角色卡,您可以稍后进行自定义。
要了解如何定义角色卡的大致方法,请查看默认角色(Seraphina)或从”下载扩展和资源”菜单中下载社区制作的选定卡片。
主要功能
- 具有许多社区制作的预设的先进文本生成设置
- 世界信息支持:创建丰富的背景故事或在角色卡上节省代币
- 群聊:多机器人房间,角色可以与你和/或彼此交谈
- 丰富的 UI 定制选项:主题颜色、背景图片、自定义 CSS 等
- 用户角色:让 AI 了解一些关于你的信息,以增强沉浸感
- 内置 RAG 支持:将文档添加到您的聊天中供 AI 参考
- 广泛的聊天命令子系统和自有的脚本引擎