AI编程AI开源项目ai角色扮演

SillyTavernAI角色聊天界面

一个可以本地部署的AI虚拟角色聊天软件,支持多种虚拟角色,也可以自己创造角色

标签:
吐司ai

什么是 SillyTavern?

SillyTavern(或简称 ST)是一个本地安装的用户界面,允许您与文本生成 LLM、图像生成引擎和 TTS 语音模型进行交互。

一个可以本地部署的虚拟角色聊天软件,支持多种虚拟角色,也可以自己创造角色,后台可以连多种不同LLM,比如OpenAI、Claude、Llama等,支持TTS(文字转语音)

支持中文、英文、日文、韩文等多语言

部分界面截图:

SillyTavernAI角色聊天界面SillyTavernAI角色聊天界面

除了 SillyTavern 还需要什么?

由于 SillyTavern 只是一个界面,您需要访问 LLM 后端才能进行推理。您可以使用 AI Horde 进行即时聊天。除此之外,我们还支持许多其他本地和基于云的 LLM 后端:兼容 OpenAI 的 API、KoboldAI、Tabby 等等。您可以在文档中了解更多关于我们支持的 API 的信息。

我需要一台功能强大的 PC 来运行 SillyTavern 吗?

硬件要求极低:任何支持 NodeJS 18 或更高版本的设备均可运行,(电脑端、手机端均可运行下载)

如果您打算在本地机器上进行 LLM 推理,我们建议您使用 3000 系列 NVIDIA 显卡,并至少配备 6GB VRAM。更多详情,请查看您后端的文档。

推荐的后端(非官方合作)

  • AI Horde – 使用志愿者提供的模型。无需进一步设置
  • KoboldCpp – 社区最喜欢的本地运行 GGUF 模型的工具
  • tabbyAPI – 一个流行、轻量级、本地托管的 exl2 推理 API
  • OpenRouter – 一个支持多个云服务提供商(OpenAI、Claude、Meta Llama 等)以及流行社区模型的单一 API。

AI角色卡片

SillyTavern 围绕”AI角色卡片”的概念构建。角色卡片是一系列设定 LLM 行为的提示,是 SillyTavern 进行持久对话所必需的。它们的功能类似于 ChatGPT 的 GPTs 或 Poe 的机器人。角色卡片的内容可以是任何东西:一个抽象场景、为特定任务定制的助手、一个著名人物或一个虚构角色。

要在不选择角色卡的情况下快速对话,或仅测试 LLM 连接,只需在打开 SillyTavern 后,在欢迎屏幕的输入栏中输入您的提示输入。这将创建一个空的”助手”角色卡,您可以稍后进行自定义。

要了解如何定义角色卡的大致方法,请查看默认角色(Seraphina)或从”下载扩展和资源”菜单中下载社区制作的选定卡片。

主要功能

  • 具有许多社区制作的预设的先进文本生成设置
  • 世界信息支持:创建丰富的背景故事或在角色卡上节省代币
  • 群聊:多机器人房间,角色可以与你和/或彼此交谈
  • 丰富的 UI 定制选项:主题颜色、背景图片、自定义 CSS 等
  • 用户角色:让 AI 了解一些关于你的信息,以增强沉浸感
  • 内置 RAG 支持:将文档添加到您的聊天中供 AI 参考
  • 广泛的聊天命令子系统和自有的脚本引擎

相关导航

暂无评论

暂无评论...