什么是 SillyTavern?

SillyTavern - 面向高级用户的 LLM 前端
SillyTavern - 面向高级用户的 LLM 前端

SillyTavern(简称 ST)是一款本地安装的用户界面,让你能够与文本生成 LLM、图像生成引擎以及 TTS 语音模型进行交互。我们的目标是赋予用户对其 LLM 提示词尽可能多的实用功能与控制权,并将这条陡峭的学习曲线视为乐趣的一部分。

SillyTavern 是一个由热忱的 LLM 爱好者社区倾力打造的情怀项目,并将始终保持免费与开源。它于 2023 年 2 月作为 TavernAI 1.2.8 的分支起步,如今已拥有超过 300 名贡献者和 3 年的独立开发历程,并持续作为资深 AI 爱好者的领先软件。

截图

API 连接 聊天界面
高级格式化 世界书

安装要求

硬件要求极低:只要能运行 NodeJS 20 或更高版本的设备即可。如果你打算在本地机器上进行 LLM 推理,我们推荐使用显存至少为 6GB 的 NVIDIA 30 系显卡。

请根据你的平台查阅相应的安装指南:

分支

SillyTavern 采用双分支系统进行开发,以确保所有用户都能获得流畅的体验。

  • release -🌟 推荐大多数用户使用。 这是最稳定、最受推荐的分支,仅在推送重大版本时更新。它适用于绝大多数用户,通常每月更新一次。
  • staging - ⚠️ 不建议日常使用。 此分支包含最新功能,但需谨慎,因为它随时可能出问题。仅面向高级用户与爱好者,每天更新数次。

除了 SillyTavern 我还需要什么?

由于 SillyTavern 只是一个界面,你需要访问一个 LLM 后端来提供推理。你可以使用 AI Horde 来开箱即用地即时聊天。除此之外,我们还支持许多其他本地和基于云端的 LLM 后端:OpenAI 兼容 API、KoboldAI、Tabby 等等。你可以在 API 连接一节中阅读更多关于我们所支持的 API 的内容。

角色卡

SillyTavern 围绕“角色卡”这一概念构建。角色卡是一组用于设定 LLM 行为的提示词集合,是在 SillyTavern 中进行持久化对话所必需的。它们的功能类似于 ChatGPT 的 GPTs 或 Poe 的机器人。角色卡的内容可以是任何东西:一个抽象的场景、一个为特定任务量身定制的助手、一个知名人物或一个虚构角色。

如果不想选择角色卡而只是想快速对话,或者只是想测试 LLM 连接,只需在打开 SillyTavern 后于欢迎界面的输入栏中输入你的提示词即可。这会创建一个空白的“助手”角色卡,你之后可以对其进行自定义。

若要大致了解如何定义角色卡,可以查看默认角色(Seraphina),或从“下载扩展与素材”菜单中下载精选的社区制作角色卡。

你也可以从头开始创建自己的角色卡。详情请参阅角色设计指南。

核心功能

扩展

SillyTavern 具备可扩展性。

如何直接联系开发者?

我喜欢你们的项目!我该如何贡献?

  • 我们欢迎 Pull Request!请遵循贡献指南开始参与。
  • 我们也欢迎使用我们 GitHub 中提供的模板提交的有用且有见地的 Bug 报告。
  • 我们不接受针对项目本身的金钱捐助。

个人捐赠

感谢你对个人贡献者的支持,但这不会影响 SillyTavern 的整体开发方向。

许可证

SillyTavern 是一个免费开源项目,基于 AGPL-3.0 许可证发布。