独立的人格设定 Tab,支持实时查看和在线编辑 AGENTS.md / SOUL.md / USER.md 三个配置文件,保存后热更新无需重启。 支持对敏感工具(如联网搜索)进行人工确认,用户可通过 /approve 或 /reject 指令控制工具执行,实现 Human-in-the-Loop 安全机制。 通过 ToolGuardMixin 实现 ...
一个基于多进程架构的高性能 Embedding 服务器,专门为解决 CPU tokenizer 瓶颈和最大化 GPU 利用率而设计。 本框架通过多进程架构彻底解决这些问题,实现 CPU 和 GPU 的完全并行。 本项目专为解决实际生产环境中的 GPU 利用率问题而设计,采用了多项业界最佳实践。