第43篇:Nous 工具网关——300+ 模型入口
Hermes 功能详解第43篇:Nous Tool Gateway。一站式模型与工具服务。
第43篇:Nous 工具网关——300+ 模型入口
兄弟们,今天咱们聊点省心的。你有没有过这种经历:想换个模型试试,结果发现要挨个去注册、充值、配API Key,折腾半天还没开始写代码就累了?
Hermes 这次直接给你开了个“后门”——Nous Portal,一个订阅,300+ 模型随便挑。装好 Hermes 后,一行命令搞定登录和配置:
hermes setup --portal
跑完这条,Nous 就成了你的默认供应商。想看看当前接入了哪些模型?再敲一条:
hermes portal info
而且订阅用户还有额外福利:用其他按量计费的供应商时,永久打9折。这波不亏。
模型槽位:主模型 vs 辅助模型
Hermes 把模型分成了两类:
- 主模型(Main model):负责“思考”。你发的每句话、工具调用的每个循环、流式输出的每个字,都走它。
- 辅助模型(Auxiliary models):干杂活的。比如上下文压缩、图片分析、网页摘要、审批打分、MCP工具路由、会话标题生成、技能搜索——一共11个槽位,每个都能单独指定模型。
默认情况下,所有辅助任务都是 auto,意思就是“主模型能干的活我也干”。但如果你想省钱或者提速,完全可以给某个杂活单独换个便宜的小模型。
在仪表盘里配模型
打开 Dashboard,点侧边栏的 Models,你会看到两个区域:
- Model Settings——顶部面板,给各个槽位分配模型。
- Usage analytics——按使用量排名的卡片,显示每个模型的 token 消耗、费用和能力标签。
主模型那行,点 Change 打开选择器。左边是已认证的供应商(没配过 Key 的不会出现),右边是精选模型列表——注意,这不是供应商的原始 /models 接口全量转储(OpenRouter 那个接口能返回400多个模型,包括 TTS、图像生成器、重排序器这些非智能体模型),而是 Hermes 针对该供应商推荐的智能体模型。
选好模型,点 Switch,Hermes 会把它写进 ~/.hermes/config.yaml。注意:这只对新会话生效。已经打开的聊天窗口还是用原来的模型。想热切换?在会话里用 /model 斜杠命令。
中途换模型的代价
如果你在活跃会话中途换模型,Hermes 会估算你的下一条消息是否需要对新的模型窗口做“预检上下文压缩”。如果会话已经接近或超过新模型的压缩阈值,切换回复里会带警告。
但更关键的是:中途换模型会重置提示缓存。因为缓存是按模型区分的,一旦换了模型,下一条消息就得按全价重新读一遍整个对话(本来缓存能打75%~90%的折扣)。长会话里,这一下重读的费用可能比两个模型之间的单价差还大。所以——能早换就早换,最好开新会话再换。
图像模型的小补充
除了 FAL 那一批,Krea 2(Medium、Large、Medium Turbo,最多支持 10 张风格参考图,还能选 Enhance 放大)和 Nous Portal 自家的图像模型,现在都躺在同一个 Nous Subscription 选择器里,不再单开一行。每个模型只出现一次,选 Krea 的 id(比如 krea-2-medium)时请求会走 Krea 网关而不是 FAL,配置上还是 image_gen.provider: nous 加个模型 id 就完事。注意 Krea 和 Portal 的模型需要付费订阅,免费工具池只覆盖 FAL 那批。
数据训练分级的坑
有些模型(比如 muse-spark-1.2-contributor)因为供应商可能拿你的数据训练,所以价格便宜。交互式选择时会有确认弹窗,但无人值守的启动路径(比如 Kanban worker、cron agent)没法弹窗问人,所以默认直接拒绝。
如果你能接受无人值守任务的数据被训练,可以记录一个持久确认:
hermes config set security.allow_data_training_tiers_noninteractive true
Hermes 每次无人值守启动时仍会打印完整的数据政策警告和确认键,方便审计。想撤销就:
hermes config unset security.allow_data_training_tiers_noninteractive
小提醒:model: 的两种形态
新装的 Hermes,config.yaml 里 model 是空字符串 "",表示“还没配置”。第一次跑 hermes setup 或 hermes model 时,它会自动升级成带 provider、default、base_url、api_mode 的字典结构。如果你哪天看到 config.yaml 里是空字符串,跑一下 hermes model 或者在 Dashboard 里点 Change,它会帮你写回字典格式。
好了,去试试 Nous Portal 吧,300多个模型入口,一键接入,省下的时间够你多写两个 Agent 了。
📖 官方文档
本文根据 Hermes Agent 官方文档编写,原文见:官方文档 › user-guide/features/tool-gateway