第43篇:Nous 工具网关——300+ 模型入口
Hermes 功能详解第43篇:Nous Tool Gateway。一站式模型与工具服务。
第43篇:Nous 工具閘道——300+ 模型入口
上一篇我們聊了 Hermes 的「大腦」怎麼配,今天這篇咱們把視角拉高一點,看看模型從哪兒來。官方文件裡藏著一個超級好用的東西——Nous Portal,一個訂閱,300+ 模型隨便挑,簡直像模型界的「自助餐」。
一條指令搞定一切
以前配模型要手動填 API Key、寫 base_url,麻煩得很。現在?一條指令全搞定:
hermes setup --portal
跑完這條指令,它會引導你登入 Nous Portal,然後自動把 Nous 設為你的模型提供商。想看看都接入了哪些模型?再跑一條:
hermes portal info
訂閱用戶還有個隱藏福利:用 Nous 作為提供商,其他按 token 計費的提供商還能打 9 折。省錢這塊,Hermes 是認真的。
模型槽位:主模型 vs 輔助模型
Hermes 把模型分成兩類:
- 主模型:Agent 的「思考大腦」。每條用戶訊息、每次工具呼叫迴圈、每個串流回應,都走這個模型。
- 輔助模型:乾雜活的小弟。上下文壓縮、圖像分析、網頁摘要、審批評分、MCP 工具路由、會話標題生成、技能搜尋……一共 11 個任務槽位,每個都可以單獨覆蓋。
預設情況下,所有輔助任務都設成 auto——也就是跟著主模型走。想省錢?給某個任務單獨指定一個便宜的小模型就行。
在 Dashboard 裡切換模型
打開 Dashboard,點側邊欄的 Models,你會看到兩個區域:
- Model Settings:頂部面板,給各個槽位分配模型。
- Usage analytics:使用量卡片,顯示每個模型跑了多少會話、花了多少 token、花了多少錢。
主模型那行點 Change,會彈出選擇器:
- 左側:已認證的提供商(沒配過 API Key 的不會出現)
- 右側:該提供商的精選模型列表(不是原始
/models介面的全量 dump,而是 Hermes 精挑細選的 agentic 模型)
選好模型,點 Switch,設定就寫進 ~/.hermes/config.yaml 了。注意:這只對新會話生效。已經打開的聊天視窗不會變,想熱切換就用 /model 斜線指令。
中途切換的坑
在會話中途切模型,有兩點要留意:
1. 上下文壓縮警告:切模型時 Hermes 會估算你的下一條訊息會不會觸發預壓縮。如果當前會話長度已經接近新模型的視窗上限,切換回覆裡會帶警告。壓縮會在切換後的第一條用戶訊息時執行。
2. 提示快取重置:這是個大坑。提示快取是按模型區分的,中途換模型意味著下一條訊息要重新讀一遍整個對話,按全價輸入 token 計費,而不是快取價(約 75-90% 折扣)。長會話裡,這一下重讀可能比兩個模型之間的單價差異還貴。所以——要換趁早換,最好在會話剛開始或剛開新會話時換。
資料訓練分級的確認
有些模型(比如 muse-spark-1.2-contributor)因為廠商可能會拿你的資料訓練,所以價格更便宜。互動式選擇時會有確認彈窗。但無人值守場景(比如 Kanban worker、定時任務)沒法彈窗問人,所以預設直接拒絕。
如果你能接受無人值守任務的資料被拿去訓練,可以記錄一個持久確認:
hermes config set security.allow_data_training_tiers_noninteractive true
Hermes 每次無人值守啟動時仍會列印完整的資料政策警告和確認鍵,保留稽核軌跡。想撤銷就:
hermes config unset security.allow_data_training_tiers_noninteractive
小貼士:model: 設定的兩種形態
新裝 Hermes 時,config.yaml 裡的 model 是空字串 "",表示「還沒設定」。第一次跑 hermes setup 或 hermes model 後,它會自動升級成帶 provider、default、base_url、api_mode 的對映結構。如果你在設定檔裡看到空字串,跑一下 hermes model 就能自動修復。
總結一下:Nous Portal 是當前最省事的模型入口,一條指令接入 300+ 模型;主模型和 11 個輔助槽位都可以獨立設定;中途切模型記得注意快取重置的代價。下一篇咱們聊聊輔助模型的具體任務分配,敬請期待!
📖 官方文档
本文根据 Hermes Agent 官方文档编写,原文见:官方文档 › user-guide/configuring-models