第28篇:提供商配置——接入各种大模型
Hermes Agent 官方教程第28篇:接入各种大模型
第28篇:提供商設定——接入各種大模型
嘿,朋友們!今天咱們來聊聊 Hermes 的「大腦」設定——怎麼幫它接上各種大模型。別擔心,這事兒比你想的簡單多了。
兩種模型槽位
Hermes 用兩種模型槽位:
- 主模型(Main model)——Agent 的「思考引擎」。你發的每條訊息、每次工具呼叫、每個串流回應,都得靠它。
- 輔助模型(Auxiliary models)——幹雜活的小弟們。上下文壓縮、影像分析、網頁摘要、審批評分、MCP 工具路由、會話標題產生、技能搜尋……一共 11 個任務槽位,每個都能單獨覆蓋。
最快路徑:Nous Portal
如果你不想折騰,Nous Portal 是捷徑——一個訂閱搞定 300+ 模型。全新安裝後,跑一句:
hermes setup --portal
登入一次,Nous 就自動設為你的提供商了。想看看配了啥?用 hermes portal info。訂閱用戶還能享受token 計費提供商 10% 折扣,真香。
儀表板設定
打開儀表板,點側邊欄的 Models,你會看到兩個區域:
- 模型設定——頂部面板,給各個槽位分配模型
- 用量分析——排名卡片,顯示每個模型跑了多少 token、花了多少錢
主模型那行點 Change,彈出選擇器:
- 左欄——已認證的提供商(沒配 API key 的不會顯示,去 Keys 裡補上)
- 右欄——該提供商的精選模型清單(不是原始 /models 大雜燴,OpenRouter 上那 400+ 裡可有一堆 TTS、畫圖模型呢)
選好點 Switch,Hermes 就寫進 ~/.hermes/config.yaml 了。注意:這只對新會話生效。想熱切換當前聊天?用 /model 斜線指令。
中途切換的坑
在活躍會話裡切模型,Hermes 會估算你的下一條訊息是否觸發上下文壓縮。另外,中途切換會重設提示快取——整段對話得按全價重新讀一遍,長會話裡這筆開銷可能比模型差價還大。所以:要換趁早,別聊到一半再折騰。
資料訓練層級
像 muse-spark-1.2-contributor 這類模型有折扣,因為廠商可能拿你的資料訓練。互動式選擇會彈確認框,但無人值守任務(看板 worker、cron agent)沒法問,所以預設拒絕。如果你接受,可以:
hermes config set security.allow_data_training_tiers_noninteractive true
每次啟動仍會印出完整警告,日誌留痕。想撤銷就 unset 掉。
輔助模型
點 Show auxiliary 展開 11 個任務槽位。預設全是 auto——意思是「主模型能幹的活我也幹」。想省錢?給特定任務指定個便宜小模型就行。
好了,去幫你的 Hermes 接上心儀的大腦吧!下期見~
📖 官方文档
本文根据 Hermes Agent 官方文档编写,原文见:官方文档 › user-guide/configuring-models