實戰:接入 AWS Bedrock
Hermes 實戰教學第19篇:AWS Bedrock。亞馬遜雲大模型接入。
這篇教學將帶你一步步把 Hermes Agent 接入亞馬遜的 Bedrock 服務,讓你能用上 Claude、Nova 等頂級大模型。
準備工作:像辦銀行卡一樣簡單
想像一下,使用 Bedrock 就像去銀行辦業務——AWS 憑證就是你的身分證。好消息是,Hermes 支援多種「身分證」:
- 如果你在 AWS 的伺服器(EC2、ECS、Lambda)上執行,什麼都不用做,系統自動辨識身分
- 本機開發可以用
aws configure指令設定,或者設定環境變數AWS_ACCESS_KEY_ID和AWS_SECRET_ACCESS_KEY
另外,需要安裝 boto3 這個「翻譯官」:
cd ~/.hermes/hermes-agent && uv pip install -e ".[bedrock]"
第 1 步:選擇 Bedrock 作為你的模型供應商
執行以下指令,就像打開一個「模型超市」:
hermes model
在選單中選擇 “More providers…” → “AWS Bedrock”,然後選擇你所在的區域(比如 us-east-2)和心儀的模型。
第 2 步:確認設定
選好後,Hermes 會自動產生設定檔(~/.hermes/config.yaml),就像自動填好的表單:
model:
default: us.anthropic.claude-sonnet-4-6
provider: bedrock
base_url: https://bedrock-runtime.us-east-2.amazonaws.com
bedrock:
region: us-east-2
第 3 步:開始聊天
hermes chat
就這麼簡單!現在你可以和 Claude 對話了。
進階技巧:讓模型更聰明、更省錢
🔒 內容安全護欄(Guardrails):如果你想讓模型不回答敏感話題,可以在設定裡加上:
bedrock:
guardrail:
guardrail_identifier: "abc123def456" # 在 Bedrock 控制台取得
guardrail_version: "1"
⚡ 提示詞快取:Hermes 會自動在系統提示詞、工具定義和最新訊息後插入快取標記,重複內容不再重複計費,省錢又提速。無需額外設定!
🔄 會話中切換模型:聊到一半想換個模型?直接輸入:
/model us.amazon.nova-pro-v1:0
/model deepseek.v3.2
常見問題排查
“No API key found”:檢查憑證是否設定正確,執行 aws configure 或給伺服器掛上 IAM 角色。
“on-demand throughput isn’t supported”:記得使用帶 us. 或 global. 前綴的推論設定檔 ID,而不是裸的模型 ID。比如用 us.anthropic.claude-sonnet-4-6 而不是 anthropic.claude-sonnet-4-6。
“ThrottlingException”:請求太頻繁觸發了限流。Hermes 會自動重試,也可以去 AWS 控制台申請提高配額。
總結
接入 Bedrock 只需三步:安裝依賴 → 選擇供應商 → 開始聊天。AWS 憑證是唯一的門檻,其餘交給 Hermes 自動處理。Bedrock 的優勢在於生態完整:IAM 安全認證、跨區域容災、護欄機制,以及豐富的模型選擇——從 Anthropic 的 Claude 到 Meta 的 Llama,再到亞馬遜自家的 Nova,總有一款適合你。
下篇預告:接入只是開始,下一篇我們將深入實戰——用 Hermes Agent 建構一個自動處理郵件的智慧助手,看看這個框架如何幫我們解放雙手!
📖 官方文档
本文根据 Hermes Agent 官方文档编写,原文见:官方文档 › guides/aws-bedrock