Kết nối AWS Bedrock

Hãy coi Amazon Bedrock như một chiếc máy bán hàng tự động khổng lồ dành cho các mô hình AI—thay vì bán đồ ăn vặt, nó phục vụ các mô hình ngôn ngữ mạnh mẽ từ Anthropic, Meta và nhiều hãng khác, tất cả chỉ với một phương thức thanh toán đơn giản: tài khoản AWS của bạn.

Những Gì Bạn Cần Chuẩn Bị

Trước khi bắt đầu, hãy đảm bảo bạn có:

• Một tài khoản AWS (gói miễn phí là đủ dùng)
• Thông tin xác thực AWS—giống như chứng minh thư của bạn vậy. Bạn có thể dùng:
  • Một IAM role nếu bạn đang chạy trên EC2/ECS/Lambda (không cần cấu hình gì cả!)
  • Biến môi trường AWS_ACCESS_KEY_ID + AWS_SECRET_ACCESS_KEY
  • Một AWS_PROFILE cho SSO hoặc các profile có tên
  • Hoặc đơn giản chạy aws configure cho môi trường phát triển cục bộ

Bước 1: Cài Đặt Hermes Hỗ Trợ Bedrock

Mở terminal và chạy:

cd ~/.hermes/hermes-agent
uv pip install -e ".[bedrock]"

Lệnh này thêm “plugin” Bedrock vào bản cài đặt Hermes của bạn. Cứ tưởng tượng như việc cài thêm một gói ngôn ngữ mới cho điện thoại vậy.

Bước 2: Bảo Hermes Sử Dụng Bedrock

Chạy lệnh này để chọn nhà cung cấp:

hermes model

Khi được hỏi:

1. Chọn “More providers…”
2. Chọn “AWS Bedrock”
3. Chọn khu vực của bạn (như us-east-2)
4. Chọn một mô hình (ví dụ: Claude Sonnet 4)

Hermes sẽ tự động lưu cài đặt của bạn. File ~/.hermes/config.yaml của bạn sẽ trông giống như thế này:

model:
  default: us.anthropic.claude-sonnet-4-6
  provider: bedrock
  base_url: https://bedrock-runtime.us-east-2.amazonaws.com
bedrock:
  region: us-east-2

Bước 3: Bắt Đầu Trò Chuyện

hermes chat

Xong! Giờ bạn đã đang trò chuyện với một mô hình thông qua AWS Bedrock.

Cài Đặt Khu Vực (Region)

Bạn có thể đặt khu vực AWS của mình theo ba cách (ưu tiên từ cao xuống thấp):

1. Thêm region vào mục bedrock: trong file cấu hình
2. Đặt biến môi trường AWS_REGION
3. Đặt biến môi trường AWS_DEFAULT_REGION

Nếu bạn không đặt, Hermes sẽ mặc định dùng us-east-1.

Nâng Cao: Guardrails (Bộ Lọc An Toàn)

Muốn thêm bộ lọc nội dung? Thêm đoạn này vào cấu hình của bạn:

bedrock:
  region: us-east-2
  guardrail:
    guardrail_identifier: "abc123def456"  # Lấy từ giao diện Bedrock console
    guardrail_version: "1"                # Hoặc "DRAFT"
    stream_processing_mode: "async"       # "sync" hoặc "async"
    trace: "disabled"                     # "enabled", "disabled", "enabled_full"

Khám Phá Mô Hình

Hermes tự động tìm các mô hình khả dụng trong khu vực của bạn. Bạn có thể tùy chỉnh những mô hình được hiển thị:

bedrock:
  discovery:
    enabled: true
    provider_filter: ["anthropic", "meta"]

Tổng Kết

Kết nối AWS Bedrock với Hermes cũng giống như cắm một chiếc máy chơi game mới vào TV—cài driver, chọn game, và chơi thôi. Bạn sẽ có quyền truy cập vào các mô hình hàng đầu với sự bảo mật và độ tin cậy của AWS.

Mẹo thực tế: Nếu bạn đang chạy trên EC2 hoặc Lambda, hãy bỏ qua hoàn toàn việc dùng API keys. Chỉ cần gắn một IAM role có quyền AmazonBedrockFullAccess và Hermes sẽ tự động phát hiện. Không cần cấu hình, không rắc rối—chỉ có sức mạnh AI thuần túy.