Kết nối Google Vertex AI

Hãy nghĩ về Google Vertex AI như “phòng chờ hạng thương gia” dành cho các mô hình Gemini của Google—vẫn là những mô hình tuyệt vời đó, nhưng kèm theo các đặc quyền doanh nghiệp như giá ổn định, thanh toán qua tài khoản Google Cloud của bạn, và không có những bất ngờ về giới hạn tốc độ ngẫu nhiên.

Tại Sao Không Chỉ Dùng API Key Thông Thường?

Nếu bạn đã từng dùng các nhà cung cấp AI khác, bạn sẽ quen với việc sao chép một API key tĩnh vào file cấu hình. Vertex không hoạt động theo cách đó. Thay vì một key không bao giờ thay đổi, Vertex sử dụng token OAuth2 có thời hạn ngắn—giống như một thẻ lên máy bay hết hạn sau khoảng một giờ.

Tin tốt là gì? Hermes Agent tự động xử lý toàn bộ việc tạo và làm mới token. Bạn không bao giờ phải đụng đến token. Đây cũng là lý do tại sao bạn không thể chỉ dán một token tạm thời vào trường api_key của nhà cung cấp tùy chỉnh—nó sẽ hết hạn giữa cuộc trò chuyện và làm hỏng phiên làm việc của bạn.

Những Gì Bạn Cần Chuẩn Bị (Điều Kiện Tiên Quyết)

• Một dự án Google Cloud với API Vertex AI được bật và tính năng thanh toán đang hoạt động
• Một trong các loại thông tin xác thực sau:
  • File JSON key tài khoản dịch vụ (được khuyến nghị cho máy chủ)
  • Thông tin xác thực mặc định của ứng dụng (ADC) thông qua gcloud auth application-default login (rất phù hợp cho phát triển cục bộ)

Chỉ vậy thôi. Hermes sẽ tự động cài đặt google-auth lần đầu tiên bạn chọn Vertex.

Bắt Đầu Nhanh: Hai Lựa Chọn

Lựa chọn A — JSON tài khoản dịch vụ (dành cho máy chủ/cổng kết nối)

Chỉ cần thêm một dòng vào file ~/.hermes/.env của bạn:

echo "VERTEX_CREDENTIALS_PATH=/path/to/service-account.json" >> ~/.hermes/.env

Lựa chọn B — Thông tin xác thực mặc định của ứng dụng (dành cho phát triển cục bộ)

Chạy lệnh này trong terminal của bạn:

gcloud auth application-default login

Sau đó chọn Vertex làm nhà cung cấp của bạn:

hermes model

Chọn “More providers…” → “Google Vertex AI” → nhập ID dự án GCP của bạn (hoặc để trống để dùng ID trong thông tin xác thực của bạn) → chọn khu vực (mặc định: global) → chọn một mô hình Gemini.

Cuối cùng, bắt đầu trò chuyện:

hermes chat

Nơi Lưu Trữ Cài Đặt (Phân Tích Đơn Giản)

Hermes chia cài đặt Vertex thành hai file dựa trên mức độ nhạy cảm:

~/.hermes/.env — chứa con trỏ bí mật (đường dẫn đến thông tin xác thực của bạn):

# Dùng một trong các dòng sau (được kiểm tra theo thứ tự này); bỏ qua cả hai để dùng ADC:
VERTEX_CREDENTIALS_PATH=/path/to/service-account.json
GOOGLE_APPLICATION_CREDENTIALS=/path/to/service-account.json

~/.hermes/config.yaml — chứa cài đặt định tuyến không bí mật (ID dự án và khu vực):

model:
  default: google/gemini-...

Tóm Tắt & Mẹo Thực Tế

Vertex AI mang lại cho bạn độ tin cậy cấp doanh nghiệp với các mô hình Gemini, và Hermes tự động xử lý việc làm mới token OAuth2 phức tạp. Bạn chỉ cần trỏ Hermes đến thông tin xác thực của mình một lần là xong.

Mẹo chuyên nghiệp: Nếu bạn chạy Hermes trên máy chủ hoặc cổng kết nối, hãy luôn dùng phương pháp JSON tài khoản dịch vụ (Lựa chọn A)—an toàn và dễ dự đoán hơn ADC. Và nếu bạn gặp bất kỳ vấn đề nào, hãy chạy hermes setup để sửa chữa bản cài đặt được quản lý nếu quá trình cài đặt tự động google-auth thất bại. Chúc bạn xây dựng vui vẻ!