Hướng dẫn 28: Cấu hình Nhà cung cấp

Chào mừng bạn quay trở lại! Trong hướng dẫn này, chúng ta sẽ tìm hiểu cách Hermes quyết định mô hình AI nào đảm nhận việc gì. Nếu bạn từng thắc mắc tại sao một số tác vụ xử lý nhanh hơn những tác vụ khác, hoặc làm thế nào để agent của bạn chạy rẻ hơn, thì bài này dành cho bạn.

Hai Loại Vị trí Mô hình

Hãy hình dung Hermes như một đội nhóm. Bạn có mô hình chính — ngôi sao xử lý mọi tin nhắn của người dùng, mọi lệnh gọi công cụ, và mọi phản hồi phát trực tiếp. Đây chính là bộ não của agent.

Nhưng ngôi sao không làm tất cả mọi thứ. Hermes chuyển những công việc nhỏ, lặp đi lặp lại cho mô hình phụ trợ. Đây là những trợ thủ đắc lực: nén ngữ cảnh, phân tích hình ảnh, tóm tắt trang web, chấm điểm phê duyệt, định tuyến công cụ MCP, tạo tiêu đề phiên trò chuyện, và tìm kiếm kỹ năng. Mỗi một trong 11 tác vụ này đều có vị trí riêng, và bạn có thể ghi đè từng cái một cách độc lập.

Con đường Nhanh nhất: Nous Portal

Trước khi đi sâu vào chi tiết, đây là một lối tắt. Nous Portal cho bạn truy cập vào hơn 300 mô hình chỉ với một gói đăng ký duy nhất. Khi cài đặt mới, chỉ cần chạy:

hermes setup --portal

Lệnh đó sẽ đăng nhập và đặt Nous làm nhà cung cấp của bạn chỉ trong một thao tác. Tò mò muốn biết những gì đã được kết nối? Kiểm tra bằng hermes portal info. Người đăng ký Portal còn được giảm 10% cho các nhà cung cấp tính phí theo token, đây là một phần thưởng khá hấp dẫn.

Trang Models

Mở dashboard của bạn và nhấp vào Models trong thanh bên. Bạn sẽ thấy hai phần:

Model Settings — bảng điều khiển phía trên nơi bạn gán mô hình vào các vị trí.
Usage analytics — các thẻ xếp hạng hiển thị mọi mô hình đã chạy một phiên, kèm số token, chi phí và huy hiệu khả năng.

Hàng chính hiển thị mô hình mà agent của bạn sẽ sử dụng cho các phiên mới. Nhấp Change để mở trình chọn.

Thiết lập Mô hình Chính

Trình chọn có hai cột:

Bên trái — các nhà cung cấp đã xác thực của bạn. Chỉ những nhà cung cấp bạn đã thiết lập (API key, OAuth, hoặc endpoint tùy chỉnh) mới xuất hiện ở đây. Thiếu một cái? Đến mục Keys và thêm thông tin xác thực.
Bên phải — danh sách mô hình được tuyển chọn cho nhà cung cấp đó. Đây là những mô hình agentic mà Hermes khuyến nghị, không phải danh sách /models thô (trên OpenRouter bao gồm hơn 400 mô hình, kể cả TTS và trình tạo hình ảnh).

Chọn một mô hình, nhấn Switch, và Hermes sẽ ghi nó vào ~/.hermes/config.yaml. Quan trọng: điều này chỉ áp dụng cho phiên mới. Các tab trò chuyện đang mở của bạn vẫn tiếp tục chạy với mô hình ban đầu. Để chuyển đổi nhanh trong cuộc trò chuyện hiện tại, hãy dùng lệnh /model ngay trong đó.

Chuyển đổi Giữa Phiên: Điều Bạn Nên Biết

Chuyển mô hình giữa cuộc trò chuyện? Hermes sẽ ước tính xem tin nhắn tiếp theo của bạn có kích hoạt nén ngữ cảnh so với cửa sổ của mô hình mới hay không. Nếu bạn gần đến ngưỡng, bạn sẽ thấy cảnh báo — nhưng việc chuyển đổi vẫn được áp dụng ngay lập tức.

Cảnh báo lớn: chuyển đổi giữa phiên sẽ đặt lại bộ nhớ đệm prompt. Bộ nhớ đệm gắn liền với mô hình phục vụ yêu cầu, vì vậy bất kỳ thay đổi nào cũng có nghĩa là tin nhắn tiếp theo sẽ đọc lại toàn bộ cuộc trò chuyện với giá token đầu vào đầy đủ thay vì mức giá đã cache (giảm ~75–90%). Trong một phiên dài, việc đọc lại một lần đó có thể tốn kém hơn cả sự chênh lệch giá theo token giữa các mô hình. Hãy chuyển khi bạn cần, nhưng tốt nhất nên chuyển sớm trong cuộc trò chuyện.

Các Tầng Huấn luyện Dữ liệu Không giám sát

Một số mô hình (như muse-spark-1.2-contributor) được giảm giá vì nhà cung cấp có thể huấn luyện trên dữ liệu của bạn. Lựa chọn tương tác luôn hiển thị lời nhắc xác nhận. Nhưng các đường dẫn không tương tác — như Kanban workers và cron agents — sẽ tự động chặn lại vì chúng không thể hỏi.

Nếu bạn chấp nhận điều đó cho các tác vụ không giám sát, hãy ghi nhận một xác nhận vĩnh viễn:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes vẫn in cảnh báo đầy đủ về chính sách dữ liệu ở mỗi lần khởi động không giám sát, vì vậy nhật ký vẫn giữ dấu vết kiểm toán. Thu hồi bằng lệnh:

hermes config unset security.allow_data_training_tiers_noninteractive

Thiết lập Mô hình Phụ trợ

Nhấp Show auxiliary để hiển thị 11 vị trí tác vụ. Mọi tác vụ phụ trợ mặc định là auto — nghĩa là Hermes cũng thử dùng mô hình chính của bạn cho công việc đó. Nếu đường dẫn đó thất bại, auto sẽ theo chuỗi dự phòng theo tác vụ cụ thể, sau đó đến fallback_providers chính của bạn, rồi đến chuỗi khám phá tích hợp sẵn của Hermes.

Ghi đè một tác vụ cụ thể khi bạn muốn một mô hình rẻ hơn hoặc nhanh hơn cho công việc phụ. Đây là cách tuyệt vời để tiết kiệm token cho những công việc lặp đi lặp lại.

Một Lưu ý Cuối về Lược đồ `model:`

Trên bản cài đặt hoàn toàn mới, cấu hình của bạn có model: "" — một chuỗi rỗng nghĩa là “chưa được cấu hình.” Lần đầu tiên bạn chạy hermes setup hoặc hermes model, khóa đó sẽ được nâng cấp thành một ánh xạ với các khóa con provider, default, base_url, và api_mode. Nếu bạn thấy chuỗi rỗng trong config.yaml, chỉ cần chạy hermes model (hoặc nhấp Change trong dashboard) và Hermes sẽ tự động ghi dạng dict phù hợp cho bạn.

Vậy là xong! Giờ bạn đã biết cách cấu hình cả mô hình chính và mô hình phụ trợ. Lần tới, chúng ta sẽ khám phá các nhà cung cấp dự phòng — để agent của bạn không bao giờ bị gián đoạn.