Fallback Providers — AI Never Down | Easy Understand Hermes Agent

Nhà Cung Cấp Dự Phòng — AI Không Bao Giờ Gián Đoạn

Bạn đã bao giờ đang giữa một cuộc trò chuyện thú vị với trợ lý AI của mình, và đột nhiên nó ngừng phản hồi? Có thể nhà cung cấp đang gặp sự cố, hoặc mô hình đang quá tải. Với Hermes Agent, điều đó đã là chuyện quá khứ. Hãy nghĩ về nhà cung cấp dự phòng như lốp xe dự phòng trong ô tô của bạn — bạn hy vọng không bao giờ cần đến nó, nhưng khi cần, nó cứu bạn một mạng.

Nhà Cung Cấp Dự Phòng Là Gì?

Nói một cách đơn giản, nhà cung cấp dự phòng là một mô hình AI sao lưu mà Hermes tự động chuyển sang khi mô hình chính của bạn gặp sự cố. Nó giống như có sẵn Phương án B, C và D. Nếu mô hình chính của bạn ngừng hoạt động, Hermes không hề hoảng loạn — nó chỉ lặng lẽ chuyển sang lựa chọn khả dụng tiếp theo.

Cách Thức Hoạt Động

Hermes sử dụng hai loại vị trí mô hình:

Mô hình chính — “bộ não” xử lý mọi tin nhắn, lời gọi công cụ và phản hồi.
Mô hình phụ trợ — những trợ thủ nhỏ hơn đảm nhận các công việc cụ thể như tóm tắt trang web, phân tích hình ảnh hoặc nén hội thoại dài.

Khi bạn thiết lập mô hình chính, bạn cũng có thể xác định một chuỗi các mô hình dự phòng. Nếu mô hình chính gặp lỗi, Hermes tự động thử mô hình tiếp theo trong chuỗi. Chuỗi này được gọi là chuỗi fallback_providers / fallback_model.

Thiết Lập Chuỗi Dự Phòng Của Bạn

Cách dễ nhất để bắt đầu là sử dụng Nous Portal. Khi cài đặt mới, chỉ cần chạy:

hermes setup --portal

Lệnh này sẽ đăng nhập và đặt Nous làm nhà cung cấp của bạn chỉ trong một lệnh. Bạn có thể kiểm tra những gì đã được kết nối bằng:

hermes portal info

Người đăng ký Portal cũng được giảm 10% cho các nhà cung cấp tính phí theo token — một phần thưởng tuyệt vời!

Trang Models

Mở bảng điều khiển và nhấp vào Models trong thanh bên. Bạn sẽ thấy hai phần:

Model Settings — nơi bạn gán mô hình cho các vị trí.
Usage analytics — các thẻ hiển thị mọi mô hình đã chạy một phiên, kèm số token và chi phí.

Thẻ trên cùng là bảng Model Settings. Nhấp vào Change trên hàng mô hình chính để mở trình chọn.

Chọn Mô Hình Chính Của Bạn

Trình chọn có hai cột:

Bên trái — các nhà cung cấp bạn đã xác thực (đã đặt API key, OAuth hoặc endpoint tùy chỉnh).
Bên phải — danh sách tuyển chọn các mô hình agentic được đề xuất cho nhà cung cấp đó.

Nhập vào ô lọc để thu hẹp tìm kiếm. Chọn một mô hình, nhấn Switch, và Hermes sẽ ghi nó vào tệp cấu hình của bạn.

Quan trọng: Điều này chỉ áp dụng cho các phiên mới. Nếu bạn muốn chuyển đổi nhanh cuộc trò chuyện hiện tại, hãy sử dụng lệnh /model bên trong cuộc trò chuyện đó.

Chuyển Đổi Giữa Phiên và Cảnh Báo Ngữ Cảnh

Khi bạn chuyển đổi mô hình giữa cuộc trò chuyện, Hermes kiểm tra xem tin nhắn tiếp theo của bạn có cần nén ngữ cảnh hay không. Nếu bạn đang gần giới hạn của mô hình mới, bạn sẽ nhận được cảnh báo — nhưng việc chuyển đổi vẫn được áp dụng ngay lập tức.

Lưu ý: Chuyển đổi mô hình giữa phiên sẽ đặt lại bộ nhớ đệm lời nhắc. Điều này có nghĩa là tin nhắn tiếp theo sẽ đọc lại toàn bộ cuộc trò chuyện với giá đầy đủ thay vì mức giá chiết khấu của bộ nhớ đệm. Trong một phiên dài, chi phí một lần này có thể đáng kể. Vì vậy, hãy chuyển đổi sớm trong cuộc trò chuyện, không phải giữa chừng một cuộc thảo luận sâu.

Mô Hình Phụ Trợ: Những Trợ Thủ

Nhấp vào Show auxiliary để hiển thị 11 vị trí tác vụ. Chúng xử lý:

Nén ngữ cảnh
Thị giác (phân tích hình ảnh)
Tóm tắt trang web
Chấm điểm phê duyệt
Định tuyến công cụ MCP
Tạo tiêu đề phiên
Tìm kiếm kỹ năng

Mọi tác vụ phụ trợ mặc định là auto — nghĩa là Hermes cũng thử dùng mô hình chính của bạn cho công việc đó. Nếu thất bại, nó sẽ theo chuỗi dự phòng cụ thể của tác vụ, sau đó là chuỗi dự phòng chính, rồi đến cơ chế khám phá tích hợp của Hermes.

Ghi đè một tác vụ cụ thể khi bạn muốn dùng mô hình rẻ hơn hoặc nhanh hơn cho một công việc phụ. Ví dụ: bạn có thể dùng một mô hình nhỏ, nhanh để tóm tắt trang web trong khi vẫn giữ mô hình chính mạnh mẽ cho việc suy luận.

Các Tầng Huấn Luyện Dữ Liệu Không Giám Sát

Một số mô hình chiết khấu cho phép nhà cung cấp huấn luyện trên dữ liệu của bạn. Các phiên tương tác luôn hiển thị lời nhắc xác nhận. Nhưng đối với các khối lượng công việc không giám sát (như agent cron), Hermes sẽ từ chối an toàn — nó sẽ không sử dụng các mô hình đó trừ khi bạn cho phép một cách rõ ràng.

Để kích hoạt chúng:

hermes config set security.allow_data_training_tiers_noninteractive true

Thu hồi bất cứ lúc nào bằng:

hermes config unset security.allow_data_training_tiers_noninteractive

Kết Luận

Nhà cung cấp dự phòng có nghĩa là AI của bạn không bao giờ gián đoạn. Dù là sự cố nhà cung cấp, giới hạn tốc độ, hay một mô hình đang có một ngày tồi tệ, Hermes luôn hỗ trợ bạn. Thiết lập chuỗi dự phòng của bạn, cấu hình các mô hình phụ trợ, và tận hưởng các cuộc trò chuyện AI không bị gián đoạn — bất kể điều gì xảy ra phía sau hậu trường.