Mixture of Agents — Câu Trả Lời Thông Minh Hơn

Chào mừng bạn quay trở lại với chuỗi bài viết về cách tận dụng tối đa Hermes Agent! Hôm nay, chúng ta sẽ cùng tìm hiểu một thứ nghe có vẻ phức tạp nhưng thực ra lại khá đơn giản khi bạn thấy nó hoạt động: cấu hình mô hình của bạn.

Hãy nghĩ theo cách này: agent của bạn không chỉ là một bộ não. Nó giống như một đội nhóm nhỏ. Có người suy nghĩ chính — mô hình xử lý mọi cuộc trò chuyện, mọi lệnh gọi công cụ, mọi phản hồi. Sau đó là những trợ lý — các mô hình nhỏ hơn, nhanh hơn, đảm nhận các tác vụ phụ như tóm tắt trang web, phân tích hình ảnh hoặc nén các cuộc trò chuyện dài.

Phần tuyệt nhất? Bạn được chọn ai sẽ ở trong đội của mình. Hãy cùng tìm hiểu cách làm nhé.

Trang Models: Trung Tâm Điều Khiển Của Bạn

Mở bảng điều khiển Hermes và nhấp vào Models trong thanh bên. Bạn sẽ thấy hai phần:

Model Settings — bảng phía trên nơi bạn gán mô hình cho các công việc khác nhau.
Usage Analytics — danh sách xếp hạng mọi mô hình đã chạy phiên làm việc, kèm theo số token và chi phí.

Hàng chính ở phía trên hiển thị mô hình agent sẽ dùng cho các phiên mới. Nhấp Change để mở trình chọn.

Chọn Mô Hình Chính Của Bạn

Trình chọn có hai cột:

Bên trái: Các nhà cung cấp đã xác thực của bạn. Chỉ những nhà cung cấp bạn đã thiết lập (với API key hoặc OAuth) mới hiển thị ở đây. Nếu thiếu một cái nào đó, hãy đến Keys để thêm.
Bên phải: Danh sách tuyển chọn các mô hình agentic cho nhà cung cấp đó. Đây không phải là danh sách thô mọi mô hình có sẵn — chỉ là những mô hình Hermes thực sự khuyên dùng cho công việc agent.

Gõ vào ô lọc để tìm kiếm theo nhà cung cấp, slug hoặc ID mô hình. Chọn một cái, nhấn Switch, và xong. Hermes tự động ghi vào file cấu hình của bạn.

Quan trọng: Điều này chỉ áp dụng cho các phiên mới. Nếu bạn đã mở sẵn một tab trò chuyện, nó sẽ tiếp tục chạy với mô hình ban đầu. Để chuyển đổi nhanh giữa cuộc trò chuyện, hãy dùng lệnh gạch chéo /model.

Chuyển Đổi Giữa Phiên: Những Điều Cần Biết

Khi bạn chuyển mô hình trong một phiên đang hoạt động, Hermes thực hiện kiểm tra nhanh: tin nhắn tiếp theo của bạn có kích hoạt nén ngữ cảnh với mô hình mới không? Nếu cuộc trò chuyện đã dài, bạn sẽ thấy cảnh báo. Việc chuyển đổi vẫn áp dụng ngay lập tức — nén chỉ chạy trên tin nhắn đầu tiên sau khi chuyển.

Đây là điểm cần lưu ý: chuyển đổi giữa phiên sẽ đặt lại bộ nhớ đệm prompt. Bộ nhớ đệm prompt gắn với mô hình đang phục vụ yêu cầu. Vì vậy nếu bạn chuyển mô hình giữa cuộc trò chuyện, tin nhắn tiếp theo sẽ đọc lại toàn bộ cuộc chat với giá đầy đủ thay vì giá ưu đãi từ bộ nhớ đệm. Trong một phiên dài, việc đọc lại một lần đó có thể tốn kém hơn cả sự chênh lệch giữa hai mô hình. Hãy chuyển khi cần, nhưng tốt nhất nên chuyển sớm trong cuộc trò chuyện.

Câu Hỏi Về “Huấn Luyện Trên Dữ Liệu Của Bạn”

Một số mô hình rẻ hơn vì nhà cung cấp có thể huấn luyện trên prompt của bạn. Khi bạn chọn một mô hình tương tác, Hermes luôn yêu cầu xác nhận. Nhưng còn các tác vụ không cần giám sát — như cron jobs hoặc Kanban workers chạy mà bạn không theo dõi thì sao?

Những tác vụ đó mặc định từ chối (fail closed). Nếu bạn chấp nhận, bạn có thể ghi lại một xác nhận bền vững:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes vẫn in cảnh báo chính sách dữ liệu đầy đủ mỗi lần khởi động, để log của bạn luôn có dấu vết kiểm toán. Thu hồi bất cứ lúc nào bằng:

hermes config unset security.allow_data_training_tiers_noninteractive

Tinh Chỉnh Các Trợ Lý Của Bạn

Nhấp Show auxiliary để hiển thị 11 vị trí tác vụ — như nén ngữ cảnh, thị giác, tóm tắt trang web, chấm điểm phê duyệt, và nhiều hơn nữa.

Mọi tác vụ phụ đều mặc định là auto, nghĩa là Hermes thử dùng mô hình chính của bạn cho công việc đó. Nếu thất bại, nó sẽ chuyển qua các chuỗi tác vụ cụ thể, rồi đến các nhà cung cấp dự phòng chính, rồi đến chuỗi khám phá tích hợp của Hermes.

Ghi đè một tác vụ cụ thể khi bạn muốn dùng mô hình rẻ hơn hoặc nhanh hơn cho công việc phụ. Ví dụ, bạn có thể dùng mô hình lớn đắt tiền cho việc suy nghĩ, nhưng dùng mô hình nhỏ nhanh để tóm tắt trang web.

Con Đường Nhanh Nhất: Nous Portal

Nếu bạn muốn có 300+ mô hình chỉ với một gói đăng ký, hãy xem Nous Portal. Trên bản cài đặt mới, chỉ cần chạy:

hermes setup --portal

Lệnh đó đăng nhập và đặt Nous làm nhà cung cấp của bạn chỉ trong một lệnh. Kiểm tra những gì đã kết nối bằng hermes portal info. Người đăng ký Portal còn được giảm 10% cho các nhà cung cấp tính theo token.

Một Lưu Ý Cuối

Trên bản cài đặt hoàn toàn mới, config của bạn có model: "" — một chuỗi rỗng nghĩa là “chưa được cấu hình”. Lần đầu tiên bạn chạy hermes setup hoặc hermes model, giá trị đó sẽ được nâng cấp thành một ánh xạ đúng với provider, default, base_url và api_mode. Nếu bạn thấy chuỗi rỗng, chỉ cần chạy hermes model và Hermes sẽ tự sửa cho bạn.

Vậy là xong! Giờ bạn đã sẵn sàng để xây dựng đội ngũ mô hình trong mơ của mình. Lần tới, chúng ta sẽ xem cách làm cho agent thông minh hơn nữa với các nhà cung cấp dự phòng. Hãy đón xem nhé!