Mô hình: Bộ não và Đội ngũ trợ lý

Hãy hình dung Hermes như một đội nhóm. Có mô hình chính — ngôi sao chủ lực đảm nhận mọi việc tư duy, trò chuyện và gọi công cụ. Sau đó là các mô hình phụ trợ — đội hậu cần xử lý các công việc phụ như tóm tắt trang web, phân tích hình ảnh, hoặc nén hội thoại dài.

Bài viết này xoay quanh việc cấu hình các mô hình này từ bảng điều khiển. Nghe có vẻ phức tạp nhưng thực ra dễ hơn bạn tưởng, và chúng ta sẽ đi qua từng bước một.

Trang Models

Mở bảng điều khiển Hermes và nhấp vào Models trong thanh bên. Bạn sẽ thấy hai phần chính:

Model Settings — bảng phía trên nơi bạn gán mô hình cho các công việc khác nhau.
Usage analytics — danh sách các thẻ hiển thị mô hình nào đã chạy phiên, số token và chi phí.

Thẻ trên cùng là nơi phép màu xảy ra. Nó hiển thị mô hình chính sẽ được sử dụng cho mọi phiên trò chuyện mới. Nhấp Change để chọn một mô hình khác.

Thiết lập mô hình chính

Khi bạn nhấp Change, một hộp thoại chọn sẽ mở ra với hai cột:

Bên trái: Các nhà cung cấp đã xác thực của bạn. Chỉ những nhà cung cấp bạn đã thiết lập (với API key hoặc OAuth) mới xuất hiện ở đây. Nếu bạn không thấy nhà cung cấp nào, hãy đến mục Keys để thêm.
Bên phải: Danh sách mô hình được tuyển chọn cho nhà cung cấp đó. Đây không phải là danh sách thô của mọi mô hình — mà là danh sách được chọn lọc kỹ càng các mô hình agentic mà Hermes khuyên dùng.

Gõ vào ô lọc để tìm kiếm theo tên nhà cung cấp hoặc ID mô hình. Chọn một mô hình, nhấn Switch, và Hermes sẽ lưu nó vào tệp cấu hình của bạn.

Quan trọng: Điều này chỉ áp dụng cho các phiên mới. Mọi cuộc trò chuyện bạn đang mở vẫn tiếp tục chạy với mô hình ban đầu. Để chuyển đổi giữa chừng, hãy sử dụng lệnh gạch chéo /model.

Chuyển đổi mô hình giữa phiên

Khi bạn chuyển đổi mô hình trong một phiên đang hoạt động, Hermes sẽ thực hiện kiểm tra nhanh: tin nhắn tiếp theo của bạn có kích hoạt nén ngữ cảnh không? Nếu phiên của bạn đã dài và gần đến giới hạn của mô hình mới, bạn sẽ nhận được cảnh báo. Việc chuyển đổi vẫn diễn ra ngay lập tức, nhưng quá trình nén sẽ chạy trên tin nhắn đầu tiên của bạn sau khi chuyển.

Một lưu ý lớn: Chuyển đổi mô hình giữa phiên sẽ đặt lại bộ nhớ đệm lời nhắc. Bộ nhớ đệm lời nhắc giúp bạn được giảm giá lớn (75–90%) khi đọc lại hội thoại. Nhưng bộ nhớ đệm gắn liền với mô hình cụ thể. Vì vậy, chuyển đổi mô hình đồng nghĩa với việc tin nhắn tiếp theo sẽ đọc lại toàn bộ hội thoại với giá đầy đủ. Trong một phiên dài, việc đọc lại một lần đó có thể tốn kém hơn cả sự chênh lệch giữa hai mô hình. Hãy chuyển đổi khi cần, nhưng tốt hơn hết là nên chuyển sớm trong cuộc trò chuyện.

Các bậc đào tạo dữ liệu không giám sát

Một số mô hình rẻ hơn vì nhà cung cấp có thể huấn luyện trên dữ liệu của bạn. Khi bạn chọn các mô hình này một cách tương tác, Hermes sẽ hiển thị lời nhắc xác nhận. Nhưng còn các tác vụ không giám sát như Kanban workers hay cron agents thì sao? Chúng không thể đặt câu hỏi.

Nếu bạn đồng ý, bạn có thể ghi lại một xác nhận vĩnh viễn:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes vẫn sẽ in cảnh báo chính sách dữ liệu đầy đủ mỗi lần khởi động, để nhật ký luôn có dấu vết kiểm toán. Để thu hồi:

hermes config unset security.allow_data_training_tiers_noninteractive

Thiết lập các mô hình phụ trợ

Nhấp Show auxiliary để hiển thị 11 ô tác vụ. Các tác vụ này xử lý các công việc phụ như:

Nén ngữ cảnh
Thị giác (phân tích hình ảnh)
Tóm tắt trang web
Chấm điểm phê duyệt
Định tuyến công cụ MCP
Tạo tiêu đề phiên
Tìm kiếm kỹ năng

Mọi tác vụ phụ trợ đều mặc định là auto — nghĩa là Hermes cũng thử dùng mô hình chính của bạn cho công việc đó. Nếu thất bại, nó sẽ tuân theo chuỗi dự phòng. Ghi đè một tác vụ cụ thể khi bạn muốn một mô hình rẻ hơn hoặc nhanh hơn cho công việc phụ cụ thể đó.

Con đường nhanh nhất: Nous Portal

Nếu bạn muốn có hơn 300 mô hình chỉ với một lần đăng ký, hãy xem Nous Portal. Trên bản cài đặt mới, chỉ cần chạy:

hermes setup --portal

Lệnh này sẽ đăng nhập và đặt Nous làm nhà cung cấp của bạn chỉ trong một lệnh. Kiểm tra những gì đã được kết nối bằng hermes portal info. Người đăng ký Portal còn được giảm 10% cho các nhà cung cấp tính phí theo token.

Lưu ý về lược đồ `model:`

Trên bản cài đặt hoàn toàn mới, tệp cấu hình của bạn có model: "" — một chuỗi rỗng nghĩa là “chưa được cấu hình”. Lần đầu tiên bạn chạy hermes setup hoặc hermes model, khóa đó sẽ được nâng cấp thành một ánh xạ phù hợp với provider, default, base_url và api_mode. Nếu bạn thấy chuỗi rỗng trong config.yaml, chỉ cần chạy hermes model và nó sẽ tự sửa.

Vậy là xong! Giờ bạn đã biết cách cấu hình cả bộ não chính lẫn đội ngũ trợ lý. Hãy tiến lên và xây dựng đội ngũ agent của bạn.