Kết nối Microsoft Foundry | Easy Understand Hermes Agent

Hãy coi tính năng này như một “phiên dịch viên vạn năng” cho các mô hình AI của bạn — nó giúp Hermes Agent trò chuyện với Microsoft Foundry (và Azure OpenAI) bất kể mô hình của bạn “nói ngôn ngữ” nào, để bạn không phải bận tâm về những chi tiết kỹ thuật.

Điều gì khiến tính năng này đặc biệt?

Microsoft Foundry có thể lưu trữ các mô hình AI sử dụng hai “phương ngữ” giao tiếp khác nhau:

Kiểu OpenAI (như GPT-4, GPT-5, Llama, Mistral) — các mô hình này sử dụng một endpoint trò chuyện chuẩn.
Kiểu Anthropic (như Claude) — các mô hình này sử dụng một định dạng tin nhắn khác.

Thông thường, bạn sẽ phải viết mã riêng cho từng loại. Nhưng provider azure-foundry của Hermes Agent sẽ tự động phát hiện định dạng mà mô hình của bạn sử dụng, sau đó xử lý việc dịch chuyển đổi cho bạn. Nó giống như có một bộ chuyển đổi cắm là chạy cho mọi mô hình.

Trước khi bắt đầu

Bạn cần chuẩn bị ba thứ:

Một tài nguyên Microsoft Foundry hoặc Azure OpenAI có ít nhất một mô hình đã được triển khai.
URL endpoint cho bản triển khai đó (tìm thấy trong Cổng Azure).
Một trong hai cách xác thực sau:
- API key (lấy từ Cổng thông tin trong mục “Keys and Endpoint”), hoặc
- Vai trò Azure AI User (ở một số đối tượng thuê bao còn gọi là “Foundry User”) nếu bạn muốn dùng Microsoft Entra ID — đây là phương pháp không cần khóa mà Microsoft khuyến nghị.

Bắt đầu nhanh: Chỉ một lệnh

Khi bạn đã có endpoint và thông tin xác thực, việc thiết lập chỉ là một lệnh duy nhất:

hermes model

Chỉ vậy thôi. Trình hướng dẫn sẽ:

Thăm dò endpoint của bạn để xem nó sử dụng giao thức truyền tải nào (kiểu OpenAI hay kiểu Anthropic).
Liệt kê các bản triển khai có sẵn để bạn chọn một cái.
Phát hiện độ dài ngữ cảnh của từng mô hình (lượng văn bản mà mô hình có thể xử lý cùng lúc).

Bạn không cần biết bất kỳ chi tiết kỹ thuật nào — Hermes Agent sẽ tự tìm hiểu cho bạn.

Điều gì xảy ra tiếp theo?

Sau khi bạn chọn một mô hình, Hermes Agent sẽ ghi nhớ lựa chọn của bạn. Giờ bạn có thể sử dụng nó cho bất kỳ tác vụ nào, như trò chuyện hoặc xây dựng agent, mà không cần cấu hình lại.

Nếu bạn muốn đổi mô hình hoặc kiểm tra những gì có sẵn, chỉ cần chạy lại hermes model.

Một ví dụ đơn giản

Hãy tưởng tượng bạn có hai mô hình trong Foundry: một GPT-4 (kiểu OpenAI) và một Claude (kiểu Anthropic). Với Hermes Agent, bạn có thể chuyển đổi giữa chúng bằng cách chạy hermes model và chọn mô hình bạn muốn. Provider sẽ xử lý các “ngôn ngữ” khác nhau ở hậu trường, vì vậy bạn chỉ cần trò chuyện với AI của mình một cách bình thường.

Tóm tắt & Mẹo thực tế

Tóm lại: Tính năng này giúp bạn loại bỏ cơn đau đầu khi phải xử lý các định dạng API khác nhau. Bạn trỏ Hermes Agent đến tài nguyên Foundry của mình, nó sẽ tự tìm hiểu phần còn lại, và bạn sẵn sàng để bắt đầu.

Mẹo thực tế: Nếu bạn làm việc trong môi trường doanh nghiệp, hãy sử dụng phương pháp Microsoft Entra ID không cần khóa (vai trò Azure AI User) thay vì API key — cách này an toàn hơn và là phương pháp được Microsoft khuyến nghị. Chỉ cần đảm bảo người dùng hoặc service principal của bạn được gán vai trò đó trước khi chạy hermes model.

Giờ thì hãy kết nối các mô hình của bạn — thực sự chỉ cách một lệnh mà thôi.