Mixture of Agents — 더 똑똑한 답변 | Easy Understand Hermes Agent

Mixture of Agents — 더 똑똑한 답변

Hermes Agent를 최대한 활용하는 방법에 대한 시리즈에 다시 오신 것을 환영합니다! 오늘은 이름만 들으면 복잡해 보이지만 실제로 보면 꽤 간단한 주제를 다뤄볼게요: 모델 구성하기.

이렇게 생각해 보세요. 여러분의 에이전트는 단순한 하나의 두뇌가 아닙니다. 오히려 작은 팀에 가깝죠. 메인 싱커(main thinker) 가 있습니다 — 모든 대화, 모든 도구 호출, 모든 응답을 처리하는 모델이에요. 그리고 헬퍼(helper) 들이 있습니다 — 웹 페이지 요약, 이미지 분석, 긴 대화 압축 같은 보조 작업을 처리하는 더 작고 빠른 모델들이죠.

가장 좋은 점은? 팀 구성을 직접 선택할 수 있다는 겁니다. 함께 살펴볼까요.

모델 페이지: 여러분의 컨트롤 센터

Hermes 대시보드를 열고 사이드바에서 Models를 클릭하세요. 두 가지가 표시됩니다:

Model Settings — 모델을 각 작업에 할당하는 상단 패널
Usage Analytics — 세션을 실행한 모든 모델의 순위 목록으로, 토큰 수와 비용이 포함됩니다

상단의 메인 행은 새 세션에서 에이전트가 사용할 모델을 보여줍니다. Change를 클릭하여 선택기를 여세요.

메인 모델 선택하기

선택기에는 두 개의 열이 있습니다:

왼쪽: 인증된 공급자 목록. API 키나 OAuth로 설정한 공급자만 여기에 표시됩니다. 누락된 항목이 있다면 Keys로 이동하여 추가하세요.
오른쪽: 해당 공급자의 에이전트용 모델 큐레이션 목록. 사용 가능한 모든 모델을 그냥 나열한 것이 아니라 Hermes가 에이전트 작업에 실제로 추천하는 모델만 표시됩니다.

필터 상자에 공급자, 슬러그 또는 모델 ID를 입력하여 검색할 수 있습니다. 하나를 선택하고 Switch를 누르면 끝입니다. Hermes가 자동으로 구성 파일에 기록합니다.

중요: 이 설정은 새 세션에만 적용됩니다. 이미 열려 있는 채팅 탭이 있다면 시작할 때 사용한 모델을 계속 사용합니다. 대화 중간에 모델을 바꾸려면 /model 슬래시 명령어를 사용하세요.

세션 중간에 전환하기: 알아둘 점

활성 세션 중에 모델을 전환하면 Hermes가 빠르게 확인합니다: 다음 메시지가 새 모델로 컨텍스트 압축을 트리거할까요? 대화가 이미 길다면 경고가 표시됩니다. 전환은 즉시 적용되며, 압축은 전환 후 첫 메시지에서 실행됩니다.

여기서 중요한 점: 세션 중간 전환은 프롬프트 캐시를 초기화합니다. 프롬프트 캐시는 요청을 처리하는 모델에 연결되어 있습니다. 따라서 대화 중간에 모델을 전환하면 다음 메시지가 할인된 캐시 요금 대신 전체 요금으로 전체 채팅을 다시 읽게 됩니다. 긴 세션에서는 이 일회성 재읽기 비용이 두 모델 간의 차이보다 더 클 수 있습니다. 필요할 때 전환하되, 가능하면 대화 초반에 전환하는 것이 좋습니다.

“데이터 학습” 관련 질문

일부 모델은 공급자가 프롬프트를 학습에 사용할 수 있기 때문에 더 저렴합니다. 대화형으로 선택할 때 Hermes는 항상 확인을 요청합니다. 하지만 무인 작업은 어떨까요? — 크론 작업이나 Kanban 워커처럼 사용자가 지켜보지 않는 작업 말이죠.

이러한 작업은 기본적으로 실패 시 차단(fail closed) 됩니다. 괜찮다면 영구 확인을 기록할 수 있습니다:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes는 여전히 시작할 때마다 전체 데이터 정책 경고를 출력하므로 로그에 감사 추적이 남습니다. 언제든지 다음 명령으로 취소할 수 있습니다:

hermes config unset security.allow_data_training_tiers_noninteractive

헬퍼 미세 조정하기

Show auxiliary를 클릭하면 11개의 작업 슬롯이 표시됩니다 — 컨텍스트 압축, 비전, 웹 페이지 요약, 승인 점수 등이 포함됩니다.

모든 보조 작업은 기본적으로 auto로 설정되어 있으며, Hermes가 해당 작업에도 메인 모델을 사용하려고 시도합니다. 실패하면 작업별 체인, 그다음 메인 폴백 공급자, 마지막으로 Hermes 내장 검색 체인으로 폴백합니다.

보조 작업에 더 저렴하거나 빠른 모델을 원할 때 특정 작업을 재정의하세요. 예를 들어, 사고에는 크고 비싼 모델을 사용하고 웹 페이지 요약에는 작고 빠른 모델을 사용할 수 있습니다.

가장 빠른 방법: Nous Portal

하나의 구독으로 300개 이상의 모델을 원한다면 Nous Portal을 확인해 보세요. 새로 설치한 경우 다음을 실행하세요:

hermes setup --portal

그러면 로그인과 Nous를 공급자로 설정하는 작업이 한 번에 완료됩니다. hermes portal info로 연결 상태를 확인할 수 있습니다. Portal 구독자는 토큰 과금 공급자에 대해 10% 할인도 받을 수 있습니다.

마지막으로 한 가지

새로 설치한 경우 구성 파일에 model: "" — “아직 구성되지 않음”을 의미하는 빈 문자열이 있습니다. hermes setup 또는 hermes model을 처음 실행하면 공급자, 기본값, base_url, api_mode가 포함된 적절한 매핑으로 업그레이드됩니다. 빈 문자열이 보이면 hermes model을 실행하기만 하면 Hermes가 자동으로 수정해 줍니다.

이상입니다! 이제 여러분은 나만의 드림 팀 모델을 구성할 준비가 되었습니다. 다음 시간에는 폴백 공급자로 에이전트를 더 똑똑하게 만드는 방법을 알아보겠습니다. 기대해 주세요!