모델: 두뇌와 조력자들

Hermes를 하나의 팀이라고 생각해보세요. 메인 모델 — 모든 사고와 대화, 도구 호출을 담당하는 에이스 플레이어가 있습니다. 그리고 보조 모델 — 웹페이지 요약, 이미지 분석, 긴 대화 압축 같은 사이드 작업을 처리하는 지원팀이 있죠.

이번 포스트에서는 대시보드에서 이러한 모델들을 설정하는 방법에 대해 다룹니다. 들어보면 복잡해 보이지만 실제로는 훨씬 간단하니, 단계별로 차근차근 알아보겠습니다.

모델 페이지

Hermes 대시보드를 열고 사이드바에서 Models를 클릭하세요. 두 개의 주요 섹션이 표시됩니다:

Model Settings — 다양한 작업에 모델을 할당하는 상단 패널
Usage analytics — 어떤 모델이 세션을 실행했는지, 토큰 수와 비용을 보여주는 카드 목록

상단 카드가 핵심입니다. 새 채팅 세션에서 사용될 메인 모델을 보여줍니다. Change를 클릭하면 다른 모델로 변경할 수 있습니다.

메인 모델 설정하기

Change를 클릭하면 두 개의 열이 있는 선택 대화상자가 열립니다:

왼쪽: 인증된 프로바이더 목록. API 키나 OAuth로 설정한 프로바이더만 여기에 표시됩니다. 보이지 않는다면 Keys로 이동해 추가하세요.
오른쪽: 해당 프로바이더의 선별된 모델 목록. 모든 모델을 그대로 나열하는 것이 아니라, Hermes가 추천하는 에이전틱 모델만 골라서 보여줍니다.

필터 상자에 입력해 프로바이더 이름이나 모델 ID로 검색할 수 있습니다. 모델을 선택하고 Switch를 누르면 Hermes가 설정 파일에 저장합니다.

중요: 이 설정은 새로운 세션에만 적용됩니다. 이미 열려 있는 채팅은 원래 모델을 계속 사용합니다. 대화 중간에 전환하려면 /model 슬래시 명령어를 사용하세요.

세션 중간에 모델 전환하기

활성 세션 내에서 모델을 전환하면 Hermes가 빠르게 확인합니다: 다음 메시지가 컨텍스트 압축을 트리거할까요? 세션이 이미 길어서 새 모델의 한도에 가깝다면 경고가 표시됩니다. 전환 자체는 즉시 이루어지지만, 전환 후 첫 메시지에서 압축이 실행됩니다.

중요한 주의사항 하나: 세션 중간 전환은 프롬프트 캐시를 초기화합니다. 프롬프트 캐시는 대화를 다시 읽을 때 큰 할인(75~90% 할인)을 제공합니다. 하지만 캐시는 특정 모델에 연결되어 있습니다. 따라서 모델을 전환하면 다음 메시지가 전체 대화를 정가로 다시 읽게 됩니다. 긴 세션의 경우, 이 일회성 재읽기 비용이 두 모델 간의 차이보다 더 클 수 있습니다. 필요할 때 전환하되, 대화 초반에 전환하는 것이 더 현명합니다.

무인 데이터 학습 등급

일부 모델은 공급업체가 사용자 데이터를 학습에 사용할 수 있기 때문에 더 저렴합니다. 이러한 모델을 대화형으로 선택하면 Hermes가 확인 프롬프트를 표시합니다. 하지만 Kanban 워커나 cron 에이전트 같은 무인 작업은 어떨까요? 질문을 할 수 없습니다.

괜찮다면 영구 확인을 기록할 수 있습니다:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes는 여전히 시작할 때마다 전체 데이터 정책 경고를 출력하므로 로그에 감사 추적이 남습니다. 철회하려면:

hermes config unset security.allow_data_training_tiers_noninteractive

보조 모델 설정하기

Show auxiliary를 클릭하면 11개의 작업 슬롯이 표시됩니다. 이 슬롯들은 다음과 같은 사이드 작업을 처리합니다:

컨텍스트 압축
비전(이미지 분석)
웹페이지 요약
승인 점수 계산
MCP 도구 라우팅
세션 제목 생성
스킬 검색

모든 보조 작업은 기본적으로 auto로 설정됩니다 — 즉 Hermes가 해당 작업에도 메인 모델을 사용하려고 시도합니다. 실패하면 폴백 체인을 따릅니다. 특정 사이드 작업에 더 저렴하거나 빠른 모델을 원할 때 해당 작업을 재정의하세요.

가장 빠른 방법: Nous Portal

하나의 구독으로 300개 이상의 모델을 사용하고 싶다면 Nous Portal을 확인해보세요. 새로 설치한 경우 다음을 실행하기만 하면 됩니다:

hermes setup --portal

이 명령 하나로 로그인하고 Nous를 프로바이더로 설정합니다. hermes portal info로 연결된 구성을 확인할 수 있습니다. Portal 구독자는 토큰 과금 프로바이더에서 10% 할인도 받을 수 있습니다.

`model:` 스키마에 대한 참고사항

새로 설치한 경우 설정 파일에 model: "" — “아직 설정되지 않음”을 의미하는 빈 문자열이 있습니다. hermes setup이나 hermes model을 처음 실행하면 이 키가 provider, default, base_url, api_mode를 포함한 적절한 매핑으로 업그레이드됩니다. config.yaml에서 빈 문자열을 발견하면 hermes model을 실행하기만 하면 자동으로 수정됩니다.

여기까지입니다! 이제 메인 두뇌와 조력자 팀을 모두 설정하는 방법을 알게 되었습니다. 에이전트 팀을 만들어보세요.