튜토리얼 28: 공급자 구성

다시 만나서 반가워요! 이번 튜토리얼에서는 Hermes가 어떤 AI 모델이 무엇을 담당할지 결정하는 방식을 자세히 살펴보겠습니다. 어떤 작업이 다른 작업보다 더 빠르게 느껴지는 이유가 궁금했거나, 에이전트 실행 비용을 줄이는 방법을 찾고 있었다면 바로 이 글이 도움이 될 거예요.

두 가지 유형의 모델 슬롯

Hermes를 하나의 팀이라고 생각해 보세요. 메인 모델이 있습니다 — 모든 사용자 메시지, 모든 도구 호출, 모든 스트리밍 응답을 처리하는 핵심 선수죠. 이게 바로 에이전트의 두뇌입니다.

하지만 핵심 선수가 모든 것을 다 하지는 않아요. Hermes는 더 작고 반복적인 작업을 보조 모델에 넘깁니다. 이들은 조력자 역할이에요: 컨텍스트 압축, 이미지 분석, 웹페이지 요약, 승인 점수 산정, MCP 도구 라우팅, 세션 제목 생성, 스킬 검색까지. 이 11가지 작업 각각은 자체 슬롯을 가지며, 각각 독립적으로 재정의할 수 있습니다.

가장 빠른 길: Nous Portal

세부 내용에 들어가기 전에, 지름길이 하나 있어요. Nous Portal을 이용하면 단일 구독으로 300개 이상의 모델에 접근할 수 있습니다. 새로 설치한 경우, 다음 명령어만 실행하면 됩니다:

hermes setup --portal

이 한 줄이면 로그인과 동시에 Nous를 공급자로 설정합니다. 어떤 게 연결되어 있는지 궁금하다면 hermes portal info로 확인하세요. Portal 구독자는 토큰 과금 공급자 10% 할인도 받을 수 있으니 꽤 괜찮은 혜택이에요.

모델 페이지

대시보드를 열고 사이드바에서 Models를 클릭하세요. 두 개의 섹션이 보일 겁니다:

Model Settings — 상단 패널로, 슬롯에 모델을 할당하는 곳입니다.
Usage analytics — 세션을 실행한 모든 모델을 토큰 수, 비용, 기능 배지와 함께 순위 카드로 보여줍니다.

메인 행에는 새 세션에서 사용할 에이전트 모델이 표시됩니다. Change를 클릭하면 선택기가 열립니다.

메인 모델 설정하기

선택기에는 두 개의 열이 있습니다:

왼쪽 — 인증된 공급자 목록. 설정한 공급자(API 키, OAuth, 또는 커스텀 엔드포인트)만 여기에 표시됩니다. 빠진 게 있나요? Keys로 이동해서 자격 증명을 추가하세요.
오른쪽 — 해당 공급자의 선별된 모델 목록. Hermes가 추천하는 에이전틱 모델들이지, 원시 /models 덤프가 아닙니다 (OpenRouter의 경우 TTS와 이미지 생성기를 포함해 400개 이상의 모델이 있거든요).

모델을 선택하고 Switch를 누르면 Hermes가 ~/.hermes/config.yaml에 기록합니다. 중요: 이 설정은 새 세션에만 적용됩니다. 열려 있는 채팅 탭은 원래 모델을 계속 사용해요. 현재 채팅을 즉시 바꾸려면 그 안에서 /model 슬래시 명령어를 사용하세요.

세션 중간 전환: 알아두어야 할 사항

대화 중간에 모델을 전환한다고요? Hermes는 다음 메시지가 새 모델의 컨텍스트 창을 기준으로 컨텍스트 압축을 트리거할지 예측합니다. 임계값에 가까우면 경고가 표시되지만, 전환 자체는 즉시 적용됩니다.

중요 경고: 세션 중간 전환은 프롬프트 캐시를 초기화합니다. 캐시는 요청을 처리하는 모델에 연결되어 있기 때문에, 어떤 변경이든 다음 메시지가 캐시된 할인율(~75–90% 할인) 대신 전체 입력 토큰 가격으로 전체 대화를 다시 읽게 됩니다. 긴 세션에서는 이 일회성 재읽기가 모델 간 토큰 단가 차이보다 더 큰 비용이 들 수 있어요. 필요할 때 전환하되, 가능하면 대화 초반에 하는 게 좋습니다.

무인 데이터 학습 등급

일부 모델(예: muse-spark-1.2-contributor)은 공급자가 사용자 데이터를 학습에 사용할 수 있기 때문에 할인됩니다. 대화형 선택에서는 항상 확인 프롬프트가 표시됩니다. 하지만 Kanban 워커나 cron 에이전트 같은 비대화형 경로는 질문을 할 수 없기 때문에 안전하게 차단됩니다.

무인 워크로드에서 이를 허용하려면 영구 승인을 기록하세요:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes는 무인 시작 시마다 전체 데이터 정책 경고를 계속 출력하므로, 로그에 감사 추적이 남습니다. 해제하려면 다음을 실행하세요:

hermes config unset security.allow_data_training_tiers_noninteractive

보조 모델 설정하기

Show auxiliary를 클릭하면 11개의 작업 슬롯이 표시됩니다. 모든 보조 작업은 기본적으로 auto로 설정되어 있습니다 — 즉 Hermes가 해당 작업에도 메인 모델을 사용하려고 시도한다는 뜻이에요. 그 경로가 실패하면 auto는 작업별 폴백 체인을 따르고, 그다음 메인 fallback_providers, 마지막으로 Hermes의 내장 발견 체인을 따릅니다.

보조 작업에 더 저렴하거나 빠른 모델을 원할 때 특정 작업을 재정의하세요. 반복 작업에서 토큰을 절약할 수 있는 좋은 방법입니다.

`model:` 스키마에 대한 마지막 참고 사항

새로 설치한 경우, config에는 model: "" — “아직 구성되지 않음”을 의미하는 빈 문자열이 있습니다. hermes setup 또는 hermes model을 처음 실행하면 해당 키는 provider, default, base_url, api_mode 하위 키를 가진 매핑으로 업그레이드됩니다. config.yaml에서 빈 문자열을 발견하면 hermes model을 실행하거나(또는 대시보드에서 Change 클릭) Hermes가 적절한 dict 형식을 작성해 줍니다.

이상입니다! 이제 메인 모델과 보조 모델을 모두 구성하는 방법을 알게 되었어요. 다음 시간에는 폴백 공급자를 살펴볼 거예요 — 에이전트가 절대 다운되지 않도록 말이죠.