Tutorial 28: Provider-Konfiguration

Tutorial 28: Provider-Konfiguration

Willkommen zurück! In diesem Tutorial tauchen wir tief in die Frage ein, wie Hermes entscheidet, welches KI-Modell was übernimmt. Falls du dich je gefragt hast, warum manche Aufgaben schneller wirken als andere, oder wie du deinen Agenten günstiger betreiben kannst, ist dieses Tutorial genau richtig für dich.

Zwei Arten von Modell-Slots

Stell dir Hermes wie ein Team vor. Du hast dein Hauptmodell – den Starspieler, der jede Benutzernachricht, jeden Tool-Aufruf und jede gestreamte Antwort verarbeitet. Das ist das Gehirn deines Agenten.

Aber der Starspieler macht nicht alles. Hermes lagert kleinere, repetitive Aufgaben an Hilfsmodelle aus. Das sind die Sidekicks: Kontextkomprimierung, Bildanalyse, Webseiten-Zusammenfassung, Genehmigungs-Scoring, MCP-Tool-Routing, Sitzungstitel-Generierung und Skill-Suche. Jede dieser 11 Aufgaben hat ihren eigenen Slot, und du kannst jeden einzelnen unabhängig überschreiben.

Der schnellste Weg: Nous Portal

Bevor wir in die Details gehen, hier eine Abkürzung. Nous Portal gibt dir Zugang zu über 300 Modellen mit einem einzigen Abonnement. Bei einer frischen Installation genügt:

hermes setup --portal

Das meldet dich an und setzt Nous als deinen Provider – alles in einem Befehl. Neugierig, was eingerichtet ist? Prüfe es mit hermes portal info. Portal-Abonnenten erhalten außerdem 10 % Rabatt auf token-abgerechnete Provider, was ein netter Bonus ist.

Die Modelle-Seite

Öffne dein Dashboard und klicke in der Seitenleiste auf Modelle. Du siehst zwei Bereiche:

1. Modelleinstellungen – das obere Panel, in dem du Modelle den Slots zuweist.
2. Nutzungsanalyse – sortierte Karten, die jedes Modell zeigen, das eine Sitzung ausgeführt hat, mit Token-Zahlen, Kosten und Fähigkeits-Badges.

Die Hauptzeile zeigt, was dein Agent für neue Sitzungen verwenden wird. Klicke auf Ändern, um den Auswahl-Dialog zu öffnen.

Das Hauptmodell festlegen

Der Auswahl-Dialog hat zwei Spalten:

• Links – deine authentifizierten Provider. Nur Provider, die du eingerichtet hast (API-Schlüssel, OAuth oder eigener Endpunkt), erscheinen hier. Fehlt einer? Gehe zu Schlüssel und füge die Zugangsdaten hinzu.
• Rechts – die kuratierte Modellliste für diesen Provider. Das sind die Agentic-Modelle, die Hermes empfiehlt, nicht der rohe /models-Dump (der bei OpenRouter über 400 Modelle umfasst, einschließlich TTS- und Bildgeneratoren).

Wähle ein Modell, klicke auf Wechseln, und Hermes schreibt es in ~/.hermes/config.yaml. Wichtig: Das gilt nur für neue Sitzungen. Deine geöffneten Chat-Tabs laufen weiter mit ihrem ursprünglichen Modell. Um den aktuellen Chat live zu wechseln, verwende den /model-Slash-Befehl darin.

Wechsel mitten in der Sitzung: Was du wissen solltest

Modelle mitten im Gespräch wechseln? Hermes schätzt, ob deine nächste Nachricht eine Kontextkomprimierung gegen das Fenster des neuen Modells auslöst. Wenn du nahe am Schwellenwert bist, siehst du eine Warnung – aber der Wechsel wird trotzdem sofort angewendet.

Große Warnung: Wechsel mitten in der Sitzung setzen den Prompt-Cache zurück. Caches sind an das Modell gebunden, das die Anfrage bedient, daher bedeutet jede Änderung, dass die nächste Nachricht die gesamte Konversation zum vollen Input-Token-Preis neu liest, statt zum gecachten (ca. 75–90 % reduzierten) Satz. Bei einer langen Sitzung kann dieses einmalige Neulesen mehr kosten als der Unterschied pro Token zwischen den Modellen. Wechsle, wenn du musst, aber bevorzugt früh in einem Gespräch.

Unbeaufsichtigte Data-Training-Stufen

Einige Modelle (wie muse-spark-1.2-contributor) sind rabattiert, weil der Anbieter möglicherweise mit deinen Daten trainiert. Die interaktive Auswahl zeigt immer einen Bestätigungsdialog. Aber nicht-interaktive Pfade – wie Kanban-Worker und Cron-Agenten – schlagen fehl, weil sie nicht nachfragen können.

Wenn du damit für unbeaufsichtigte Workloads einverstanden bist, speichere eine dauerhafte Bestätigung:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes gibt die vollständige Datenrichtlinien-Warnung trotzdem bei jedem unbeaufsichtigten Start aus, sodass die Logs einen Prüfpfad behalten. Widerrufe mit:

hermes config unset security.allow_data_training_tiers_noninteractive

Hilfsmodelle festlegen

Klicke auf Hilfsmodelle anzeigen, um die 11 Aufgaben-Slots sichtbar zu machen. Jede Hilfsaufgabe steht standardmäßig auf auto – das bedeutet, Hermes versucht für diese Aufgabe ebenfalls dein Hauptmodell. Wenn dieser Weg fehlschlägt, folgt auto aufgabenspezifischen Fallback-Ketten, dann deinen Haupt-fallback_providers, dann der eingebauten Erkennungskette von Hermes.

Überschreibe eine bestimmte Aufgabe, wenn du ein günstigeres oder schnelleres Modell für eine Nebenaufgabe möchtest. Das ist eine großartige Möglichkeit, Tokens bei repetitiver Arbeit zu sparen.

Eine letzte Anmerkung zum model:-Schema

Bei einer brandneuen Installation enthält deine Konfiguration model: "" – ein leerer String, der „noch nicht konfiguriert“ bedeutet. Wenn du zum ersten Mal hermes setup oder hermes model ausführst, wird dieser Schlüssel zu einem Mapping mit den Unter-Schlüsseln provider, default, base_url und api_mode erweitert. Falls du jemals einen leeren String in config.yaml siehst, führe einfach hermes model aus (oder klicke im Dashboard auf Ändern), und Hermes schreibt die korrekte Dict-Form für dich.

Das war’s! Du weißt jetzt, wie du sowohl dein Haupt- als auch deine Hilfsmodelle konfigurierst. Beim nächsten Mal erkunden wir Fallback-Provider – damit dein Agent niemals ausfällt.