Tutorial 28: Configurazione del Provider

Tutorial 28: Configurazione del Provider

Bentornato! In questo tutorial, ci immergiamo in come Hermes decide quale modello AI fa cosa. Se ti sei mai chiesto perché alcune attività sembrano più reattive di altre, o come rendere il tuo agente più economico da eseguire, questo tutorial fa per te.

Due Tipi di Slot per i Modelli

Pensa a Hermes come a una squadra. Hai il tuo modello principale — il giocatore star che gestisce ogni messaggio dell’utente, ogni chiamata agli strumenti e ogni risposta in streaming. Questo è il cervello del tuo agente.

Ma il giocatore star non fa tutto. Hermes scarica i compiti più piccoli e ripetitivi su modelli ausiliari. Questi sono i gregari: compressione del contesto, analisi delle immagini, riepilogo delle pagine web, punteggio delle approvazioni, instradamento degli strumenti MCP, generazione dei titoli delle sessioni e ricerca delle skill. Ognuno di questi 11 compiti ha il proprio slot e puoi sovrascriverli singolarmente.

Il Percorso Più Veloce: Nous Portal

Prima di addentrarci nei dettagli, ecco una scorciatoia. Nous Portal ti dà accesso a più di 300 modelli con un unico abbonamento. Su una nuova installazione, basta eseguire:

hermes setup --portal

Questo ti fa accedere e imposta Nous come provider in un solo comando. Curioso di sapere cosa è configurato? Controlla con hermes portal info. Gli abbonati a Portal ricevono anche 10% di sconto sui provider a pagamento a token, che è un bel bonus.

La Pagina dei Modelli

Apri la tua dashboard e clicca su Modelli nella barra laterale. Vedrai due sezioni:

1. Impostazioni dei Modelli — il pannello superiore dove assegni i modelli agli slot.
2. Analisi dell’utilizzo — schede classificate che mostrano ogni modello che ha eseguito una sessione, con conteggi dei token, costi e badge delle capacità.

La riga principale mostra cosa userà il tuo agente per le nuove sessioni. Clicca su Cambia per aprire il selettore.

Impostazione del Modello Principale

Il selettore ha due colonne:

• Sinistra — i tuoi provider autenticati. Solo i provider che hai configurato (chiave API, OAuth o endpoint personalizzato) compaiono qui. Ne manca uno? Vai su Chiavi e aggiungi la credenziale.
• Destra — l’elenco curato dei modelli per quel provider. Questi sono i modelli agentici che Hermes raccomanda, non il dump grezzo di /models (che su OpenRouter include più di 400 modelli, inclusi TTS e generatori di immagini).

Scegli un modello, premi Cambia, e Hermes lo scrive in ~/.hermes/config.yaml. Importante: questo vale solo per le nuove sessioni. Le tue schede di chat aperte continuano a usare il modello originale. Per cambiare al volo la chat corrente, usa il comando slash /model al suo interno.

Cambi a Metà Sessione: Cosa Dovresti Sapere

Cambiare modello a metà conversazione? Hermes stimerà se il tuo prossimo messaggio attiverà la compressione del contesto rispetto alla finestra del nuovo modello. Se sei vicino alla soglia, vedrai un avviso — ma il cambio si applica comunque immediatamente.

Avviso importante: i cambi a metà sessione azzerano la cache del prompt. Le cache sono legate al modello che serve la richiesta, quindi qualsiasi modifica significa che il messaggio successivo rilegge l’intera conversazione al prezzo pieno dei token di input invece che alla tariffa scontata della cache (~75–90% di sconto). In una sessione lunga, quella rilettura una tantum può costare più della differenza per token tra i modelli. Cambia quando ne hai bisogno, ma preferisci farlo all’inizio di una conversazione.

Livelli di Addestramento Dati Non Presidiati

Alcuni modelli (come muse-spark-1.2-contributor) sono scontati perché il fornitore potrebbe addestrarsi sui tuoi dati. La selezione interattiva mostra sempre un prompt di conferma. Ma i percorsi non interattivi — come i worker Kanban e gli agenti cron — falliscono in modo sicuro perché non possono chiedere.

Se per i carichi di lavoro non presidiati va bene così, registra un’ammissione persistente:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes stampa comunque l’avviso completo sulla politica dei dati a ogni avvio non presidiato, quindi i log mantengono una traccia di audit. Revoca con:

hermes config unset security.allow_data_training_tiers_noninteractive

Impostazione dei Modelli Ausiliari

Clicca su Mostra ausiliari per rivelare gli 11 slot delle attività. Ogni attività ausiliaria è impostata su auto di default — il che significa che Hermes prova il tuo modello principale anche per quel compito. Se quel percorso fallisce, auto segue le catene di fallback specifiche dell’attività, poi i tuoi fallback_providers principali, poi la catena di scoperta integrata di Hermes.

Sovrascrivi un’attività specifica quando vuoi un modello più economico o più veloce per un compito secondario. È un ottimo modo per risparmiare token su lavori ripetitivi.

Un’Ultima Nota sullo Schema model:

Su una nuova installazione, la tua configurazione ha model: "" — una stringa vuota che significa “non ancora configurato”. La prima volta che esegui hermes setup o hermes model, quella chiave viene aggiornata a una mappatura con le sotto-chiavi provider, default, base_url e api_mode. Se vedi mai una stringa vuota in config.yaml, esegui semplicemente hermes model (o clicca su Cambia nella dashboard) e Hermes scriverà la forma dizionario corretta per te.

Questo è tutto! Ora sai come configurare sia il modello principale che quelli ausiliari. La prossima volta esploreremo i provider di fallback — così il tuo agente non andrà mai giù.