フォールバックプロバイダー — AIがダウンしない世界

AIアシスタントとの楽しい会話の最中に、突然応答が止まってしまった経験はありませんか？プロバイダーの障害やモデルの過負荷が原因かもしれません。Hermes Agentなら、そんな心配はもう過去のもの。フォールバックプロバイダーは、車のスペアタイヤのようなものです。使わないに越したことはないけれど、いざという時に命拾いしてくれます。

フォールバックプロバイダーとは？

簡単に言うと、フォールバックプロバイダーとは、プライマリモデルが失敗したときにHermesが自動的に切り替えるバックアップ用のAIモデルのことです。プランB、C、Dを常に用意しておくようなイメージですね。メインモデルがダウンしても、Hermesは慌てません。静かに次の利用可能なオプションへ切り替えるだけです。

仕組み

Hermesは2種類のモデルスロットを使用します。

メインモデル — すべてのメッセージ、ツール呼び出し、応答を考える「頭脳」。
補助モデル — ウェブページの要約、画像分析、長い会話の圧縮など、特定のタスクを処理する小さな相棒たち。

メインモデルを設定する際に、フォールバックの連鎖も定義できます。プライマリモデルが失敗した場合、Hermesは自動的に次のモデルを試します。この連鎖は fallback_providers / fallback_model チェーンと呼ばれます。

フォールバックチェーンの設定

最も簡単な始め方は、Nous Portalを使うことです。新規インストール時は、次のコマンドを実行するだけです：

hermes setup --portal

これでログインし、Nousをプロバイダーとして設定するまでを1つのコマンドで完了できます。設定内容を確認するには：

hermes portal info

ポータル購読者には、トークン課金プロバイダーが10%オフになる特典も！嬉しいボーナスですね。

モデルページ

ダッシュボードを開き、サイドバーのModelsをクリックします。2つのセクションが表示されます：

Model Settings — スロットにモデルを割り当てる場所。
Usage analytics — セッションを実行した各モデルを、トークン数とコストとともに表示するカード。

一番上のカードがModel Settingsパネルです。Main model行のChangeをクリックしてピッカーを開きます。

メインモデルの選択

ピッカーには2つの列があります：

左 — 認証済みのプロバイダー（APIキー設定済み、OAuth済み、カスタムエンドポイント）。
右 — そのプロバイダー向けに厳選された推奨エージェントモデルのリスト。

フィルターボックスに入力して絞り込みます。モデルを選んでSwitchを押すと、Hermesが設定ファイルに書き込みます。

重要： これは新しいセッションにのみ適用されます。現在のチャットを即座に切り替えたい場合は、チャット内で/modelスラッシュコマンドを使用してください。

セッション途中の切り替えとコンテキスト警告

会話の途中でモデルを切り替えると、Hermesは次のメッセージでコンテキスト圧縮が必要かどうかをチェックします。新しいモデルの制限に近い場合は警告が表示されますが、切り替え自体はすぐに適用されます。

注意： セッション途中でのモデル切り替えは、プロンプトキャッシュをリセットします。つまり、次のメッセージは割引されたキャッシュ料金ではなく、全額で会話全体を再読込することになります。長いセッションでは、この一度きりのコストが大きくなる可能性があります。深い議論の途中ではなく、会話の早い段階で切り替えましょう。

補助モデル：相棒たち

Show auxiliaryをクリックすると、11のタスクスロットが表示されます。これらが処理するのは：

コンテキスト圧縮
ビジョン（画像分析）
ウェブページの要約
承認スコアリング
MCPツールルーティング
セッションタイトル生成
スキル検索

すべての補助タスクはデフォルトでautoに設定されています。つまり、Hermesはそのタスクにもメインモデルを使おうとします。それが失敗した場合は、タスク固有のフォールバックチェーン、次にメインフォールバックチェーン、そしてHermesの組み込みディスカバリーの順に従います。

サイドタスクに、より安価または高速なモデルを使いたい場合は、特定のタスクを上書きします。例えば、強力なメインモデルを思考用に確保しつつ、ウェブページの要約には小型で高速なモデルを使う、といった具合です。

無人データトレーニングティア

一部の割引モデルでは、ベンダーがあなたのデータをトレーニングに使用することを許可しています。インタラクティブセッションでは常に確認プロンプトが表示されます。しかし、無人ワークロード（cronエージェントなど）の場合、Hermesはフェイルクローズドします。明示的に許可しない限り、それらのモデルは使用されません。

有効にするには：

hermes config set security.allow_data_training_tiers_noninteractive true

いつでも取り消せます：

hermes config unset security.allow_data_training_tiers_noninteractive

結論

フォールバックプロバイダーがあれば、AIがダウンすることはありません。プロバイダーの障害、レート制限、あるいはモデルの調子が悪い日でも、Hermesがしっかり守ってくれます。チェーンを設定し、補助モデルを構成して、何が起きても途切れないAI会話を楽しみましょう。