Mixture of Agents — Jawaban yang Lebih Cerdas

Selamat datang kembali di seri kami tentang memaksimalkan Hermes Agent! Hari ini, kita akan membahas sesuatu yang terdengar rumit tapi sebenarnya cukup sederhana begitu kamu melihatnya langsung: mengonfigurasi model-model kamu.

Anggap saja begini: agen kamu bukan hanya satu otak. Ia lebih seperti tim kecil. Ada pemikir utama — model yang menangani setiap percakapan, setiap panggilan alat, setiap respons. Lalu ada para pembantu — model yang lebih kecil dan lebih cepat yang menangani tugas-tugas sampingan seperti merangkum halaman web, menganalisis gambar, atau mengompresi percakapan panjang.

Bagian terbaiknya? Kamu yang memilih siapa saja yang ada di tim kamu. Mari kita bahas caranya.

Halaman Models: Pusat Kendali Kamu

Buka dashboard Hermes kamu dan klik Models di sidebar. Kamu akan melihat dua hal:

Model Settings — panel atas tempat kamu menetapkan model untuk berbagai tugas.
Usage Analytics — daftar berperingkat setiap model yang menjalankan sesi, lengkap dengan jumlah token dan biaya.

Baris utama di bagian atas menunjukkan apa yang akan digunakan agen kamu untuk sesi baru. Klik Change untuk membuka pemilih.

Memilih Model Utama Kamu

Pemilih memiliki dua kolom:

Sisi kiri: Penyedia yang sudah terautentikasi. Hanya penyedia yang sudah kamu atur (dengan API key atau OAuth) yang muncul di sini. Jika ada yang hilang, buka Keys untuk menambahkannya.
Sisi kanan: Daftar model agen yang dikurasi untuk penyedia tersebut. Ini bukan daftar mentah semua model yang tersedia — hanya yang benar-benar direkomendasikan Hermes untuk pekerjaan agen.

Ketik di kotak filter untuk mencari berdasarkan penyedia, slug, atau ID model. Pilih satu, tekan Switch, dan selesai. Hermes otomatis menuliskannya ke file konfigurasi kamu.

Penting: Ini hanya berlaku untuk sesi baru. Jika kamu sudah memiliki tab chat yang terbuka, tab tersebut akan terus berjalan dengan model yang digunakan sejak awal. Untuk mengganti di tengah percakapan, gunakan perintah slash /model.

Mengganti di Tengah Sesi: Yang Perlu Kamu Tahu

Saat kamu mengganti model di dalam sesi yang aktif, Hermes melakukan pemeriksaan cepat: apakah pesan berikutnya akan memicu kompresi konteks dengan model baru? Jika percakapan kamu sudah panjang, kamu akan melihat peringatan. Penggantian tetap berlaku langsung — kompresi hanya berjalan pada pesan pertama kamu setelah penggantian.

Inilah kendalanya: penggantian di tengah sesi mereset cache prompt. Cache prompt terikat pada model yang melayani permintaan. Jadi jika kamu mengganti model di tengah percakapan, pesan berikutnya akan membaca ulang seluruh chat dengan harga penuh, bukan tarif cache diskon. Pada sesi yang panjang, pembacaan ulang satu kali itu bisa lebih mahal daripada selisih harga antara kedua model. Ganti saat kamu perlu, tapi sebaiknya lakukan di awal percakapan.

Pertanyaan “Pelatihan dengan Data Kamu”

Beberapa model lebih murah karena vendor mungkin melatih model pada prompt kamu. Saat kamu memilihnya secara interaktif, Hermes selalu meminta konfirmasi. Tapi bagaimana dengan tugas tanpa pengawasan — seperti cron job atau pekerja Kanban yang berjalan tanpa kamu pantau?

Tugas-tugas itu gagal tertutup (fail closed) secara default. Jika kamu setuju, kamu bisa merekam pengakuan persisten:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes tetap mencetak peringatan kebijakan data lengkap setiap kali startup, jadi log kamu tetap memiliki jejak audit. Cabut kapan saja dengan:

hermes config unset security.allow_data_training_tiers_noninteractive

Menyempurnakan Para Pembantu Kamu

Klik Show auxiliary untuk menampilkan 11 slot tugas — seperti kompresi konteks, visi, perangkuman halaman web, penilaian persetujuan, dan lainnya.

Setiap tugas tambahan default-nya auto, artinya Hermes mencoba model utama kamu untuk tugas itu juga. Jika gagal, ia akan turun melalui rantai khusus tugas, lalu penyedia fallback utama kamu, lalu rantai penemuan bawaan Hermes.

Timpa tugas tertentu saat kamu menginginkan model yang lebih murah atau lebih cepat untuk tugas sampingan. Misalnya, kamu mungkin menggunakan model besar yang mahal untuk berpikir, tapi model kecil yang cepat untuk merangkum halaman web.

Jalur Tercepat: Nous Portal

Jika kamu ingin 300+ model dalam satu langganan, coba Nous Portal. Pada instalasi baru, cukup jalankan:

hermes setup --portal

Itu akan masuk dan mengatur Nous sebagai penyedia kamu dalam satu perintah. Periksa apa yang terhubung dengan hermes portal info. Pelanggan Portal juga mendapat diskon 10% untuk penyedia yang ditagih per token.

Satu Catatan Terakhir

Pada instalasi baru, konfigurasi kamu memiliki model: "" — string kosong yang berarti “belum dikonfigurasi.” Pertama kali kamu menjalankan hermes setup atau hermes model, itu akan ditingkatkan menjadi pemetaan yang tepat dengan penyedia, default, base_url, dan api_mode. Jika kamu melihat string kosong, cukup jalankan hermes model dan Hermes akan memperbaikinya untuk kamu.

Itu saja! Sekarang kamu siap membangun tim model impianmu. Lain kali, kita akan melihat cara membuat agen kamu lebih cerdas dengan penyedia fallback. Nantikan terus!