Jalankan Hermes dengan Ollama secara Gratis

Anggap Hermes Agent sebagai asisten pintar, dan Ollama sebagai otak lokalnya yang gratis — bersama-sama mereka menjadi duo yang hebat tanpa mengeluarkan uang sepeser pun untuk AI cloud.

Yang Kamu Butuhkan

• Hermes Agent (kerangka kerja asisten)
• Ollama (menjalankan model AI di komputermu)
• Docker (opsional, tapi mempermudah pengaturan)

Langkah 1: Instal Ollama

Pertama, unduh dan instal Ollama dari ollama.com. Lalu tarik model:

ollama pull llama3.2

Ini mengunduh model kecil dan cepat yang bekerja sangat baik dengan Hermes.

Langkah 2: Jalankan Ollama

Mulai Ollama sebagai server agar Hermes bisa berkomunikasi dengannya:

ollama serve

Secara default, Ollama mendengarkan di port 11434. Biarkan jendela terminal ini tetap terbuka.

Langkah 3: Hubungkan Hermes ke Ollama

Jika kamu menjalankan Hermes di komputermu (bukan di dalam Docker), buat file konfigurasi di ~/.hermes/config.yaml:

model:
  provider: custom
  model: llama3.2
  base_url: http://127.0.0.1:11434/v1
  api_key: "none"

Penting: Nama model harus sama persis dengan yang kamu tarik sebelumnya.

Langkah 4: Jalankan Hermes

Sekarang mulai Hermes:

docker run -d \
  --name hermes \
  --network host \
  -v ~/.hermes:/opt/data \
  nousresearch/hermes-agent gateway run

Catatan: Menggunakan --network host di Linux memungkinkan Hermes melihat Ollama di 127.0.0.1. Di Mac/Windows, gunakan host.docker.internal:11434 sebagai gantinya.

Langkah 5: Uji Coba

Periksa apakah Hermes dapat menjangkau Ollama:

docker exec hermes curl -s http://127.0.0.1:11434/v1/models

Kamu akan melihat daftar yang berisi llama3.2. Jika tidak, periksa kembali apakah Ollama masih berjalan.

Tips Mengatasi Masalah

• Tidak bisa terhubung? Pastikan Ollama mendengarkan di 0.0.0.0, bukan hanya 127.0.0.1. Jalankan OLLAMA_HOST=0.0.0.0 ollama serve jika diperlukan.
• Model tidak ditemukan? Nama di konfigurasi harus sama persis dengan yang kamu tarik.
• Konflik port? Ubah port Ollama dengan OLLAMA_PORT=11435 dan perbarui konfigurasimu.

Kenapa Ini Keren

• Gratis selamanya — tidak ada tagihan API
• Pribadi — datamu tetap di mesinmu
• Bisa offline — berfungsi tanpa internet

Tips Terakhir

Mulailah dengan model kecil seperti llama3.2 (3B) untuk menguji semuanya berfungsi. Setelah nyaman, coba model yang lebih besar seperti qwen2.5:7b untuk respons yang lebih baik — ingat untuk memperbarui nama model di konfigurasimu.

Sekarang kamu punya asisten AI lokal yang sepenuhnya gratis, berjalan dengan Hermes dan Ollama. Selamat membangun!

---