Pemrosesan Batch — Tangani Banyak Tugas Sekaligus

Anda tidak akan membalas seribu email satu per satu jika bisa menyerahkan seluruh kotak masuk kepada asisten yang tak kenal lelah yang menulis setiap balasan, mencatat setiap keputusan, dan memberikan laporan yang rapi setelah selesai. Itulah tepatnya yang dilakukan pemrosesan batch untuk Anda dengan Hermes Agent.

Apa yang Dilakukannya

Pemrosesan batch memungkinkan Anda melempar ratusan atau ribuan pertanyaan ke Hermes Agent sekaligus. Agen bekerja melalui setiap item dalam sesi baru yang segar, menggunakan alat seperti pencarian atau kalkulator saat diperlukan, dan secara otomatis mencatat seluruh perjalanan — setiap pemikiran, setiap panggilan alat, setiap jawaban akhir. Ini seperti mengirim setumpuk perintah kerja ke lantai pabrik dan mendapatkan log terperinci tentang bagaimana masing-masing ditangani.

Ide Utama

Input: File .jsonl — setiap baris adalah satu objek JSON yang berisi prompt atau instruksi.
Pemrosesan: Setiap prompt memulai sesi AI terpisah. Agen dapat memanggil alat untuk memecahkan masalah, sama seperti dalam percakapan biasa.
Output: File “trajectory” terstruktur yang menangkap langkah-langkah penalaran agen, penggunaan alat, respons akhir, dan statistik yang berguna (misalnya, berapa banyak alat yang dipanggil per tugas).

Tiga Langkah untuk Memulai

Langkah 1: Siapkan Pertanyaan Anda

Buat file .jsonl di mana setiap baris adalah satu pertanyaan. Contohnya:

{"prompt": "Calculate 25 * 4"}
{"prompt": "Write a short poem about autumn"}
{"prompt": "Summarize the basics of quantum computing"}

Pastikan tidak ada koma atau kurung tambahan — setiap baris harus berupa objek JSON yang valid secara mandiri.

Langkah 2: Jalankan Perintah Batch

Buka terminal Anda dan jalankan:

python batch_runner.py --input my_questions.jsonl --output results.jsonl

Itu saja. Hermes akan memproses setiap baris dalam file secara otomatis.

Langkah 3: Periksa Hasilnya

Setelah selesai, Anda akan memiliki file results.jsonl. Setiap baris sesuai dengan salah satu prompt asli Anda dan berisi:

Riwayat percakapan lengkap
Detail setiap panggilan alat (alat mana, apa yang dikembalikannya)
Statistik seperti cakupan langkah penalaran dan frekuensi penggunaan alat

Mengapa Anda Harus Peduli

Hemat Waktu: Tidak perlu lagi menjalankan tugas satu per satu. Jalankan seratus atau seribu sekaligus.
Bangun Tambang Emas Data: Outputnya sempurna untuk menyempurnakan model AI atau mengevaluasi seberapa baik kinerja agen.
Dapat Direproduksi: Setiap proses meninggalkan catatan lengkap, sehingga Anda dapat membandingkan konfigurasi yang berbeda dan meningkat seiring waktu.

Tips Praktis

Mulailah dari yang kecil. Jalankan batch uji dengan hanya 10 pertanyaan untuk memastikan format output sesuai dengan yang Anda harapkan. Kemudian tingkatkan ke 1000. Jika ada yang gagal, periksa log kesalahan — hampir selalu masalah format pada file input Anda.

Penutup

Pemrosesan batch mengubah pekerjaan berulang menjadi satu perintah dan mengubah hasil mentah menjadi data berharga. Baik Anda melatih AI khusus atau menguji ketahanan agen dalam skala besar, fitur ini menghemat waktu berjam-jam. Lain kali Anda memiliki segunung tugas, jangan panik — cukup batch saja.