Mixture of Agents — Smarter Answers

Mixture of Agents — คำตอบที่ฉลาดกว่า

ยินดีต้อนรับกลับสู่ซีรีส์ของเราเกี่ยวกับการใช้งาน Hermes Agent ให้คุ้มค่าที่สุด! วันนี้เราจะมาดำดิ่งลงไปในสิ่งที่ฟังดูซับซ้อน แต่จริงๆ แล้วง่ายมากเมื่อคุณได้เห็นมันทำงานจริง: การกำหนดค่าโมเดลของคุณ

ลองคิดแบบนี้: เอเจนต์ของคุณไม่ใช่แค่สมองเดียว แต่มันเหมือนทีมเล็กๆ มากกว่า มี นักคิดหลัก — โมเดลที่จัดการทุกบทสนทนา ทุกการเรียกใช้เครื่องมือ ทุกการตอบกลับ จากนั้นก็มี ผู้ช่วย — โมเดลที่เล็กกว่าและเร็วกว่า ซึ่งคอยจัดการงานรอง เช่น การสรุปหน้าเว็บ การวิเคราะห์รูปภาพ หรือการบีบอัดบทสนทนาที่ยาว

ส่วนที่ดีที่สุด? คุณเป็นคนเลือกได้ว่าใครจะอยู่ในทีมของคุณ มาดูวิธีการกันเลย

หน้า Models: ศูนย์ควบคุมของคุณ

เปิดแดชบอร์ด Hermes แล้วคลิก Models ในแถบด้านข้าง คุณจะเห็นสองสิ่ง:

1. Model Settings — แผงด้านบนที่คุณกำหนดโมเดลให้กับงานต่างๆ
2. Usage Analytics — รายการจัดอันดับของทุกโมเดลที่รันเซสชัน พร้อมด้วยจำนวนโทเค็นและค่าใช้จ่าย

แถวหลักด้านบนแสดงสิ่งที่เอเจนต์ของคุณจะใช้สำหรับเซสชันใหม่ คลิก Change เพื่อเปิดตัวเลือก

การเลือกโมเดลหลักของคุณ

ตัวเลือกมีสองคอลัมน์:

• ด้านซ้าย: ผู้ให้บริการที่คุณยืนยันตัวตนแล้ว มีเพียงผู้ให้บริการที่คุณตั้งค่าไว้ (ด้วย API key หรือ OAuth) เท่านั้นที่จะแสดงที่นี่ หากไม่มีใครปรากฏ ให้ไปที่ Keys เพื่อเพิ่ม
• ด้านขวา: รายการโมเดลสำหรับงานเอเจนต์ที่คัดสรรมาแล้วสำหรับผู้ให้บริการนั้น นี่ไม่ใช่การดัมพ์โมเดลทั้งหมดที่มีอยู่ — แค่เฉพาะที่ Hermes แนะนำจริงๆ สำหรับงานเอเจนต์

พิมพ์ในช่องกรองเพื่อค้นหาตามผู้ให้บริการ, slug, หรือ model ID เลือกหนึ่งตัว กด Switch แล้วเสร็จสิ้น Hermes จะเขียนลงในไฟล์คอนฟิกของคุณโดยอัตโนมัติ

สำคัญ: สิ่งนี้ใช้กับเซสชัน ใหม่ เท่านั้น หากคุณมีแท็บแชทที่เปิดอยู่แล้ว มันจะยังคงรันด้วยโมเดลที่เริ่มต้นไว้ เพื่อสลับกลางบทสนทนา ให้ใช้คำสั่งสแลช /model

การสลับกลางเซสชัน: สิ่งที่ควรรู้

เมื่อคุณสลับโมเดลภายในเซสชันที่ใช้งานอยู่ Hermes จะทำการตรวจสอบอย่างรวดเร็ว: ข้อความถัดไปของคุณจะทำให้เกิดการบีบอัดบริบทกับโมเดลใหม่หรือไม่? หากบทสนทนาของคุณยาวอยู่แล้ว คุณจะเห็นคำเตือน การสลับยังคงมีผลทันที — การบีบอัดจะรันในข้อความแรกของคุณหลังจากการสลับ

นี่คือข้อแม้: การสลับกลางเซสชันจะรีเซ็ตแคชพรอมพ์ แคชพรอมพ์ผูกอยู่กับโมเดลที่ให้บริการคำขอ ดังนั้นหากคุณสลับโมเดลกลางบทสนทนา ข้อความถัดไปจะอ่านแชททั้งหมดในราคาเต็มแทนที่จะเป็นอัตราแคชที่ลดราคา ในเซสชันที่ยาว การอ่านซ้ำเพียงครั้งเดียวนี้อาจมีค่าใช้จ่ายมากกว่าส่วนต่างระหว่างสองโมเดล สลับเมื่อจำเป็น แต่ควรทำในช่วงต้นของบทสนทนา

คำถามเรื่อง “การฝึกด้วยข้อมูลของคุณ”

โมเดลบางตัวถูกกว่าเพราะผู้ให้บริการอาจฝึกด้วยพรอมพ์ของคุณ เมื่อคุณเลือกแบบโต้ตอบ Hermes จะถามเพื่อยืนยันเสมอ แต่แล้วงานที่ไม่มีคนดูแลล่ะ — เช่น cron jobs หรือ Kanban workers ที่รันโดยที่คุณไม่ได้เฝ้าดู?

งานเหล่านั้น ปิดการทำงานโดยค่าเริ่มต้น หากคุณโอเคกับมัน คุณสามารถบันทึกการยอมรับแบบถาวรได้:

hermes config set security.allow_data_training_tiers_noninteractive true

Hermes ยังคงพิมพ์คำเตือนนโยบายข้อมูลฉบับเต็มทุกครั้งที่เริ่มต้น เพื่อให้ล็อกของคุณมีร่องรอยการตรวจสอบ ยกเลิกได้ทุกเมื่อด้วย:

hermes config unset security.allow_data_training_tiers_noninteractive

การปรับแต่งผู้ช่วยของคุณ

คลิก Show auxiliary เพื่อเปิดเผยช่องงาน 11 ช่อง — สิ่งต่างๆ เช่น การบีบอัดบริบท, วิทัศน์, การสรุปหน้าเว็บ, การให้คะแนนการอนุมัติ และอื่นๆ อีกมากมาย

ทุกงานเสริมมีค่าเริ่มต้นเป็น auto หมายความว่า Hermes จะลองใช้โมเดลหลักของคุณกับงานนั้นด้วย หากล้มเหลว มันจะถอยไปตามเชนเฉพาะงาน จากนั้นไปยังผู้ให้บริการสำรองหลักของคุณ จากนั้นไปยังเชนการค้นหาในตัวของ Hermes

แทนที่งานเฉพาะเมื่อคุณต้องการโมเดลที่ถูกกว่าหรือเร็วกว่าสำหรับงานรอง ตัวอย่างเช่น คุณอาจใช้โมเดลใหญ่ราคาแพงสำหรับการคิด แต่ใช้โมเดลเล็กที่เร็วสำหรับการสรุปหน้าเว็บ

เส้นทางที่เร็วที่สุด: Nous Portal

หากคุณต้องการโมเดล 300+ ตัวภายใต้การสมัครสมาชิกเดียว ลองดู Nous Portal ในการติดตั้งใหม่ เพียงรัน:

hermes setup --portal

นั่นจะเข้าสู่ระบบและตั้งค่า Nous เป็นผู้ให้บริการของคุณในคำสั่งเดียว ตรวจสอบสิ่งที่เชื่อมต่ออยู่ด้วย hermes portal info สมาชิก Portal ยังได้รับส่วนลด 10% สำหรับผู้ให้บริการที่คิดค่าใช้จ่ายตามโทเค็น

หมายเหตุสุดท้าย

ในการติดตั้งใหม่เอี่ยม คอนฟิกของคุณมี model: "" — สตริงว่างหมายถึง “ยังไม่ได้กำหนดค่า” ครั้งแรกที่คุณรัน hermes setup หรือ hermes model ค่านั้นจะถูกอัปเกรดเป็นการแมปที่เหมาะสมพร้อมด้วยผู้ให้บริการ, ค่าเริ่มต้น, base_url, และ api_mode หากคุณเห็นสตริงว่าง เพียงรัน hermes model แล้ว Hermes จะแก้ไขให้คุณเอง

แค่นี้แหละ! ตอนนี้คุณพร้อมที่จะสร้างทีมโมเดลในฝันของคุณแล้ว ครั้งหน้าเราจะมาดูวิธีทำให้เอเจนต์ของคุณฉลาดยิ่งขึ้นด้วยผู้ให้บริการสำรอง คอยติดตามนะ!