Fallback Providers — AI Never Down

Fallback Providers — AI ไม่มีวันล่ม

เคยไหม กำลังคุยกับ AI Assistant อย่างเพลิดเพลินอยู่ดี ๆ มันก็หยุดตอบซะงั้น? บางทีผู้ให้บริการอาจล่ม หรือโมเดลอาจรับโหลดไม่ไหว แต่กับ Hermes Agent ปัญหานี้กลายเป็นอดีตไปแล้ว ลองนึกถึง fallback providers ว่าเป็นยางอะไหล่ในรถคุณสิ—หวังว่าจะไม่ต้องใช้ แต่พอถึงเวลาจำเป็น มันช่วยชีวิตคุณได้จริง ๆ

Fallback Providers คืออะไร?

พูดง่าย ๆ ก็คือ fallback provider คือโมเดล AI สำรองที่ Hermes จะสลับไปใช้โดยอัตโนมัติเมื่อโมเดลหลักของคุณล่ม เหมือนมีแผน B, C และ D เตรียมไว้พร้อม ถ้าโมเดลหลักของคุณล่ม Hermes ไม่ตื่นตระหนก—มันแค่สลับไปใช้ตัวเลือกถัดไปอย่างเงียบ ๆ

ทำงานอย่างไร

Hermes ใช้ช่องใส่โมเดลสองแบบ:

• Main model — “สมอง” ที่ใช้คิดทุกข้อความ ทุกการเรียกใช้เครื่องมือ และทุกการตอบกลับ
• Auxiliary models — ผู้ช่วยตัวเล็กที่คอยจัดการงานเฉพาะอย่างเช่นสรุปหน้าเว็บ วิเคราะห์รูปภาพ หรือบีบอัดบทสนทนายาว ๆ

เมื่อคุณตั้งค่า main model คุณสามารถกำหนดห่วงโซ่ของ fallbacks ได้ด้วย ถ้าโมเดลหลักล่ม Hermes จะลองตัวถัดไปในสายโดยอัตโนมัติ ห่วงโซ่นี้เรียกว่าเชน fallback_providers / fallback_model

ตั้งค่า Fallback Chain ของคุณ

วิธีเริ่มต้นที่ง่ายที่สุดคือใช้ Nous Portal ในการติดตั้งใหม่ เพียงรัน:

hermes setup --portal

คำสั่งนี้จะล็อกอินและตั้งค่า Nous เป็นผู้ให้บริการของคุณในคำสั่งเดียว คุณสามารถตรวจสอบสิ่งที่เชื่อมต่ออยู่ได้ด้วย:

hermes portal info

สมาชิก Portal ยังได้รับ ส่วนลด 10% สำหรับผู้ให้บริการที่คิดตามโทเคน—โบนัสดี ๆ เลย!

หน้า Models

เปิดแดชบอร์ดแล้วคลิก Models ในแถบด้านข้าง คุณจะเห็นสองส่วน:

1. Model Settings — ที่คุณกำหนดโมเดลให้กับช่องต่าง ๆ
2. Usage analytics — การ์ดที่แสดงทุกโมเดลที่รันเซสชัน พร้อมจำนวนโทเคนและค่าใช้จ่าย

การ์ดด้านบนสุดคือแผง Model Settings คลิก Change ที่แถว Main model เพื่อเปิดตัวเลือก

เลือก Main Model ของคุณ

ตัวเลือกมีสองคอลัมน์:

• ซ้าย — ผู้ให้บริการที่คุณยืนยันตัวตนแล้ว (ตั้งค่า API keys, OAuth แล้ว หรือ custom endpoints)
• ขวา — รายการโมเดล agentic ที่แนะนำสำหรับผู้ให้บริการนั้น ๆ

พิมพ์ในช่องกรองเพื่อจำกัดรายการให้แคบลง เลือกโมเดล กด Switch แล้ว Hermes จะเขียนลงในไฟล์คอนฟิกของคุณ

สำคัญ: สิ่งนี้ใช้กับ เซสชันใหม่เท่านั้น หากคุณต้องการสลับโมเดลในแชทปัจจุบันแบบทันที ให้ใช้คำสั่ง /model ภายในแชทนั้น

การสลับกลางเซสชันและคำเตือนเรื่องบริบท

เมื่อคุณสลับโมเดลกลางบทสนทนา Hermes จะตรวจสอบว่าข้อความถัดไปของคุณต้องบีบอัดบริบทหรือไม่ หากคุณใกล้ถึงขีดจำกัดของโมเดลใหม่ คุณจะได้รับคำเตือน—แต่การสลับยังคงมีผลทันที

ข้อควรระวัง: การสลับโมเดลกลางเซสชันจะรีเซ็ต prompt cache ซึ่งหมายความว่าข้อความถัดไปจะอ่านบทสนทนาทั้งหมดในราคาเต็มแทนที่จะเป็นอัตราส่วนลดสำหรับแคช ในเซสชันยาว ๆ ค่าใช้จ่ายครั้งเดียวนี้สามารถสูงได้มาก ดังนั้นควรสลับในช่วงต้นของการสนทนา ไม่ใช่กลางทางการสนทนาเชิงลึก

Auxiliary Models: ผู้ช่วยตัวน้อย

คลิก Show auxiliary เพื่อแสดงช่องงาน 11 ช่อง ซึ่งจัดการกับ:

• การบีบอัดบริบท
• วิชัน (การวิเคราะห์รูปภาพ)
• การสรุปหน้าเว็บ
• การให้คะแนนการอนุมัติ
• การจัดเส้นทางเครื่องมือ MCP
• การสร้างชื่อเซสชัน
• การค้นหาทักษะ

ทุกงานเสริมมีค่าเริ่มต้นเป็น auto—หมายความว่า Hermes จะลองใช้ main model ของคุณสำหรับงานนั้นด้วย ถ้าล้มเหลว มันจะทำตาม fallback chain เฉพาะงาน จากนั้นจึงเป็น fallback chain หลัก และสุดท้ายคือการค้นพบในตัวของ Hermes

คุณสามารถแทนที่งานเฉพาะเมื่อต้องการโมเดลที่ถูกกว่าหรือเร็วกว่าสำหรับงานย่อย ตัวอย่างเช่น คุณอาจใช้โมเดลเล็กและเร็วสำหรับการสรุปหน้าเว็บ ในขณะที่เก็บโมเดลหลักอันทรงพลังไว้สำหรับการคิดวิเคราะห์

ระดับการฝึกข้อมูลแบบไม่ต้องดูแล

โมเดลลดราคาบางตัวอนุญาตให้ผู้ขายฝึกกับข้อมูลของคุณ เซสชันแบบโต้ตอบจะแสดงป๊อปอัปยืนยันเสมอ แต่สำหรับงานที่ไม่ต้องดูแล (เช่น cron agents) Hermes จะปิดการใช้งานโดยอัตโนมัติ—มันจะไม่ใช้โมเดลเหล่านั้นเว้นแต่คุณจะอนุญาตอย่างชัดเจน

หากต้องการเปิดใช้งาน:

hermes config set security.allow_data_training_tiers_noninteractive true

เพิกถอนได้ทุกเมื่อด้วย:

hermes config unset security.allow_data_training_tiers_noninteractive

สรุป

Fallback providers หมายความว่า AI ของคุณไม่มีวันล่ม ไม่ว่าจะเป็นผู้ให้บริการล่ม การจำกัดอัตราการใช้งาน หรือโมเดลที่วันนี้ไม่ค่อยดี Hermes คอยดูแลคุณอยู่ ตั้งค่าเชนของคุณ กำหนดค่า auxiliaries ของคุณ และเพลิดเพลินกับการสนทนากับ AI อย่างไม่สะดุด—ไม่ว่าจะเกิดอะไรขึ้นเบื้องหลังก็ตาม

---