Run Local LLMs on Mac

تشغيل نماذج اللغات المحلية على Mac

إذن لديك Hermes Agent يعمل على جهاز Mac الخاص بك، وأنت مستعد للغوص في عالم نماذج اللغات المحلية. خيار رائع! لكن قبل أن تبدأ بالدردشة، تحتاج إلى فهم كيف يتعامل Hermes مع النماذج. فكّر في الأمر مثل تجهيز مطبخ: لديك الشيف الرئيسي، ولديك مجموعة من المساعدين المتخصصين لمهام محددة.

النوعان من فتحات النماذج

يستخدم Hermes نوعين من فتحات النماذج:

• النموذج الرئيسي — هذا هو الشيف الرئيسي. كل رسالة مستخدم، كل حلقة استدعاء أدوات، كل استجابة متدفقة تمر عبر هذا النموذج. إنه عقل العملية.
• النماذج المساعدة — هؤلاء هم مساعدو الشيف. يتعاملون مع مهام جانبية أصغر مثل ضغط السياق، الرؤية (تحليل الصور)، تلخيص صفحات الويب، تسجيل الموافقات، توجيه أدوات MCP، توليد عناوين الجلسات، والبحث عن المهارات. لكل منها فتحة خاصة بها ويمكن تجاوزها بشكل مستقل.

البدء: أسرع طريق

إذا كنت جديدًا على Hermes، فإن أسرع طريقة لتهيئة النماذج هي من خلال Nous Portal. يمنحك وصولاً إلى أكثر من 300 نموذج باشتراك واحد. على تثبيت جديد، فقط شغّل:

hermes setup --portal

هذا يسجّل دخولك ويجعل Nous مزوّدك في أمر واحد. يمكنك التحقق مما هو مُعدّ باستخدام hermes portal info. بالإضافة إلى ذلك، يحصل مشتركو البوابة على خصم 10% على المزوّدين الذين يُفوترون بالرموز. ليس سيئًا، أليس كذلك؟

صفحة النماذج

افتح لوحة التحكم وانقر على Models في الشريط الجانبي. سترى قسمين:

1. Model Settings — اللوحة العلوية حيث تعيّن النماذج للفتحات.
2. Usage analytics — بطاقات مرتبة تعرض كل نموذج شغّل جلسة، مع عدد الرموز والتكلفة وشارات القدرات.

البطاقة العلوية هي لوحة Model Settings. الصف الرئيسي يُظهر ما سيشغّله الوكيل للجلسات الجديدة. انقر Change لفتح المنتقي.

تعيين النموذج الرئيسي

يحتوي المنتقي على عمودين:

• يسار — المزوّدون الموثّقون. فقط المزوّدون الذين أعددتهم (مفتاح API مضبوط، أو OAuth مفعّل، أو معرّف كنقطة نهاية مخصصة) يظهرون هنا. إذا كان مزوّد مفقودًا، توجه إلى Keys وأضف بيانات الاعتماد الخاصة به.
• يمين — قائمة النماذج المنسقة للمزوّد المحدد. هذه هي النماذج الوكيلة التي يوصي بها Hermes، وليست القائمة الخام /models (التي تتضمن على OpenRouter أكثر من 400 نموذج بما فيها TTS ومولّدات الصور وأدوات إعادة الترتيب).

اكتب في مربع التصفية لتضييق النطاق حسب اسم المزوّد أو slug أو معرّف النموذج. اختر نموذجًا، وانقر Switch، وسيكتبه Hermes في ~/.hermes/config.yaml. هذا ينطبق على الجلسات الجديدة فقط — أي تبويب دردشة مفتوح لديك بالفعل سيستمر في تشغيل النموذج الذي بدأ به. للتبديل السريع للدردشة الحالية، استخدم أمر الشرطة المائلة /model داخلها.

التبديلات في منتصف الجلسة: كلمة تحذير

عندما تبدّل النماذج داخل جلسة نشطة، يقدّر Hermes ما إذا كانت رسالتك التالية ستشغّل ضغط السياق المسبق مقابل نافذة النموذج الجديد. إذا كانت الجلسة قريبة بالفعل أو فوق عتبة ضغط هذا النموذج، ستحصل على تحذير. التبديل يُطبَّق فورًا، لكن الضغط يعمل على أول رسالة مستخدم بعد التبديل.

مهم: التبديلات في منتصف الجلسة تعيد تعيين ذاكرة التخزين المؤقت للمطالبات. ذاكرات التخزين المؤقت للمطالبات مرتبطة بالنموذج الذي يخدم الطلب، لذا أي تغيير للنموذج في منتصف المحادثة يعني أن الرسالة التالية ستعيد قراءة المحادثة بأكملها بسعر الرموز الكامل بدلاً من السعر المخفض (~75-90% خصم). في جلسة طويلة، يمكن لهذه القراءة الواحدة أن تفوق الفرق لكل رمز بين النموذجين. بدّل عندما تحتاج، لكن يُفضّل القيام بذلك مبكرًا في المحادثة.

مستويات تدريب البيانات غير المراقبة

بعض النماذج مثل muse-spark-1.2-contributor مخفّضة السعر لأن المزوّد قد يدرب على مطالباتك وإكمالاتك. اختيار النموذج التفاعلي يعرض دائمًا رسالة تأكيد. لكن مسارات بدء التشغيل غير التفاعلية (مثل عمال Kanban ووكلاء cron) تفشل مغلقة لأنها لا تستطيع طرح هذا السؤال.

إذا كان التدريب على بيانات عبء العمل غير المراقب مقبولاً، سجّل إقرارًا دائمًا:

hermes config set security.allow_data_training_tiers_noninteractive true

ما زال Hermes يطبع تحذير سياسة البيانات الكامل عند كل بدء تشغيل غير مراقب، لذا تحتفظ سجلات العمال بمسار تدقيق. ألغِ ذلك باستخدام:

hermes config unset security.allow_data_training_tiers_noninteractive

تعيين النماذج المساعدة

انقر Show auxiliary لكشف فتحات المهام الإحدى عشرة. كل مهمة مساعدة افتراضية على auto — مما يعني أن Hermes يجرب نموذجك الرئيسي لتلك المهمة أيضًا. إذا كان هذا المسار غير متاح، يتبع auto أي سلسلة احتياطية خاصة بالمهمة، ثم سلسلة الاحتياط الرئيسية، ثم سلسلة الاكتشاف المساعدة المدمجة في Hermes. تجاوز مهمة محددة عندما تريد نموذجًا أرخص أو أسرع لمهمة جانبية.

ملاحظة حول مخطط model:

على تثبيت جديد تمامًا، يحتوي التكوين الافتراضي المرفق على model: "" (سلسلة فارغة كعلامة تعني “غير مهيأ بعد”). في أول مرة تشغّل فيها hermes setup أو hermes model، تتم ترقية هذا المفتاح في مكانه إلى خريطة بمفاتيح فرعية provider وdefault وbase_url وapi_mode. إذا رأيت سلسلة فارغة في config.yaml، شغّل hermes model (أو انقر Change في لوحة التحكم) وسيكتب Hermes صيغة القاموس لك.

هذا كل شيء! أنت الآن جاهز لتهيئة النماذج كالمحترفين. دردشة سعيدة!