هندسة السياق لوكلاء الذكاء الاصطناعي: دروسٌ قيّمة من مشروع مانوس
يُعد بناء وكلاء ذكاء اصطناعي فعالين أكثر من مجرد اختيار نموذج لغوي قوي. كما اكتشف مشروع مانوس، فإن تصميم و إدارة “السياق” – المعلومات التي يعالجها الذكاء الاصطناعي لاتخاذ القرارات – أمر بالغ الأهمية. وتؤثر “هندسة السياق” هذه بشكل مباشر على سرعة الوكيل، وتكلفته، وموثوقيته، وذكائه.
التحديات الأولية ونهج التعلم ضمن السياق
في البداية، كان الخيار واضحًا: الاستفادة من التعلم ضمن السياق للنماذج المتقدمة بدلاً من عملية الضبط الدقيق البطيئة والمتكررة. يسمح هذا بإجراء تحسينات سريعة، وإطلاق التغييرات في ساعات بدلاً من أسابيع، مما يجعل المنتج قابلاً للتكيف مع قدرات الذكاء الاصطناعي المتطورة. ومع ذلك، تبين أن هذا المسار ليس بسيطًا على الإطلاق، مما أدى إلى إعادة بناء العديد من الأطر من خلال ما يسمونه “الهبوط العشوائي للتدرج” – وهي عملية من التخمين التجريبي.
الدروس المستفادة من مشروع مانوس
إليك الدروس المهمة التي تم تعلمها في مشروع مانوس من أجل هندسة سياق فعالة:
-
التصميم حول ذاكرة التخزين المؤقت المفتاح-القيمة (KV-Cache):
- ذاكرة التخزين المؤقت المفتاح-القيمة ضرورية لأداء الوكيل، حيث تؤثر بشكل مباشر على زمن الوصول وتكلفته.
- يضيف الوكلاء باستمرار الإجراءات والملاحظات إلى سياقهم، مما يجعل المدخل أطول بكثير من المخرج.
- تعيد ذاكرة التخزين المؤقت المفتاح-القيمة استخدام بادئات السياق المتطابقة، مما يقلل بشكل كبير من وقت المعالجة والتكلفة (على سبيل المثال، فرق تكلفة 10 أضعاف مع Claude Sonnet).
- لزيادة عمليات الوصول الناجحة لـ KV-Cache:
- بادئات مطالبات مستقرة: حتى تغيير رمز واحد في بداية مطالبة النظام يمكن أن يبطل ذاكرة التخزين المؤقت. تجنب العناصر الديناميكية مثل الطوابع الزمنية الدقيقة.
- سياق الإضافة فقط: لا تقم بتعديل الإجراءات أو الملاحظات السابقة. تأكد من التجزئة الحتمية للبيانات (مثل JSON) لمنع تعطيل ذاكرة التخزين المؤقت.
- نقاط فصل ذاكرة التخزين المؤقت الصريحة: تتطلب بعض الأطر الإدخال اليدوي لنقاط فصل ذاكرة التخزين المؤقت، من الأفضل بعد مطالبة النظام.
-
إخفاء المعلومات، لا إزالتها:
- مع حصول الوكلاء على المزيد من الأدوات، تصبح مساحة عملهم معقدة، مما قد “يُضعف” الوكيل أثناء صراعه لاختيار الصحيح.
- في حين أن تحميل الأدوات الديناميكي قد يبدو بديهيًا، إلا أنه يبطل ذاكرة التخزين المؤقت المفتاح-القيمة ويخلط النموذج إذا كان السياق السابق يشير إلى أدوات غير معرفة.
- يستخدم مانوس بدلاً من ذلك آلة حالة واعية بالسياق لإدارة توفر الأدوات من خلال إخفاء رموز الرموز (logits) أثناء فك التشفير. يمنع هذا النموذج من اختيار الإجراءات غير المتاحة أو غير المناسبة دون تغيير تعريفات الأدوات الأساسية، مما يحافظ على استقرار السياق وتركيز الوكيل.
-
استخدام نظام الملفات كسياق:
- حتى مع نوافذ سياق كبيرة (128K+ رمز)، يمكن أن تتجاوز ملاحظات الوكلاء في العالم الحقيقي (مثل صفحات الويب أو ملفات PDF) بسهولة الحدود، وتُضعف الأداء، وتُسبب تكاليف عالية.
- تخاطر عمليات الضغط غير القابلة للعكس بفقدان معلومات بالغة الأهمية اللازمة للخطوات المستقبلية.
- يعامل مانوس نظام الملفات على أنه السياق النهائي غير المحدود. يتعلم الوكيل القراءة من الملفات والكتابة عليها عند الطلب، باستخدام نظام الملفات كذاكرة خارجية منظمة. يتم تصميم استراتيجيات الضغط دائمًا لتكون قابلة للاستعادة (على سبيل المثال، الاحتفاظ بـ URL ولكن إسقاط محتوى الصفحة)، مما يقلل بشكل فعال من طول السياق دون فقدان بيانات دائم.
-
التلاعب بالانتباه من خلال الترديد:
- يمكن للوكلاء أن يفقدوا تركيزهم أو ينسوا الأهداف طويلة المدى في المهام المعقدة متعددة الخطوات.
- يتصدى مانوس لهذا من خلال جعل الوكيل يعيد كتابة ملف todo.md باستمرار. من خلال ترديد أهدافه وتقدمه في نهاية السياق، ينحاز انتباه النموذج نحو خطته العامة، مما يقلل من مشاكل “الضياع في المنتصف” ويقلل من عدم محاذاة الأهداف. يستفيد هذا من اللغة الطبيعية للتحيز بتركيز الذكاء الاصطناعي دون تغييرات معمارية.
-
ابقِ الأشياء الخاطئة:
- سيقوم الوكلاء بالخطأ – الهلوسة، ومواجهة الأخطاء، وسوء السلوك. الدافع الطبيعي هو تنظيف هذه الأخطاء.
- ومع ذلك، وجد مانوس أن ترك الإجراءات والملاحظات الفاشلة في السياق يُحدث تحديثًا ضمنيًا للمعتقدات الداخلية للنموذج. إن رؤية أخطائه الخاصة تساعد الوكيل على التعلم وتقلل من فرصة تكرار نفس الخطأ، مما يجعل استعادة الأخطاء مؤشرًا رئيسيًا على السلوك الوكيلي الحقيقي.
-
لا تجعل الأمر محدودًا بالمثال القليل:
- إن المطالبة القائمة على عدد قليل من الأمثلة قوية جدًا بالنسبة لنماذج اللغات الكبيرة، لكنها قد تؤدي إلى نتائج عكسية في الوكلاء من خلال تقليد السلوك المتكرر غير الأمثل. عندما يكون السياق متجانسًا جدًا مع أزواج متشابهة من الإجراءات والملاحظات، يمكن للوكيل أن يقع في روتين، مما يؤدي إلى الانحراف أو الهلوسة. الحل هو التنوع المُتحكم. يُقدم مانوس اختلافات صغيرة في قوالب التجزئة، أو الصياغة، أو التنسيق داخل السياق. تساعد هذه “الضوضاء” على كسر الأنماط المتكررة وتحويل انتباه النموذج، مما يمنعه من الوقوع في تقليد جامد للإجراءات السابقة.
خاتمة:
هندسة السياق مجال جديد جدًا ولكنه حاسم لوكلاء الذكاء الاصطناعي. يتجاوز الأمر قوة النموذج الخام، حيث يحدد كيفية إدارة الوكيل للذاكرة، والتفاعل مع بيئته، والتعلم من الملاحظات. إن إتقان هذه المبادئ ضروري لبناء وكلاء ذكاء اصطناعي قويين، وقابلين للتطوير، وذكاء.
اترك تعليقاً