قياس عدم اليقين في نماذج الذكاء الاصطناعي: نحو أنظمة أكثر موثوقية
مقدمة
تُقدم أنظمة الذكاء الاصطناعي، مثل نموذج ChatGPT، إجابات تبدو معقولة على أي سؤال يُطرح عليها. لكنها لا تكشف دائمًا عن الثغرات في معرفتها أو مجالات عدم اليقين لديها. هذه المشكلة قد تحمل عواقب وخيمة مع تزايد استخدام أنظمة الذكاء الاصطناعي في مجالات حيوية مثل تطوير الأدوية، وتوليف المعلومات، وقيادة السيارات ذاتية القيادة. لذا، تعمل شركة Themis AI، وهي شركة ناشئة من معهد ماساتشوستس للتكنولوجيا (MIT)، على معالجة هذه القضية من خلال قياس عدم اليقين في النماذج وتصحيح المخرجات قبل أن تتسبب في مشاكل أكبر.
منصة Capsa: الكشف عن عدم اليقين وتصحيحه
تُقدم Themis AI منصة Capsa، وهي قادرة على العمل مع أي نموذج تعلّم آلي للكشف عن المخرجات غير الموثوقة وتصحيحها في ثوانٍ. وتعمل المنصة عن طريق تعديل نماذج الذكاء الاصطناعي لتمكينها من اكتشاف الأنماط في معالجة البيانات التي تشير إلى الغموض أو عدم الاكتمال أو التحيز.
كما تُوضح البروفيسورة دانييلا روس، المؤسِّسة المشاركة لـ Themis AI وأستاذة في معهد ماساتشوستس للتكنولوجيا ومديرة مختبر علوم الحاسوب والذكاء الاصطناعي (CSAIL): “الفكرة هي أخذ نموذج، ووضعه داخل Capsa، وتحديد عدم اليقين وأنماط الفشل في النموذج، ثم تعزيز النموذج. نحن متحمسون لتقديم حل يمكنه تحسين النماذج وتقديم ضمانات بأن النموذج يعمل بشكل صحيح”.
تطبيقات واسعة النطاق
عملت Themis AI منذ تأسيسها عام 2021 مع شركات في قطاعات متعددة، منها شركات الاتصالات في تخطيط الشبكات وأتمتتها، وشركات النفط والغاز في فهم الصور الزلزالية، بالإضافة إلى نشر أبحاث حول تطوير روبوتات محادثة أكثر موثوقية. يهدف الفريق إلى تمكين الذكاء الاصطناعي في التطبيقات عالية المخاطر في جميع الصناعات، مُسلطاً الضوء على أهمية معالجة أخطاء الذكاء الاصطناعي المحتملة لتجنب عواقبها الوخيمة.
البحوث السابقة وأهمية التعاون
أجرى مختبر البروفيسورة روس أبحاثًا مكثفة حول عدم اليقين في النماذج لسنوات، بما في ذلك دراسة موثوقية حلول القيادة الذاتية القائمة على التعلم الآلي، وتطوير خوارزمية للكشف عن التحيز العنصري والجندري في أنظمة التعرف على الوجوه، وإعادة وزن بيانات تدريب النموذج لإزالة التحيز. كما تم تطبيق نهج مماثل لمساعدة شركات الأدوية في التنبؤ بخصائص المرشحين للأدوية.
تحسين نماذج اللغة الكبيرة (LLMs)
تُستخدم منصة Capsa حاليًا لتحسين نماذج اللغة الكبيرة، حيث تُمكّن هذه النماذج من قياس عدم اليقين الخاص بها لكل مخرجة. كما تُساعد Capsa في تعزيز دقة تقنية “سلسلة التفكير” في نماذج اللغة الكبيرة، والتي تشرح الخطوات التي تتخذها للوصول إلى إجابة، مما يُحسّن تجربة المستخدم ويُقلل من متطلبات الحوسبة.
التطبيقات في الأجهزة المتنقلة والأنظمة المدمجة
تسعى Themis AI إلى دمج Capsa في الأجهزة المتنقلة والأنظمة المدمجة، لتحقيق التوازن بين دقة النماذج وكفاءة الطاقة. فمن الممكن أن تقوم الأجهزة المتنقلة بمعظم العمل، مع إحالة المهام التي تشوبها عدم يقين إلى خادم مركزي.
الاستنتاج
تُمثل Themis AI خطوة هامة نحو تطوير أنظمة ذكاء اصطناعي أكثر موثوقية وشفافية، مُساهمةً في بناء الثقة بين الأفراد والتكنولوجيا. ويُظهر عمل الشركة التزامًا واضحًا بتحويل البحوث الأكاديمية إلى حلول عملية ذات تأثير عالمي.
اترك تعليقاً