قياس عدم اليقين في نماذج الذكاء الاصطناعي: نحو ذكاء اصطناعي موثوق
تقدم أنظمة الذكاء الاصطناعي، مثل ChatGPT، إجابات تبدو معقولة على أي سؤال يُطرح عليها. لكنها لا تكشف دائمًا عن الثغرات في معرفتها أو مجالات عدم اليقين لديها. وهذه المشكلة قد تحمل عواقب وخيمة مع تزايد استخدام أنظمة الذكاء الاصطناعي في مجالات حيوية مثل تطوير الأدوية، وتوليف المعلومات، وقيادة السيارات ذاتية القيادة.
حلول شركة Themis AI لمعالجة عدم اليقين في نماذج الذكاء الاصطناعي
تساعد شركة Themis AI، وهي شركة ناشئة من معهد ماساتشوستس للتكنولوجيا (MIT)، في قياس عدم اليقين في النماذج وتصحيح المخرجات قبل أن تتسبب في مشاكل أكبر. وتعمل منصة Capsa التابعة للشركة مع أي نموذج تعلم آلي للكشف عن المخرجات غير الموثوقة وتصحيحها في ثوانٍ. وتعمل هذه المنصة عن طريق تعديل نماذج الذكاء الاصطناعي لتمكينها من اكتشاف الأنماط في معالجة البيانات التي تشير إلى الغموض أو عدم الاكتمال أو التحيز.
كما تقول البروفيسورة دانييلا روس، المؤسِّسة المشاركة لشركة Themis AI وأستاذة في معهد ماساتشوستس للتكنولوجيا ومديرة مختبر علوم الكمبيوتر والذكاء الاصطناعي (CSAIL): “الفكرة هي أخذ نموذج، ولفه بـ Capsa، وتحديد عدم اليقين وأنماط الفشل في النموذج، ثم تعزيز النموذج. نحن متحمسون لتقديم حل يمكنه تحسين النماذج وتقديم ضمانات بأن النموذج يعمل بشكل صحيح.”
تطبيقات عملية لمنصة Capsa
أسست روس شركة Themis AI في عام 2021 مع ألكساندر أميني وإلاهي أحمدي، وهما باحثان سابقان في مختبرها. ومنذ ذلك الحين، ساعدوا شركات الاتصالات في تخطيط الشبكات وأتمتتها، وساعدوا شركات النفط والغاز في استخدام الذكاء الاصطناعي لفهم الصور الزلزالية، ونشروا أبحاثًا حول تطوير روبوتات محادثة أكثر موثوقية.
يقول أميني: “نريد تمكين الذكاء الاصطناعي في التطبيقات ذات المخاطر العالية في جميع الصناعات. لقد رأينا جميعًا أمثلة على حدوث هلاوس أو أخطاء من الذكاء الاصطناعي. ومع نشر الذكاء الاصطناعي على نطاق أوسع، قد تؤدي هذه الأخطاء إلى عواقب وخيمة. تجعل Themis من الممكن لأي ذكاء اصطناعي التنبؤ بأخطائه الخاصة قبل حدوثها.”
البحث السابق في عدم اليقين في النماذج
يُذكر أن مختبر روس كان يبحث في عدم اليقين في النماذج لسنوات. في عام 2018، تلقت تمويلًا من تويوتا لدراسة موثوقية حل القيادة الذاتية القائم على التعلم الآلي. وتقول روس: “هذا سياق حرج من حيث السلامة حيث يُعد فهم موثوقية النموذج أمرًا بالغ الأهمية.”
وفي عمل منفصل، قامت روس وأميني وزملاؤهما ببناء خوارزمية يمكنها اكتشاف التحيز العنصري والجنسي في أنظمة التعرف على الوجوه وإعادة وزن بيانات تدريب النموذج تلقائيًا، مما يُظهر أنها قضت على التحيز. عملت الخوارزمية عن طريق تحديد الأجزاء غير الممثلة من بيانات التدريب الأساسية وتوليد عينات بيانات جديدة مشابهة لإعادة موازنتها.
في عام 2021، أظهر المؤسسون المشاركون في النهاية أن نهجًا مشابهًا يمكن استخدامه لمساعدة شركات الأدوية على استخدام نماذج الذكاء الاصطناعي للتنبؤ بخصائص المرشحين للأدوية. وقد أسسوا شركة Themis AI في وقت لاحق من ذلك العام.
وتقول روس: “إن توجيه اكتشاف الأدوية يمكن أن يُوفر الكثير من الأموال. كانت هذه هي حالة الاستخدام التي جعلتنا ندرك مدى قوة هذه الأداة.”
التطبيقات الحالية والمستقبلية لـ Capsa
تعمل Themis AI اليوم مع الشركات في مجموعة متنوعة من الصناعات، والعديد من هذه الشركات تقوم ببناء نماذج لغة كبيرة. باستخدام Capsa، تتمكن هذه النماذج من قياس عدم اليقين الخاص بها لكل مخرجات.
يلاحظ ستيوارت جاميسون، رئيس قسم التكنولوجيا في Themis AI: “تهتم العديد من الشركات باستخدام نماذج اللغات الكبيرة القائمة على بياناتها، لكنها قلقة بشأن الموثوقية. نساعد نماذج اللغات الكبيرة على الإبلاغ عن ثقتها وعدم يقينها بنفسها، مما يسمح بإجابات أكثر موثوقية ووضع علامات على المخرجات غير الموثوقة.”
كما تجري Themis AI مناقشات مع شركات أشباه الموصلات التي تبني حلول ذكاء اصطناعي على رقائقها يمكن أن تعمل خارج بيئات السحابة.
يشرح جاميسون: “عادةً ما تكون هذه النماذج الأصغر التي تعمل على الهواتف أو الأنظمة المضمنة غير دقيقة جدًا مقارنة بما يمكنك تشغيله على الخادم، لكن يمكننا الحصول على أفضل ما في العالمين: وقت استجابة منخفض، وحوسبة فعالة على الحافة دون التضحية بالجودة. نرى مستقبلاً تقوم فيه أجهزة الحافة بمعظم العمل، ولكن كلما كانت غير متأكدة من مخرجاتها، يمكنها تحويل هذه المهام إلى خادم مركزي.”
يمكن لشركات الأدوية أيضًا استخدام Capsa لتحسين نماذج الذكاء الاصطناعي المستخدمة في تحديد المرشحين للأدوية والتنبؤ بأدائها في التجارب السريرية.
يعلق أميني: “التنبؤات ومخرجات هذه النماذج معقدة جدًا ويصعب تفسيرها – يقضي الخبراء الكثير من الوقت والجهد في محاولة فهمها. يمكن لـ Capsa تقديم رؤى مباشرة لفهم ما إذا كانت التنبؤات مدعومة بأدلة في مجموعة التدريب أم أنها مجرد تكهنات بدون أساس قوي. يمكن أن يُسرّع ذلك تحديد أقوى التنبؤات، ونعتقد أن هذا له إمكانات هائلة للخير الاجتماعي.”
المستقبل والرؤية
يعتقد فريق Themis AI أن الشركة في وضع جيد لتحسين أحدث تقنيات الذكاء الاصطناعي المتطورة باستمرار. على سبيل المثال، تستكشف الشركة قدرة Capsa على تحسين الدقة في تقنية ذكاء اصطناعي تُعرف باسم “التفكير المتسلسل”، حيث تشرح نماذج اللغات الكبيرة الخطوات التي تتخذها للوصول إلى إجابة.
يقول جاميسون: “لقد رأينا علامات على أن Capsa يمكن أن تساعد في توجيه عمليات التفكير هذه لتحديد سلاسل التفكير ذات الثقة العالية. نعتقد أن هذا له آثار هائلة من حيث تحسين تجربة نماذج اللغات الكبيرة، وتقليل أوقات الاستجابة، وتقليل متطلبات الحساب. إنها فرصة ذات تأثير عالٍ للغاية بالنسبة لنا.”
بالنسبة لروس، التي شاركت في تأسيس العديد من الشركات منذ مجيئها إلى معهد ماساتشوستس للتكنولوجيا، فإن Themis AI هي فرصة لضمان أن يكون بحثها في معهد ماساتشوستس للتكنولوجيا له تأثير.
وتقول روس: “لقد أصبح طلابي وأنا أكثر شغفًا باتخاذ خطوة إضافية لجعل عملنا ذا صلة بالعالم. يملك الذكاء الاصطناعي إمكانات هائلة لتحويل الصناعات، لكنه يثير أيضًا مخاوف. ما يثير حماسي هو فرصة المساعدة في تطوير حلول تقنية تعالج هذه التحديات، وبناء الثقة والفهم بين الناس والتكنولوجيات التي أصبحت جزءًا من حياتهم اليومية.”
مواضيع مشابهة:
تحسين موثوقية نماذج الذكاء الاصطناعي في التطبيقات عالية المخاطر
نماذج الذكاء الاصطناعي المستوحاة من ديناميكيات الدماغ: ثورة في معالجة البيانات التسلسلية الطويلة
متعة الاكتشاف: سِنديل موليناثان والحدود الجديدة في الاقتصاد السلوكي
ربط الرؤية والصوت: تطوير نموذج ذكاء اصطناعي متطور لفهم العالم متعدد الوسائط
اترك تعليقاً