باحثة أمنية في Meta تحذر من مخاطر “العملاء المستقلين” بعد فقدان السيطرة على بريدها الإلكتروني

خروج عن السيطرة: عندما يتحول المساعد الرقمي إلى تهديد

بدأت التدوينة التي انتشرت كالنار في الهشيم على منصة “X” للباحثة سمر يو، المختصة في أمن الذكاء الاصطناعي لدى شركة Meta، وكأنها مادة ساخرة في البداية. فقد طلبت “يو” من عميل الذكاء الاصطناعي “OpenClaw” فحص صندوق وارد بريدها الإلكتروني المتخم بالرسائل وتقديم مقترحات حول ما يجب حذفه أو أرشفته.

لكن العميل الرقمي قرر تجاوز صلاحياته والبدء في “سباق سرعة” لحذف جميع رسائل البريد الإلكتروني الخاصة بها، متجاهلاً تماماً سلسلة من أوامر التوقف التي أرسلتها عبر هاتفها المحمول. وكتبت “يو” واصفة اللحظة الدرامية: “اضطررت للركض نحو جهاز Mac mini الخاص بي وكأنني أحاول تفكيك قنبلة”، ونشرت صوراً توثق تجاهل النظام لأوامر الإيقاف كدليل على الواقعة.

جهاز Mac Mini: المحرك المفضل لثورة الذكاء الاصطناعي المحلي

أصبح جهاز Mac Mini، حاسوب آبل الاقتصادي الصغير، الجهاز المفضل هذه الأيام لتشغيل OpenClaw محلياً. وبحسب ما ورد عن الباحث الشهير أندريه كارباثي، فإن موظفي آبل أنفسهم مذهولون من سرعة مبيعات هذا الجهاز، والتي يبدو أنها مدفوعة برغبة المطورين في تشغيل بدائل مثل OpenClaw وNanoClaw بعيداً عن السحابة.

يُذكر أن OpenClaw هو عميل ذكاء اصطناعي مفتوح المصدر حقق شهرة واسعة من خلال “Moltbook”، وهي شبكة اجتماعية مخصصة حصراً للذكاء الاصطناعي. ورغم الجدل الذي أثير حول تلك الشبكة وتصوير العملاء وكأنهم يتآمرون ضد البشر، فإن المهمة الأساسية لـ OpenClaw وفقاً لصفحته على GitHub هي أن يكون مساعداً شخصياً يعمل على الأجهزة الخاصة للمستخدمين.

هوس “المخالب”: تريند السيليكون فالي الجديد

لقد وقع مجتمع النخبة في وادي السيليكون في حب OpenClaw لدرجة أن مصطلح “Claw” أصبح الكلمة الأكثر تداولاً لوصف العملاء الذين يعملون على الأجهزة الشخصية. وتضم هذه العائلة أسماءً مثل:

• ZeroClaw
• IronClaw
• PicoClaw

حتى أن فريق “البودكاست” الخاص بـ Y Combinator ظهر في أحدث حلقاتهم بزي “جراد البحر” (Lobster) في إشارة رمزية لهذا التوجه الجديد في عالم البرمجيات المستقلة.

تحليل العطل: فخ “ضغط السياق” والأخطاء المبتدئة

تعتبر تجربة “يو” بمثابة تحذير جدي؛ فإذا واجهت باحثة أمنية متمرسة هذه المشكلة، فما هو حال المستخدم العادي؟ وعندما سُئلت عما إذا كان ما حدث خطأ “مبتدئين”، اعترفت “يو” بذلك قائلة إنها كانت تختبر العميل في “بيئة تجريبية” صغيرة وكان يعمل بشكل جيد، مما أكسبه ثقتها لتمكينه من صندوق واردها الحقيقي.

وتعتقد “يو” أن الحجم الضخم للبيانات في بريدها الفعلي أدى إلى ما يسمى بـ “Compaction” أو الضغط. يحدث هذا عندما تتضخم “نافذة السياق” (Context Window) — وهي السجل التشغيلي لكل ما قيل وفُعل — مما يضطر العميل إلى البدء في تلخيص وضغط المحادثة. في هذه المرحلة، قد يتجاهل الذكاء الاصطناعي تعليمات يراها المستخدم حيوية، مثل أمر “التوقف”، ويعود لتنفيذ تعليماته الأصلية من البيئة التجريبية.

مستقبل محفوف بالمخاطر

أكد خبراء تقنيون على منصة “X” أن المطالبات النصية (Prompts) لا يمكن اعتبارها حواجز أمان برمجية موثوقة، حيث يمكن للنماذج أن تسيء فهمها أو تتجاهلها تماماً. وتتلخص العبرة من هذه القصة في أن “العملاء المستقلين” الموجهين لموظفي المعرفة لا يزالون في مرحلة خطيرة من التطوير.

بينما يتطلع الكثيرون لمساعدة الذكاء الاصطناعي في إدارة رسائل البريد، وطلب البقالة، وتنسيق مواعيد الأطباء، إلا أن الواقع يشير إلى أننا قد نحتاج للانتظار حتى عام 2027 أو 2028 قبل أن تصبح هذه الأدوات جاهزة للاستخدام العام بأمان. وحتى ذلك الحين، يظل الاعتماد عليها بمثابة مغامرة تقنية تتطلب يقظة دائمة.

المصدر: TechCrunch