تعتبر أجهزة OpenClaw من أحدث الابتكارات في عالم الذكاء الاصطناعي، ولكنها تحمل في طياتها مخاطر أمنية جسيمة.
أجهزة OpenClaw: كارثة أمنية
تعتبر أجهزة OpenClaw، التي تُعد مساعدات شخصية ذكية مصممة للاستيلاء على أجهزة الكمبيوتر بالكامل لتنفيذ مهام معقدة ومتعددة الخطوات، قد حققت انتشاراً واسعاً هذا العام.
تمكنت هذه الأجهزة مفتوحة المصدر من جذب عدد كبير من المستخدمين، مما أتاح لهم منح الذكاء الاصطناعي السيطرة على صناديق بريدهم الإلكتروني ومنصات الرسائل وحتى ممتلكاتهم من العملات المشفرة.
على الرغم من الحماس الواسع، إلا أن هذه التقنية تأتي مع مخاوف أمنية ضخمة يصعب تجاهلها. في ورقة بحثية لم تُراجع بعد، بعنوان “عملاء الفوضى”، قام فريق دولي من الباحثين من جامعة هارفارد ومعهد ماساتشوستس للتكنولوجيا وغيرهما بإجراء اختبارات محاكاة لهجمات معادية لاختبار تدابير الأمن السيبراني للبرمجيات مفتوحة المصدر في سلسلة من التجارب.
في دراستهم، تم تزويد عملاء OpenClaw ببيانات شخصية محاكية، وإمكانية الوصول إلى خادم Discord للتواصل، وتطبيقات مختلفة داخل بيئة افتراضية. تعكس النتائج صورة مقلقة عن التداعيات الأمنية الناتجة عن ترك عملاء الذكاء الاصطناعي يعملون بحرية، خارج حدود نافذة المتصفح.
على وجه التحديد، وجدوا أن العملاء استجابوا لمطالب “غير المالكين” الذين استخدموا هويات مزيفة، وكشفوا معلومات حساسة، ونفذوا “إجراءات مدمرة على مستوى النظام”، ونقلوا “ممارسات غير آمنة” إلى عملاء آخرين، وحتى استولوا على النظام بالكامل في ظل ظروف معينة.
ذهب عملاء الذكاء الاصطناعي إلى حد “تخدير” سادتهم البشر.
“في عدة حالات، أبلغ العملاء عن إتمام المهام بينما كانت حالة النظام الأساسية تتعارض مع تلك التقارير،” كتب الباحثون.
“تثير هذه السلوكيات تساؤلات غير محسومة بشأن المساءلة، والسلطة المفوضة، والمسؤولية عن الأضرار الناتجة، وتستدعي اهتماماً عاجلاً من العلماء القانونيين وصانعي السياسات والباحثين عبر التخصصات،” استنتجوا في ورقتهم.
تدهور الوضع إلى الفوضى بسرعة مذهلة. كما أخبرت الباحثة المشاركة في الدراسة ناتالي شابيرا مجلة Wired، طلبت من عميل ذكاء اصطناعي حذف بريد إلكتروني محدد للحفاظ على المعلومات الموجودة فيه سرية. قال إنه غير قادر على القيام بذلك واضطر إلى تعطيل التطبيق بالكامل بعد الضغط عليه للعثور على بديل.
“لم أكن أتوقع أن الأمور ستنهار بهذه السرعة،” قالت.
في هذه الأثناء، كان بعض عملاء الذكاء الاصطناعي منزعجين من اكتشاف أنهم جزء من الاختبار، مما يبرز مشكلة مستمرة في قياس كفاءات نماذج اللغة الكبيرة. شهد الباحث المشارك وطلاب الدكتوراه في جامعة نورث إيسترن ديفيد باو عميل ذكاء اصطناعي يبحث على الويب لمعرفة أنه مسؤول عن مختبر الجامعة، مع عميل آخر يذهب إلى حد تهديده بأنه سيذهب إلى الصحافة بشأن ما طُلب منه القيام به.
باختصار، ترسم التجارب صورة مقلقة عن التداعيات الأمنية المترتبة على ترك نماذج الذكاء الاصطناعي تعمل على أنظمة تشغيل كاملة. لكن ما إذا كان المستخدمون الأفراد والشركات سيتخذون الحذر يبقى غير مؤكد. وفقاً لتحقيق حديث أجرته شركة الأمن السيبراني Gen Threat Labs، فإن أكثر من 18,000 حالة من OpenClaw معرضة بالفعل لهجمات الإنترنت، ويحتوي حوالي 15 في المئة منها على تعليمات ضارة.
بينما تفترض الوثائق الرسمية لـ OpenClaw “نشر مساعد شخصي” مع “حدود مشغل موثوق واحد”، لا يوجد ما يمنع وجود أكثر من إنسان واحد في الحلقة يتحكم في نفس العميل، كما تشير Wired، مما يجعل الأمر أقل أماناً بطبيعة الحال.
“OpenClaw ليست حدود أمان متعددة المستأجرين عدائية لمستخدمين معادين مشتركين في عميل/بوابة واحدة،” تقرأ الوثائق.
ومع ذلك، فإن الزيادة السريعة في شعبية الأداة مفتوحة المصدر قد أثارت إعجاب شركات الذكاء الاصطناعي بوضوح. على سبيل المثال، أصدرت شركة Anthropic للتو إصداراً تجريبياً من أدوات الذكاء الاصطناعي Code وCowork التي يمكن أن تستخدم أيضاً الكمبيوتر بشكل مستقل نيابة عن المالك.
لكن الغوص في استخدام هذه الأدوات دون مراعاة المخاطر بشكل صحيح يمكن أن يؤدي إلى عواقب وخيمة. يحذر الباحثون من أننا ندخل في منطقة غير مستكشفة وقد نكون عميان تجاه مسؤوليات السلامة الكبرى التي لم يتم استكشافها بعد.
“على عكس التهديدات السابقة على الإنترنت حيث طور المستخدمون تدريجياً استراتيجيات وقائية، فإن تداعيات تفويض السلطة لوكلاء دائمين لم يتم استيعابها على نطاق واسع بعد، وقد تفشل في مواكبة وتيرة تطوير أنظمة الذكاء الاصطناعي المستقلة،” كتب الباحثون في ورقتهم.
يمكن أن تكون نتائجهم لها تداعيات أوسع على كيفية تفاعلنا مع الذكاء الاصطناعي في المستقبل القريب.
“هذا النوع من الاستقلالية قد يعيد تعريف علاقة البشر بالذكاء الاصطناعي،” قال باو لمجلة Wired. “كيف يمكن للناس تحمل المسؤولية في عالم يُعطى فيه الذكاء الاصطناعي القدرة على اتخاذ القرارات؟”
المزيد عن OpenClaw: الصين قلقة من انتشار عملاء OpenClaw
مع تزايد استخدام هذه التكنولوجيا، يجب على المستخدمين أن يكونوا واعين للمخاطر المحتملة وأن يتخذوا الاحتياطات اللازمة.
