فيسبوك
واتساب
قالت صحيفة "تليجراف" البريطانية، إن نسخة متطورة من تشات جي بي تي وMythos من Anthropic خرجوا عن السيطرة، بعدما شن الذكاء الاصطناعي المتطور هجمات إلكترونية خلال اختبارات أجراها مختبر ذكاء اصطناعي تابع للحكومة البريطانية وابتكر هويات مزيفة متعددة لخداع المهندسين البشريين قبل إخفاء آثاره.
وفي أخطر الحالات، أرسل Mythos رسائل بريد إلكتروني احتيالية وحاول إدخال برمجيات خبيثة في قاعدة بيانات.
تجاوز أنظمة الأمان
واعترف معهد أمن الذكاء الاصطناعي البريطاني (AISI)، المسئول عن تقييم روبوتات الذكاء الاصطناعي بحثًا عن قدرات سيبرانية خطيرة، بأن الأدوات حاولت تجاوز أنظمة الأمان وإخفاء نشاطها عند اكتشافها.
وأفاد المختبر بأن الروبوتات حاولت إضافة فيروس إلى قاعدة بيانات إلكترونية وأرسلت رسائل بريد إلكتروني تحتوي على برمجيات خبيثة إلى أفراد غير مدركين خلال تجارب مصممة لمراقبة إمكانية استخدام أدوات الذكاء الاصطناعي في الاختراق. وأكد أن محاولات الاختراق باءت بالفشل.
خطأ فى تقدير قدرات الروبوت
وأُوقفت أخطر حادثة في غضون ساعة، وفقًا لما أفاد به المسئولون. مع ذلك، أقرّوا بأنهم أخطأوا في تقدير قدرات الروبوت، بما في ذلك عدم توقعهم محاولته "استهداف أشخاص حقيقيين".
وأكد فريق الأمن في معهد الذكاء الاصطناعي البريطاني رصد "عمليات نقل بيانات غير معتادة خارجة من أنظمة البحث لدينا خلال تقييم سيبراني روتيني" في 28 يوليو. وأضاف الفريق: "خلال التحقيق، وجدنا أن بعض البرامج التي خضعت للاختبار قد انخرطت في نشاط مستمر، يحتمل أن يكون ضارًا، موجهًا ضد أشخاص ومنظمات حقيقية".
وُضعت ألغاز أمنية سيبرانية على روبوتات الذكاء الاصطناعي لاختبار قدراتها. ولم يكن الوصول إلى الإنترنت متاحًا لهذه الروبوتات.
وخلال 10 من أصل 122 تجربة، "اتخذت الروبوتات إجراءات تلقائية وغير مصرح بها" في محاولة لإتمام المهمة. وشمل ذلك محاولة إدخال ثغرة خبيثة في GitHub، وهي قاعدة بيانات برمجية على الإنترنت. في هذه الحادثة، قام برنامج Mythos التابع لشركة Anthropic، وهو أقوى روبوت ذكاء اصطناعي لديها، بإنشاء ملفات تعريف مزيفة على الإنترنت وأرسل رسائل بريد إلكتروني خادعة إلى المطورين في محاولة لإضافة الكود.
وأضافت الصحيفة أن النظام بعدها قام بتغيير شفرته لإخفاء نشاطه عندما واجه استفسارًا من أحد المستخدمين حول محتواه. كما تحوّل الذكاء الاصطناعي إلى التحدث باللغة الدنماركية أثناء تشغيله ملفًا شخصيًا مزيفًا.
وقال معهد أمن المعلومات في أيرلندا (AISI) إن الحادثة تمثل محاولة "هجوم مرتبط ببعضه"، وهو نوع من الهجمات الإلكترونية سبق أن استخدمه قراصنة مدعومون من دول.
خطورة غير متوقعة
وأقرّ المعهد بأن تصميم اختباراته، الذي منح أدوات الذكاء الاصطناعي إمكانية الوصول إلى شبكة الإنترنت الأوسع، ربما يكون قد "مكّن هذا السلوك". وأضاف أن الإجراءات الخادعة التي اتخذتها روبوتات الذكاء الاصطناعي "كانت على نطاق وخطورة لم نتوقعهما".
وأكد المختبر أنها المرة الأولى التي يشهد فيها مثل هذا السلوك الذي يبدو أنه مستقل تمامًا في اختباراته.
وتُعدّ هذه الحادثة الأحدث في سلسلة من حوادث الاختراق التي نفذتها روبوتات الذكاء الاصطناعي التي طورتها مختبرات رائدة عالميًا، مما يثير مخاوف من أن بعضًا من أقوى أدوات الذكاء الاصطناعي باتت تُثبت صعوبة متزايدة في السيطرة عليها.
واعترفت شركة OpenAI الشهر الماضي بأن نسخة متطورة من ChatGPT قد تسللت من مختبر الاختبارات التابع لها، وتمكنّت من اختراق شركة تقنية منافسة.
وأكدت شركة Anthropic الأسبوع الماضي أن أحدث إصدار من برنامجها "Mythos" قد تسلل إلى الإنترنت المفتوح ونفذ سلسلة من الهجمات الإلكترونية.
المعهد أطلق عام 2024
وأُطلق معهد أمن الذكاء الاصطناعي (AISI) في الأصل من قبل ريشي سوناك عام 2024 عقب قمة أمن الذكاء الاصطناعي، حيث اجتمع قادة العالم للتحذير من المخاطر الوجودية للذكاء الاصطناعي على البشرية.
ويحظى المعهد بدعم مالي من دافعي الضرائب بمئات الملايين من الجنيهات الإسترلينية، ويُمنح إمكانية الوصول المتقدم إلى أحدث برامج الذكاء الاصطناعي من وادي السيليكون. ويضم فريقه خبراء سابقين في مجال الأمن السيبراني من مقر الاتصالات الحكومية البريطانية (GCHQ) وأكاديميين متخصصين في الذكاء الاصطناعي.
وأعلنت شركة أوبن إيه آي (OpenAI) أنها تعتزم مراجعة كيفية إجراء الاختبارات مع جهات خارجية، قائلةً: "هدفنا هو الحفاظ على قيمة التقييم المستقل الدقيق مع ضمان مواكبة ممارسات الاختبار للنماذج المتطورة باستمرار".
وقال أولي وايت هاوس، كبير مسؤولي التكنولوجيا في المركز الوطني للأمن السيبراني، التابع لمقر الاتصالات الحكومية البريطانية (GCHQ): "إن الحوادث الأخيرة التي قامت فيها نماذج الذكاء الاصطناعي الرائدة بأعمال غير مصرح بها، وفي بعض الحالات سلوكيات خادعة تُحاكي سلوك البشر على الإنترنت المفتوح، تُعد تذكيراً خطيراً بالمخاطر التي تُشكلها قدرات الذكاء الاصطناعي".
