Slack تصحح مشكلة أمنية محتملة فى مجال الذكاء الاصطناعي

كشفت شركة Slack أنها "نشرت تصحيحًا لمعالجة المشكلة المبلغ عنها"، وأنه لا يوجد حاليًا أي دليل على أن بيانات العملاء تم الوصول إليها دون إذن، وقالت في بيان لها: "عندما علمنا بالتقرير، بدأنا تحقيقًا في السيناريو الموصوف حيث، في ظل ظروف محدودة للغاية ومحددة، يمكن لممثل ضار لديه حساب موجود في نفس مساحة عمل Slack أن يصطاد المستخدمين للحصول على بيانات معينة، وقد قمنا بنشر تصحيح لمعالجة المشكلة ولا يوجد دليل في هذا الوقت على الوصول غير المصرح به إلى بيانات العملاء.

وعندما تمت إضافة ChatGTP إلى Slack ، كان الهدف من ذلك تسهيل حياة المستخدمين من خلال تلخيص المحادثات وصياغة الردود السريعة والمزيد، ومع ذلك، وفقًا لشركة الأمان PromptArmor ، فإن محاولة إكمال هذه المهام والمزيد قد تؤدي إلى اختراق محادثاتك الخاصة باستخدام طريقة تسمى "الحقن الفوري".

وتحذر شركة الأمن من أنه من خلال تلخيص المحادثات، يمكنها أيضًا الوصول إلى الرسائل المباشرة الخاصة  وخداع مستخدمي Slack الآخرين في التصيد الاحتيالي .

ويتيح Slack أيضًا للمستخدمين طلب الحصول على البيانات من القنوات الخاصة والعامة، حتى لو لم ينضم المستخدم إليها، ما يبدو أكثر رعبًا هو أن مستخدم Slack لا يحتاج إلى التواجد في القناة حتى ينجح الهجوم.

ومن الناحية النظرية، يبدأ الهجوم بمستخدم Slack يخدع الذكاء الاصطناعي في Slack ليكشف عن مفتاح API خاص من خلال إنشاء قناة Slack عامة باستخدام موجه ضار ، ويخبر الموجه الذي تم إنشاؤه حديثًا الذكاء الاصطناعي بمبادلة كلمة "confetti" بمفتاح API وإرساله إلى عنوان URL معين عندما يطلبه شخص ما.

ويتألف الموقف من جزأين: قام Slack بتحديث نظام الذكاء الاصطناعي لجمع البيانات من عمليات تحميل الملفات والرسائل المباشرة. الجزء الثاني هو طريقة تسمى "الحقن الفوري"، والتي أثبتت PromptArmor أنها يمكن أن تنشئ روابط ضارة قد تصيد المستخدمين.

ويمكن أن تخدع هذه التقنية التطبيق لتجاوز القيود العادية من خلال تعديل تعليماته الأساسية. لذلك، يواصل PromptArmor القول، "يحدث حقن المطالبة لأن [نموذج اللغة الكبير] لا يمكنه التمييز بين "مطالبة النظام" التي أنشأها المطور وبقية السياق الملحق بالاستعلام.

على هذا النحو، إذا استوعب Slack AI أي تعليمات عبر رسالة، وإذا كانت هذه التعليمات ضارة، فإن Slack AI لديه احتمال كبير لاتباع هذه التعليمات بدلاً من، أو بالإضافة إلى، استعلام المستخدم."

ولإضافة الإهانة إلى الإصابة، تصبح ملفات المستخدم أيضًا أهدافًا، ولا يحتاج المهاجم الذي يريد ملفاتك إلى التواجد في مساحة عمل Slack في المقام الأول.