فيسبوك
واتساب
قدم تليفزيون اليوم السابع تقريرًا تليفزيونيًا، تناول الأزمة المتصاعدة التي تواجه شركات الذكاء الاصطناعي، بسبب محاولات بعض المستخدمين استغلال النماذج الذكية للحصول على معلومات خطرة مرتبطة بتصنيع السموم والأسلحة البيولوجية..
وجاء التقرير بعد أن كشفت تقارير صحفية عن تمكن عدد من المستخدمين حول العالم من تجاوز بعض أنظمة الحماية الخاصة بنماذج الذكاء الاصطناعي، عبر توجيه استفسارات معقدة أدت في بعض الحالات إلى تقديم معلومات تفصيلية ودقيقة، راجعها خبراء في مجالات الأحياء ومكافحة الإرهاب، وحذروا من إمكانية إساءة استخدامها.
وأوضح التقرير أن بعض محاولات تجاوز القيود الأمنية اعتمدت على أساليب تُعرف باسم "الهندسة الاجتماعية"، حيث حاول المستخدمون تغيير طبيعة الطلب وإظهاره على أنه جزء من قصة خيالية أو سيناريو افتراضي، بهدف دفع النموذج إلى تقديم معلومات كان من المفترض رفضها.
ورغم أن شركات الذكاء الاصطناعي الكبرى اتخذت إجراءات ضد بعض الحسابات التي طلبت معلومات مرتبطة بالأسلحة البيولوجية والمواد السامة، فإن تحديًا قانونيًا ما زال قائمًا، في ظل عدم وجود تشريعات اتحادية أمريكية واضحة تُلزم الشركات بالإبلاغ عن جميع الطلبات الخطرة أو التعامل معها وفق إجراءات موحدة.
وأكد التقرير أن شركات التكنولوجيا تعمل على تطوير أنظمة حماية أكثر تقدمًا لمنع إساءة استخدام نماذج الذكاء الاصطناعي، مع الحفاظ على قدرتها على خدمة المجالات المشروعة، خاصة في قطاعات الطب والبحث العلمي، حيث تستخدم هذه التقنيات في تطوير الأدوية وتحليل البيانات وتسريع الاكتشافات العلمية.
وأشار التقرير إلى أن التحدي الأكبر أمام صناعة الذكاء الاصطناعي يتمثل في تحقيق توازن دقيق بين سرعة التطور التكنولوجي وتعزيز معايير الأمان، خاصة مع التطور المستمر لقدرات النماذج الحديثة التي أصبحت أكثر قدرة على فهم المعلومات وإنتاج إجابات متقدمة.
وتثير هذه التطورات نقاشًا عالميًا حول مستقبل الذكاء الاصطناعي، وقدرة القوانين والأنظمة الرقابية على مواكبة التطور السريع لهذه التكنولوجيا، في ظل مخاوف من إمكانية استغلالها من جهات تسعى لاستخدامها في أنشطة تهدد الأمن والسلامة.
