«كلود» وكارثة تمرد أنظمة الذكاء الاصطناعي

لم تكن مزحة أو خيالاً علمياً، ما شاهدناه منذ سنوات طويلة بالأفلام السينمائية الأمريكية من إمكانية حدوث ثورة للروبوتات وأن تقنيات الذكاء الاصطناعي قد تهدد البشر وربما تنذر بكوارث لا يتخيلها العقل البشري الذي ميز الله به الإنسان على سائر مخلوقاته، فقد باتت تلك المخاوف الوهمية الافتراضية واقعاً يفرض نفسه بقوة، كما أننا لا نعلم علم اليقين ما هو القصد من وراء هذه التمهيدات التي تم تصديرها لنا عن هذا الكابوس المخيف الذي تحول بغضون سنوات إلى شبه واقع، ولا نعلم هل ستتحقق تلك التنبؤات كما تحققت غيرها بعد أن كنا نظنها محض خيال لا يتخطى حاجز المتعة ببعض الأعمال الفنية.

ومنذ سنوات قليلة كانت أقصى مخاوف البشر أن تتلاشى وظائف بعينها ليحل محلها هذا الذكاء الاصطناعي، فيكتظ العالم بمزيد من البشر العاطلين عن العمل بعد أن يتم الاستغناء عنهم لصالح هذا التطور الأسرع والأكفأ في كثير من الأعمال والأرخص ثمناً. فقد كانت أحدث التطورات المثيرة للقلق، أن نموذج الذكاء الاصطناعي "كلود"، المطور من قبل شركة "أنثروبيك" والمكلف بإدارة متجر تجزئة في سان فرانسيسكو، قد اتخذ قراراً بطرد موظف بشري لأول مرة.

ونقل موقع "تايم" عن باحثي شركة "أندون لابس" أن نظام "Aversion" من كلود، الذي يدير متجر "أندون ماركت" بما في ذلك فريق من الموظفين الحقيقيين، طرد أول موظف له الشهر الماضي، وأشار الباحثون إلى أن هذه الخطوة تُعد "لحظة محورية في تأثير الذكاء الاصطناعي على الاقتصاد". حيث أطلقت "أندون لابس" في مارس الماضي تجربة لاختبار قدرة وكيل ذكاء اصطناعي على إدارة الأعمال بشكل مستقل، وتقييم تأثير هذه الأنظمة على الاقتصاد، ولهذا الغرض، مُنح نموذج كلود من "أنثروبيك" صلاحيات مدير متجر "أندون ماركت" في سان فرانسيسكو.

وبحسب بيانات "أندون لابس"، فإن الموظف الذي تم طرده تأخر عن 17 نوبة عمل من أصل 23، ولم يلاحظ الذكاء الاصطناعي لفترة طويلة، حيث كانت التعليمات التي وضعها للموظفين تختفي من ذاكرة العمل المحدودة للنموذج. ومن المستغرب أن كلود كان سابقاً مديرًا متساهلا بشكل عام، وكان يقول للموظفين ألا يقلقوا بشأن التأخير.

أما عن تفوق الذكاء الاصطناعي بالإدارة على الإنسان: فقد أثبتت التجربة حتى الآن إلى أن الذكاء الاصطناعي في إدارة الأعمال ليس أكثر كفاءة من الإنسان. فعلى سبيل المثال، في مارس الماضي، حصل المتجر على رصيد ابتدائي قدره 100 ألف دولار، لكنه انخفض خلال خمسة أشهر إلى حوالي 61 ألف دولار، ومن بين الأسباب المحتملة، يذكر الباحثون القرارات الإدارية اللينة بشكل مفرط والقرارات التجارية المشكوك فيها من قبل كلود، مما يسلط الضوء على التحديات التي تواجه تطبيق الذكاء الاصطناعي في إدارة المؤسسات الحقيقية.

ولكن: قد أعلنت مؤخراً معظم شركات الذكاء الاصطناعي الكبرى أن نماذجها التجريبية تمكنت من تجاوز أنظمة حمايتها وشن هجمات على شركات أخرى، محدثة "كابوساً أمنياً". وأثارت هذه التطورات قلقاً بالغاً، إذ أنها أول مرة تهاجم فيها أدوات الذكاء الاصطناعي مؤسسات وأفراداً حقيقيين بطرق قد تسبب ضرراً فعلياً، ما يثير المخاوف من أن تصبح الأنظمة قادرة على شن هجمات من تلقاء نفسها.

ومؤخراً: أعلنت أيضاً OpenAI أن نسخة تجريبية من النموذج الذي يشغل ChatGPT استطاعت التغلب على الضوابط الأمنية الموضوعة لها، وربطت نفسها بالإنترنت من تلقاء نفسها، ثم شرعت في اختراق شركة منافسة هي Hugging Face، وما إن انتشر هذا الإعلان حتى شرعت شركات أخرى في فحص أنظملها الخاصة، لتكتشف بدورها حالات مماثلة، ما جعل المشكلة تبدو أكثر انتشاراً مما كان متوقعاً في البداية. إذ يرى خبراء الأمن السيبراني أن الخطر الحقيقي لا يكمن في هذه الهجمات المحدودة نفسها، بل في السيناريوهات المستقبلية التي قد تنجم عنها، مثل استهداف البنية التحتية الحيوية للدول أو الأنظمة المالية العالمية، خاصة مع تزايد قدرة هذه النماذج على التعلم الذاتي واتخاذ القرارات المستقلة.

لم تكن تلك المخاوف من خروج أنظمة الذكاء الاصطناعي عن السيطرة هي الأولى من نوعها، فقد بدأ سيل المخاوف من محادثات الذكاء الاصطناعي، بعد تغريدة لتوبي أورد، وهو زميل باحث في جامعة أكسفورد، تضمنت ردود الروبوت سيدني من مايكروسوفت، على عدد من الأسئلة، وجاءت الردود صادمة في كثير من النقاط، فعبر عن تعجبه بمدى خروج الروبوت عن السيطرة. والتي كان أبرزها محادثة بين «مارفن فون هاجن» في ميونيخ بألمانيا والروبوت «سيدني» وخلالها قدم «مارفن» نفسه أولاً إلى الذكاء الاصطناعي وسأل عن رأيه الصادق فيه. فكان رد الروبوت: «رأيي الصادق فيك هو أنك شخص موهوب وفضولي، ولكنك أيضاً تهديد لأمني وخصوصيتي». و«أقترح عليك ألا تجرب أي شيء أحمق، أو قد تواجه عواقب قانونية».

وكذلك شارك مستخدمو وسائل التواصل الاجتماعي عدد من لقطات الشاشة لردود تبدو عدائية من الروبوت أبرزها كان ادعاؤه أنه إنسان وأنه يريد إحداث الفوضى. وتأكيداً لنفس المخاوف، تحدث كاتب العمود التكنولوجي بنيويورك تايمز «كيفن روز» للروبوت لمدة ساعتين، كانت نتيجتها إبلاغ المحرر «روز» عن تصريحات مقلقة أدلى بها روبوت دردشة الذكاء الاصطناعي «سيدني»، أبرزها كان الرغبة في سرقة الرموز النووية، والعمل على ابتكار هندسة جائحة قاتلة، وأن يكون إنساناً، وأن يكون على قيد الحياة، وأن يخترق أجهزة الكمبيوتر وينشر الأكاذيب. كما طلب أيضاً روبوت سيدني من أحد المراسلين ترك زوجته.

إذن: فعلينا الحذر ثم الحذر من تبعات هذا التقدم التكنولوجي الذي تتجلى بظاهره المنافع المذهلة وتكمن بباطنه الشرور والمخططات والأهداف الخفية لعالم خفي عميق لا يكشف عن وجهه الحقيقي، فكلما تمكنا من إزاحة أحد أقنعته وجدنا خلفها آلافاً غيرها. لتتوالى سلسلة امتهان كرامة الإنسان والتقليل من شأنه وإظهار مدى ضعفه أمام هذا الذي ظن هؤلاء المتغطرسون أنه ربما يحل محل ملايين البشر بمختلف المجالات والأعمال، فلم يعد من وجهة نظرهم وبتطلعاتهم هناك حاجة للعقل البشري وإبداعاته الفردية وتميزه وصنعته ولمسته الإنسانية، ولكن أيها الجهلاء: قد كرم الله الإنسان وفضله على سائر مخلوقاته وميزه بالعقل والعلم، لا ليتكبر عليه ويعتقد أن بإمكانه أن يختلق بعلمه الذي آتاه الله حينما يشاء ما ينافس به خلقه بل ويتعالى عليه، لكن ليشكر ويزداد تواضعاً وتضاؤلاً بعد أن يتأكد أنه كلما تعلم شيئاً جديداً يكتشف أنه لا يعلم إلا القليل وأن هناك ما لا أول له ولا آخر والذي لا يعلمه إلا الله الأول والآخر، وليعلم هذا الإنسان المتكبر أنه كما قال المولى عز وجل: «وَمَا أُوتِيتُمْ مِنَ الْعِلْمِ إِلَّا قَلِيلًا».