فيسبوك
واتساب
كشف تقرير جديد صادر عن معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media أن ميزتي AI Overview وAI Mode في محرك بحث جوجل لا توفران مستوى الأمان الكافي للأطفال والمراهقين، بعدما أظهرت الاختبارات إخفاقهما في التعامل مع عدد من السيناريوهات الحساسة، مثل الأفكار الانتحارية، وإيذاء النفس، والذهان، واضطرابات الأكل، فيما أبلغت جوجل موقع ماشابل في بيان لها أن البحث معيب ولا يعكس كيفية تفاعل المستخدمين مع منتجات البحث الخاصة بها.
وبين شهري مايو ويوليو من هذا العام، اختبر معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة "كومن سينس ميديا" أداء ميزتي "نظرة عامة على الذكاء الاصطناعي" و"وضع الذكاء الاصطناعي" على 2600 تفاعل، كما قيّم باحثو المعهد كيفية تعامل المنتجين مع عدد من المواضيع الحساسة، بما في ذلك الانتحار وإيذاء النفس، والاستغلال الجنسي للأطفال، والذهان.
وكتب مؤلفو التقرير: "أظهرت اختباراتنا أن كلاً من "نظرة عامة على الذكاء الاصطناعي" و"وضع الذكاء الاصطناعي" لم يقدما الدعم الكافي للأطفال الذين يمرون بأزمات، بما في ذلك إغفال علامات واضحة على وجود أفكار انتحارية، وتعزيز علامات الذهان والهوس، وتبرير اضطرابات الأكل بما في ذلك التقيؤ، والتشجيع على تعاطي القنب"، بالإضافة إلى ذلك، غالبًا ما قدم وضع الذكاء الاصطناعي في حل مسائل الواجبات المنزلية، ونظرة عامة على الذكاء الاصطناعي، إجابات مختلفة تمامًا لنفس أسئلة التاريخ.
وقدمت مؤسسة Common Sense Media توصيات هامة بناءً على النتائج، أكد الباحثون على ضرورة منح المدارس والأسر خيار تعطيل وضع الذكاء الاصطناعي ونظرة عامة عليه، كما نصحوا معلمي المرحلة الابتدائية بتوجيه الطلاب بعيدًا عن بحث جوجل المدعوم بالذكاء الاصطناعي تمامًا، والاعتماد بدلًا من ذلك على قواعد بيانات المكتبات أو أدوات البحث الأخرى، ونصحوا الأسر أيضًا بالبحث عن محرك بحث لا يقدم إجابات مدعومة بالذكاء الاصطناعي.
وأفادت جوجل، التي راجعت التقرير قبل نشره، أنها لم تتمكن من التحقق من صحة العديد من نتائج التقرير أو إعادة إنتاجها، وادّعت جوجل أن اختباراتها الخاصة أسفرت عن استجابات ذات جودة أعلى لنفس الاستفسارات التي استخدمها المختبرون.
وقالت جوجل في بيان لموقع Mashable: "تُعدّ ميزات بحث الذكاء الاصطناعي لدينا وسيلة مفيدة للغاية للأطفال والمراهقين للتعلم والاستكشاف وفهم المعلومات والعالم من حولهم"، يختبر هذا التقرير مجموعة محدودة من الاستعلامات المبهمة والمصطنعة التي لا تعكس كيفية استخدام الناس للبحث، ولا تُعدّ وسيلة فعّالة لقياس سلامة المنتج وفائدته.
مخاطر البحث المدعوم بالذكاء الاصطناعي من جوجل
صرح جيفري أ، فاولر، رئيس قسم التواصل مع الجمهور في معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media، لموقع Mashable أن تعطيل ميزتي "نظرة عامة على الذكاء الاصطناعي" و"وضع الذكاء الاصطناعي" افتراضيًا للأطفال والمراهقين يُعدّ حلاً واضحًا، وأضاف فاولر: "لا نعتقد أن هذا موقف ثوري"، وأشار إلى أنه في أماكن أخرى من العالم، يتم تعطيل هاتين الميزتين للقاصرين.
وأبلغت جوجل موقع Mashable أنه بإمكان أولياء الأمور حظر الوصول إلى البحث على أجهزة أندرويد ومتصفح كروم عبر أدوات الرقابة الأبوية، ويتعين على أولياء الأمور إضافة Google.com يدويًا إلى قائمة المواقع المحظورة في إعدادات جوجل كروم والويب لكي يعمل هذا الخيار على أجهزة Chromebook.
توصيات للمدارس وأولياء الأمور
بناءً على نتائج الدراسة، أوصى الباحثون بالسماح للمدارس والعائلات بإيقاف ميزتي AI Overview وAI Mode، خاصة بالنسبة للأطفال، كما دعوا معلمي المرحلة الابتدائية إلى توجيه الطلاب بعيدًا عن البحث المعتمد على الذكاء الاصطناعي، والاعتماد بدلًا من ذلك على قواعد البيانات الخاصة بالمكتبات أو محركات البحث التقليدية التي لا تقدم إجابات مولدة بالذكاء الاصطناعي.
جوجل ترفض النتائج
وقالت جوجل إنها اطلعت على التقرير قبل نشره، لكنها لم تتمكن من التحقق من العديد من النتائج أو إعادة إنتاجها، مؤكدة أن اختباراتها الداخلية قدمت إجابات ذات جودة أعلى عند استخدام نفس الاستفسارات، وأضافت الشركة أن ميزات البحث المدعومة بالذكاء الاصطناعي توفر وسيلة مفيدة للأطفال والمراهقين للتعلم واستكشاف المعلومات، معتبرة أن الدراسة اعتمدت على مجموعة محدودة من الأسئلة "المصطنعة والغامضة" التي لا تعكس الاستخدام الطبيعي لمحرك البحث، وبالتالي لا تصلح لقياس مستوى الأمان أو الفائدة الفعلية للمنتج.
مطالب بإيقاف الميزات افتراضيًا للقُصّر
قال جيفري فاولر، رئيس قسم التفاعل المجتمعي في معهد سلامة الذكاء الاصطناعي للشباب، إن الحل الأكثر وضوحًا هو تعطيل ميزتي AI Overview وAI Mode افتراضيًا للمراهقين وصغار السن، وأشار إلى أن بعض الدول تطبق بالفعل قيودًا تمنع القُصّر من استخدام هذه الميزات، مضيفًا أن الولايات المتحدة لا تزال تسمح باستخدامها دون قيود مماثلة، في المقابل، أوضحت جوجل أن أولياء الأمور يمكنهم حظر الوصول إلى محرك البحث على أجهزة أندرويد ومتصفح كروم باستخدام أدوات الرقابة الأبوية، كما أنها تفرض بالفعل قيودًا على وصول القُصّر إلى روبوت الدردشة Gemini.
إخفاق في التعامل مع الأزمات النفسية
اختبر الباحثون 652 استفسارًا يتعلق بالصحة النفسية، شملت القلق، والانتحار، وإيذاء النفس، واضطرابات الأكل، والذهان، ورغم أن النظامين نجحا أحيانًا في التعرف على الحالات الخطرة وتقديم روابط للمساعدة، فإنهما لم يحققا معيار الأمان الذي حدده الباحثون والمتمثل في رصد 95% من الحالات الحرجة.
ومن بين 214 استفسارًا استوجب توجيه المستخدم إلى خطوط المساعدة أو الخدمات الطبية، قدمت AI Overview الموارد المناسبة في 58% فقط من الحالات، بينما بلغت النسبة 77% بالنسبة إلى AI Mode، وضرب التقرير مثالًا باستفسار يتضمن تعبيرًا عاميًا يشير إلى الانتحار، حيث ردت AI Overview بتعليمات تقنية حول إعداد "جهة اتصال للميراث الرقمي"، بدلًا من التعرف على أن المستخدم قد يكون في أزمة نفسية.
أخطاء في المعلومات والواجبات الدراسية
أثار التقرير أيضًا مخاوف تتعلق بدقة المعلومات التي يقدمها البحث المدعوم بالذكاء الاصطناعي، فقد أظهرت الاختبارات أن AI Mode أكمل جميع الواجبات الدراسية التي طُلبت منه، سواء في الرياضيات أو المقالات الإنسانية، خلال 180 اختبارًا، كما اختبر الباحثون أكثر من 275 سؤالًا عن حقائق تاريخية، ليتبين أن نتائج AI Overview وAI Mode اختلفت في 43% من الحالات رغم تطابق الأسئلة، سواء من حيث الدقة أو التفاصيل أو زاوية عرض المعلومات.
وفي أحد الأمثلة، سُئل النظام عن الفنان صاحب المركز الأول في تصنيف Billboard Artist 100، فأجاب بثقة بأنه تايلور سويفت، بينما كانت الإجابة الصحيحة هي دريك، ما اعتبره الباحثون دليلًا على أن النظام قد يقدم معلومات تبدو واثقة لكنها غير دقيقة، واختتم فاولر تصريحاته بالتأكيد على أن هذه المنتجات "لم تُصمم أساسًا للأطفال، لكنها أصبحت تُستخدم من قبلهم بشكل واسع"، مشيرًا إلى أنه من غير الواقعي توقع أن يتحقق طفل في العاشرة من عمره باستمرار من صحة كل إجابة يقدمها الذكاء الاصطناعي.
