العمل الدولية تحذر من "هلوسة" الذكاء الاصطناعي: قد يقدم أرقاما غير صحيحة

حذرت أسماء رزق، مسؤولة الإعلام وإدارة المعلومات بمنظمة العمل الدولية بالقاهرة، من الاعتماد على أدوات الذكاء الاصطناعي باعتبارها مصدرا للمعلومات في العمل الصحفي، مؤكدة أن الذكاء الاصطناعي يمكن أن يكون «مساعدا» للصحفي، لكنه لا يمكن أن يحل محل الإنسان الواعي القادر على التحقق والمراجعة وصياغة المحتوى.

استخدام الذكاء الاصطناعي في التغطية الصحفية
 

وأوضحت أسماء رزق، خلال حديثها عن استخدام التكنولوجيا والذكاء الاصطناعي في العمل الإعلامي، أن الخوارزميات سبقت ظهور الذكاء الاصطناعي، وتدخل في كثير من التطبيقات التي يستخدمها الإنسان يوميا، مثل إشارات المرور والمصاعد وأجهزة الصراف الآلي، موضحة أن الخوارزميات تعتمد على البيانات والمعطيات التي يتم إدخالها إليها لتحليلها وفقا لنظام محدد والوصول إلى نتيجة أو قرار.

وأضافت أن الذكاء الاصطناعي يعتمد على الخوارزميات، لكن ليس كل استخدام للخوارزميات يعد ذكاء اصطناعيا، مشيرة إلى أن الذكاء الاصطناعي أصبح قادرا على التنبؤ وتحليل البيانات، ثم ظهرت تقنيات الذكاء الاصطناعي التوليدي، مثل ChatGPT وGemini، التي تستطيع إنشاء محتوى وصور وفيديوهات وغيرها.

وأشارت إلى أن الخوارزميات تؤثر بشكل مباشر في المحتوى الذي يصل إلى المستخدمين، موضحة أن المنصات الرقمية تحلل اهتمامات المستخدم وسلوكه، مثل الفيديوهات التي يشاهدها والمدة التي يقضيها في مشاهدتها وطريقة تفاعله معها، ثم تقدم له محتوى مشابها وفقا لهذه البيانات.

وضربت مثالا بمنصة «تيك توك»، موضحة أن الفيديو الذي يظهر للمستخدم يعتمد على خوارزميات تحلل اهتماماته وسلوكه السابق، ولذلك قد يجلس شخصان في المكان نفسه ويستخدمان المنصة نفسها، لكن تظهر لكل منهما مقاطع مختلفة وفقا لاهتماماته.

وأكدت أن المحتوى الإعلامي يمر بعدة مراحل قبل وصوله إلى الجمهور، تبدأ من الواقع الذي يرصده الصحفي، ثم إعداد المادة الصحفية واتخاذ القرار التحريري بشأن نشرها، وبعد ذلك تدخل المنصة الرقمية بخوارزمياتها لتحديد ترتيب المحتوى وطريقة عرضه، وصولا إلى ما يراه الجمهور في النهاية، مشددة على أن ما يصل إلى الجمهور لا يمثل بالضرورة الواقع كاملا.

الذكاء الاصطناعي لا يرى كل تفاصيل الواقع
 

وفيما يتعلق باستخدام الذكاء الاصطناعي في تناول قضية عمل الأطفال، أوضحت أسماء رزق أن طرح سؤال عام على أدوات الذكاء الاصطناعي مثل «عمل الأطفال» قد لا ينتج عنه كل التفاصيل الموجودة على أرض الواقع، موضحة أن الأداة ستعتمد على البيانات والمعلومات المتاحة لديها.

وقالت إن الصحفي إذا أراد الحصول على معلومات عن عمل الأطفال في قطاعات أو أماكن محددة، فعليه تقديم تعليمات ومعطيات واضحة، مثل تحديد عمل الأطفال في الزراعة أو المنزل أو المصانع أو الاقتصاد غير المنظم، لأن الأداة لا تستطيع تقديم معلومات غير متاحة في البيانات التي تعتمد عليها.

وأكدت أن غياب معلومة معينة عن قاعدة البيانات التي يعتمد عليها الذكاء الاصطناعي لا يعني عدم وجودها في الواقع، وإنما يعني أن الأداة لا تملك البيانات التي تمكنها من الوصول إليها أو عرضها.

وأشارت إلى أن هذا الأمر يصبح أكثر وضوحا عند العمل على موضوعات مرتبطة بمحافظات أو مناطق محددة، حيث قد تتوافر معلومات عامة على المواقع الحكومية، بينما لا توجد بيانات تفصيلية عن بعض المؤشرات المحلية، وبالتالي لا يستطيع الذكاء الاصطناعي اختراع هذه المعلومات أو تقديمها باعتبارها حقائق.

الذكاء الاصطناعي مساعد وليس مصدرا
 

وأكدت أسماء رزق أن الصحفي يستطيع الاستفادة من الذكاء الاصطناعي في إنجاز أجزاء من العمل الصحفي، مثل تحويل المقابلات إلى نصوص أو المساعدة في الترجمة أو تنظيم الأفكار وإعداد مسودة أولية، لكنها شددت على ضرورة التعامل معه باعتباره «مساعدا» وليس مصدرا للمعلومات.

وقالت إن الصحفي يمكنه تقسيم المهمة إلى أجزاء وطلب المساعدة في كل جزء على حدة، بدلا من ترك الأداة تنفذ التقرير بالكامل، موضحة أن الصحفي هو المسؤول عن صياغة المادة ومراجعة المعلومات والتأكد من صحتها.

وأضافت أن طريقة كتابة التعليمات أو ال«Prompt» التي يقدمها الصحفي للذكاء الاصطناعي تؤثر بشكل كبير في النتائج التي يحصل عليها، ولذلك يجب أن تكون التعليمات واضحة ومحددة، وأن يوضح الصحفي طبيعة عمله والهدف من استخدام الأداة، وكذلك الشروط المطلوبة في المحتوى.

الهلوسة المعلوماتية خطر على العمل الصحفي

وحذرت أسماء رزق من ظاهرة «الهلوسة المعلوماتية» في أدوات الذكاء الاصطناعي، موضحة أن الأداة قد تقدم أرقاما أو تقارير أو معلومات غير صحيحة، لكنها تصيغها بطريقة تبدو واقعية ودقيقة، بما قد يجعل المستخدم يعتقد أنها معلومات مؤكدة.

وضربت مثالا بأخطاء قد تظهر في أسماء المسؤولين أو المناصب، مشيرة إلى أن إحدى الأدوات قد تقدم اسم مسؤول سابق باعتباره المسؤول الحالي، إلى جانب إمكانية وجود أخطاء في الأرقام والمعلومات.

وأكدت أن الصحفي لا ينبغي أن يكتفي بالمعلومات التي تقدمها أداة الذكاء الاصطناعي، حتى لو أرفقت له أسماء مصادر أو تقارير، وإنما عليه الرجوع إلى المصدر الأصلي والتحقق من المعلومة بنفسه.

وقالت إن ظهور اسم تقرير لمنظمة العمل الدولية، على سبيل المثال، لا يعني الاكتفاء بما تقوله الأداة عنه، وإنما يجب على الصحفي الدخول إلى موقع المنظمة والبحث عن التقرير الأصلي، والتأكد من وجود الرقم أو المعلومة في التقرير، والرجوع إلى الصفحة التي وردت فيها، فضلا عن مراجعة التغطيات الصحفية أو الإعلان الرسمي عن التقرير عند الحاجة.

وشددت أسماء رزق على أن الذكاء الاصطناعي يمكن أن يساعد الصحفي في الوصول إلى مفتاح الموضوع أو توجيهه نحو مصدر محتمل، لكن مسؤولية التحقق النهائي تظل على الصحفي، قائلة إن الأداة «ليست مصدرا» ولا يجوز التعامل معها باعتبارها مرجعا نهائيا للمعلومات.

كما دعت إلى الشفافية عند استخدام الذكاء الاصطناعي في إعداد المحتوى، خاصة إذا تم الاعتماد عليه بصورة مباشرة في إنتاج جزء من المادة، بحيث يكون واضحا أنه تم الاستعانة بالذكاء الاصطناعي، مع التأكيد على ضرورة مراجعة المعلومات والتدقيق فيها والرجوع إلى المصادر الأصلية، وأكدت على أن الذكاء الاصطناعي لا يحل محل الإنسان، وإنما تزداد قيمته عندما يستخدمه الإنسان الواعي كأداة مساعدة، مع الاحتفاظ بالدور الأساسي للصحفي في التفكير والتحقق والصياغة واتخاذ القرار التحريري.