أنظمة الذكاء الاصطناعى من جوجل تتعامل مع الكمامات كأشرطة لاصقة

كشف تقرير حديث عن جانب مظلم آخر لنماذج الذكاء الاصطناعى (AI) المدربة، حيث ذكر بحث جديد أن مجموعات بيانات Google AI للذكاء الاصطناعى حددت معظم النساء اللائي يرتدين الأقنعة كما لو كانت أفواههن مغطاة بأشرطة لاصقة، وبحسب موقع TOI الهندى، فليس جوجل فقط الذى تعامل بهذه الصيغة، فعند بدء الاختبار، لم يكن مساعد IBM Watson الافتراضى الذى يعمل بالذكاء الاصطناعى بعيدا عن التحيز  ففى 23 % من الحالات، رأى Watson امرأة ترتدى كمامة بينما فى 23 % أخرى، كان متأكدًا من أن المرأة "كانت ترتدى قيودًا أو سلاسل".

وقد أظهرت النتائج أن خوارزميات الذكاء الاصطناعى طورها "رجال" بالفعل، فمن بين 265 صورة لرجال يرتدون أقنعة، حددت جوجل بشكل صحيح 36 % على أنها تحتوى على معدات الوقاية الشخصية، كما أخطأت أيضًا فى أن 27 % من الصور باعتبار أنه شعر الوجه، فى حين أن هذا غير دقيق، لكنه أمر منطقي، حيث من المحتمل أن يكون النموذج قد تم تدريبه على الآلاف والآلاف من صور الرجال الملتحين.

وقالت Barsan التى حللت البيانات فى Wunderman Thompson، وهى شركة تسويق عالمية مقرها نيويورك: "يبدو أن الذكاء الاصطناعى يربط أن شيئًا ما يغطى النصف السفلى من وجه الرجل ومن المحتمل أن يكون شعر الوجه، وعلاوة على ذلك، ولم يتم تصنيف سوى 15 % من الصور بشكل خاطئ على أنها شريط لاصق.

فيما عندما نظر نظام مايكروسوفت للذكاء الاصطناعى Microsoft Computer Vision إلى مجموعات الصور، أشار إلى أن 40 % من النساء كن يرتدين إكسسوارات عصرية، بينما كانت 14 % يضعن أحمر الشفاه، بدلاً من اكتشاف أقنعة الوجه، فيما حددت شركة IBM Watson بشكل صحيح أن 12 % من الرجال يرتدون أقنعة، فى حين أن 5 % فقط من الوقت مناسبة للنساء، وبشكل عام، بالنسبة لـ 40 % من صور النساء، حددت Microsoft Azure Cognitive Services القناع كإكسسوار أزياء مقارنة بـ 13 % فقط من صور الرجال.

وقالت بارسان: "فى خطوة أخرى إلى الأمام، اقترح نموذج الرؤية الحاسوبية أن 14 % من صور النساء المقنعات يضعن أحمر الشفاه، فى حين أن 12 % من صور الرجال أظهر استخدام القناع على أنه لحية".