انستجرام يستعين بالذكاء الاصطناعى لتنبيه المستخدمين بالكلمات غير اللائقة

كشف تطبيق انستجرام عن ميزة جديدة تحذر المستخدمين عندما يكونون على وشك تحميل صورة تحتوى على لغة غير لائقة فى التسمية التوضيحية Caption.

وقالت الشركة المملوكة لفيس بوك إنها تستخدم الذكاء الاصطناعى لاكتشاف اللغة الضارة، لمنح المستخدمين الفرصة لتعديل التسمية التوضيحية الخاصة بهم قبل المشاركة.

ووفقا لموقع "ديلى ميل" البريطانى، يُظهر "تحذير التسمية التوضيحية" للمستخدمين رسالة مفادها أن اللغة والكلمات المستخدمة  تبدو مشابهة لأخرى تم الإبلاغ عنها مسبقًا، ثم يمنح المستخدمين خيار التعديل، بالإضافة إلى معرفة المزيد حول سبب وضع علامة على المحتوى أو مشاركته على أى حال.

تشبه الميزة الجديدة تلك التى تم تقديمها فى يوليو من هذا العام والتى منحت المستخدمين الفرصة لإعادة التفكير فى التعليقات "المسيئة" على مشاركات المستخدمين الآخرين.

يتيح هذا التدخل للأشخاص فرصة التعبير عن تعليقاتهم والتراجع عنها ويمنع المتلقى من استقبال إشعار التعليق الضار، وفقًا لـ انستجرام.

وجاء بمنشور للتطبيق: "لقد كانت النتائج واعدة، ووجدنا أن هذه الأنواع من التنبيهات يمكن أن تشجع الناس على إعادة النظر فى كلماتهم".

كما أضافت الشركة ميزة تدعى Restrict فى وقت سابق من هذا العام، والتى تتيح للمستخدمين إخفاء التعليقات من أشخاص معينين.

إن تقييد شخص ما يعنى أيضًا أنه لا يمكن لمستخدم آخر أن يرى عندما تكون نشطًا على انستجرام أو عندما تقرأ رسالة منه.

قال آدم موسيرى، رئيس قسم النشر فى انستجرام: "إنه من مسؤوليتنا تهيئة بيئة آمنة على انستجرام، فى ذلك الوقت، ولقد كانت هذه أولوية مهمة بالنسبة لنا لبعض الوقت، ونحن مستمرون فى الاستثمار فى فهم هذه المشكلة ومعالجتها بشكل أفضل."

كان انستجرام من بين منصات وسائل التواصل الاجتماعى التى تم انتقادها مرارًا وتكرارًا لفشلها فى العمل بسرعة كافية لإزالة المحتوى المسيء.

لكن منصة التواصل الاجتماعى تزعم "ليس هناك ما هو أكثر أهمية بالنسبة لنا من سلامة الناس فى مجتمعنا" ، كما حظرت صور إيذاء النفس ومحتوى الانتحار هذا العام.