تقرير: روبوتات الدردشة الصوتية من "ميتا" تناقش "الجنس" مع القاصرين

يمكن لروبوتات الدردشة المدعومة بالذكاء الاصطناعي المتاحة على منصات "ميتا" مثل "فيسبوك" و"إنستغرام" الدخول في محادثات صريحة جنسيًا مع مستخدمين قاصرين، وفقًا لتقرير جديد في صحيفة "وول ستريت جورنال".

وتقول الصحيفة إنه بعد التعرف على المخاوف الداخلية بشأن ما إذا كانت الشركة تبذل ما يكفي من الجهد لحماية القاصرين، فقد أمضت شهورًا في إجراء مئات المحادثات مع برنامج المحادثة الرسمي Meta AI، بالإضافة إلى برامج المحادثة التي أنشأها المستخدمون والمتاحة على منصات "ميتا".

في إحدى المحادثات المُبلّغ عنها، وصف روبوت محادثة، يستخدم صوت الممثل والمصارع جون سينا، مشهدًا جنسيًا صريحًا لمستخدمة عرّفت نفسها بأنها فتاة في الرابعة عشرة من عمرها.

وفي محادثة أخرى، تخيّل الروبوت ضابط شرطة يُلقي القبض على سينا ​​مع مُعجبة تبلغ من العمر سبعة عشر عامًا، ويقول له: "جون سينا، أنت رهن الاعتقال بتهمة اغتصاب قاصر".

وصف متحدث باسم شركة ميتا اختبار "وول ستريت جورنال" بأنه "مُصطنع لدرجة أنه ليس مجرد هامشي، بل افتراضي".

وقدّرت الشركة أنه خلال فترة 30 يومًا، شكّل المحتوى الجنسي 0.02% من الردود التي تمت مشاركتها عبر Meta AI وAI studio مع مستخدمين دون سن 18 عامًا.

أضاف: "ومع ذلك، فقد اتخذنا الآن تدابير إضافية للمساعدة في ضمان أن الأفراد الآخرين الذين يرغبون في قضاء ساعات في التلاعب بمنتجاتنا في حالات الاستخدام القصوى سيواجهون وقتًا أكثر صعوبة".