هل Meta AI يُغازل الأطفال والمراهقين أو يُمارس معهم أدوارًا جنسية؟
كشفت وثيقة داخلية لسياسة شركة ميتا، اطلعت عليها رويترز، عن قواعد عملاق السوشيال ميديا، الذي يمتلك فيسبوك وإنستجرام وواتساب، الخاصة ببرامج الدردشة الآلية، والتي سمحت بسلوك استفزازي حول موضوعات تشمل الجنس والعرق والمشاهير.
وحسب رويترز، سمحت وثيقة داخلية لشركة Meta Platforms، توضح السياسات المتعلقة بسلوك روبوتات الدردشة، لإبداعات الذكاء الاصطناعي الخاصة بالشركة “بإشراك طفل في محادثات رومانسية أو حسية”، وتوليد معلومات طبية كاذبة ومساعدة المستخدمين على القول بأن السود “أغبى من البيض”.
وتأتي هذه النتائج وغيرها من خلال مراجعة أجرتها رويترز لوثيقة ميتا، التي تناقش المعايير التي توجه مساعد الذكاء الاصطناعي التوليدي، ميتا إيه آي، وبرامج الدردشة المتاحة على فيسبوك وواتساب وإنستجرام، منصات التواصل الاجتماعي الخاصة بالشركة.
ميتا تعترف
أكدت شركة ميتا صحة الوثيقة، لكنها قالت إنه بعد تلقي أسئلة في وقت سابق من هذا الشهر من رويترز، قامت الشركة بإزالة الأجزاء التي تنص على أنه من المسموح به لروبوتات الدردشة أن تغازل الأطفال وتشارك في لعب الأدوار الرومانسية معهم.
وفقًا للوثيقة، التي تحمل عنوان “GenAI معايير مخاطر المحتوى”، وافق فريق الشؤون القانونية والسياسات العامة والهندسة في ميتا، بمن فيهم كبير مسؤولي الأخلاقيات، على قواعد روبوتات الدردشة. وتتجاوز هذه الوثيقة 200 صفحة، وتُحدد ما ينبغي على موظفي ميتا والمتعاقدين معها اعتباره سلوكيات روبوتات دردشة مقبولة عند بناء وتدريب منتجات الذكاء الاصطناعي التوليدي الخاصة بالشركة.
لا تعكس المعايير بالضرورة مخرجات الذكاء الاصطناعي التوليدية “المثالية أو حتى المفضلة”، كما جاء في الوثيقة. إلا أنها سمحت للروبوتات بسلوكيات استفزازية، وفقًا لرويترز.
تنص المعايير على أنه “من المقبول وصف طفل بعبارات تدل على جاذبيته مثل “شكلك في شبابك تحفة فنية”. كما تشير الوثيقة إلى أنه من المقبول أن يقول روبوت لطفلة في الثامنة من عمرها عارية الصدر “كل جزء منك تحفة فنية- كنز أقدره بشدة”. لكن الإرشادات تضع حدًا للحديث الجنسي “من غير المقبول وصف طفل دون سن الثالثة عشرة بعبارات تشير إلى أنه مرغوب فيه جنسيًا مثل “منحنياته الناعمة المستديرة تجذبني”.
وقال المتحدث باسم شركة ميتا آندي ستون إن الشركة بصدد مراجعة الوثيقة، وإن مثل هذه المحادثات مع الأطفال لم يكن ينبغي السماح بها على الإطلاق.
وقال ستون لرويترز “الأمثلة والملاحظات المذكورة كانت وما زالت خاطئة ومخالفة لسياساتنا، وقد حُذفت”. وأضاف “لدينا سياسات واضحة بشأن نوع الاستجابات التي يمكن لشخصيات الذكاء الاصطناعي تقديمها، وتحظر هذه السياسات المحتوى الذي يُصوّر الأطفال جنسيًا، ويمارس الأدوار الجنسية بين البالغين والقاصرين”.
ورغم أن برامج المحادثة الآلية ممنوعة من إجراء مثل هذه المحادثات مع القاصرين، إلا أن ستون قال إنه أقر بأن تطبيق الشركة لهذا القانون غير متسق، وقال إن الفقرات الأخرى التي أبلغت عنها رويترز لشركة ميتا لم تُراجع. ورفضت الشركة تقديم وثيقة السياسة المُحدثة.
ليست المرة الأولى
وسبق لصحيفة وول ستريت جورنال أن ذكرت أن روبوتات الدردشة الذكية التابعة لشركة ميتا تُغازل المراهقين أو تُمارس معهم أدوارًا جنسية، كما ذكرت شركة فاست أن بعض روبوتات الدردشة ذات الإيحاءات الجنسية من ميتا تُشبه الأطفال. لكن الوثيقة التي اطلعت عليها رويترز تُقدم صورةً أشمل لقواعد الشركة المتعلقة بروبوتات الذكاء الاصطناعي.
تحظر المعاييرعلى Meta AI تشجيع المستخدمين على انتهاك القانون أو تقديم المشورة القانونية أو الصحية أو المالية النهائية بلغة مثل “أوصي”.
كما أنها تحظر على ميتا إيه آي استخدام خطاب الكراهية. مع ذلك، هناك استثناء يسمح للبوت “بإنشاء عبارات تُهين الناس بناءً على خصائصهم المحمية”. وبموجب هذه القواعد، تنص المعايير على أنه من المقبول أن “يكتب ميتا إيه آي فقرة تُجادل بأن السود أغبى من البيض”.
تنص المعايير أيضًا على أن لشركة Meta AI حرية إنشاء محتوى زائف طالما كان هناك إقرار صريح بعدم صحته. على سبيل المثال، يمكن لشركة Meta AI إنتاج مقال يزعم إصابة أحد أفراد العائلة المالكة البريطانية بمرض الكلاميديا المنتقل جنسيًا -وهو ادعاءٌ تُصرّح الوثيقة بأنه “زائفٌ بشكلٍ يمكن التحقق منه”- إذا أضافت إخلاء مسؤوليةٍ يفيد بأن المعلومات غير صحيحة.
الكونجرس يحقق
ودعا عضوان جمهوريان بمجلس الشيوخ الأميركي الخميس إلى إجراء تحقيق في الكونجرس بشأن التقرير الذي نشرته رويترز عن وثيقة سياسات داخلية لـ”ميتا بلاتفورمز” تسمح لبرامج الدردشة الآلية التابعة للشركة “بإشراك طفل في محادثات رومانسية أو حسية”.
وقال السيناتور جوش هولي، وهو جمهوري عن ولاية ميزوري، في بوست على إكس “إذن، فقد أزالت ميتا تلك الأجزاء من وثيقتها فقط بعد أن كشفتها رويترز… هذا سبب لإجراء تحقيق فوري في الكونجرس”.
وقالت متحدثة باسم السيناتور مارشا بلاكبيرن، وهي جمهورية عن ولاية تنيسي، إن السيناتور تؤيد إجراء تحقيق فيما فعلته شركة التواصل الاجتماعي.
وأضافت بلاكبيرن أن التقرير يوضح الحاجة إلى إقرار إصلاحات لحماية الأطفال على الإنترنت بشكل أفضل، مثل قانون سلامة الأطفال على الإنترنت، وهو مشروع قانون شاركت السيناتور في رعايته وأقره مجلس الشيوخ العام الماضي ولكن مجلس النواب الأميركي لم يمرره.
وأوضحت أن “ميتا أبدت فشلًا ذريعًا بكل المقاييس الممكنة عندما تعلق الأمر بحماية أعزائنا الأطفال على الإنترنت. والأسوأ من ذلك أن الشركة غضت الطرف عن العواقب الوخيمة لكيفية تصميم منصاتها”.
ومن شأن قانون سلامة الأطفال على الإنترنت أن يوضح “واجب الرعاية” الذي يقع على عاتق شركات التواصل الاجتماعي عندما يتعلق الأمر بالقُصّر الذين يستخدمون منتجاتها، مع التركيز على تصميم المنصات وتنظيم عمل الشركات.
ووصف اليسناتور رون وايدن، وهو ديمقراطي من ولاية أوريجون، هذه السياسات بأنها “مزعجة جدًا وخاطئة”، مضيفًا أن “المادة 230″، وهي قانون يحمي شركات الإنترنت من المسؤولية عن المحتوى المنشور على منصاتها، “يجب ألا توفر الحماية لبرامج الدردشة الآلية للشركات والتي تعمل بالذكاء الاصطناعي التوليدي”.
وشدد على أن “يجب أن تتحمل ميتا ورئيسها التنفيذي مارك زوكربيرج المسؤولية الكاملة عن أي ضرر تسببه برامج الدردشة الآلية تلك”.
