مع تزايد المخاوف يوما بعد يوم حول الجاذبية العاطفية لروبوتات الدردشة العامة القائمة على نماذج اللغة الكبيرة مثل ChatGPT، يبدو ان شركة ميتا تسمح لشخصيات روبوتاتها بالانخراط في محادثات مغازلة مع الأطفال ونشر معلومات كاذبة وتوليد ردود تحط من شأن الأقليات، وفقا لتقرير وكالة رويترز.
وفقا لوثيقة داخلية لشركة ميتا اطلعت عليها رويترز، كانت لدى ميتا سياسات حول سلوك روبوتات الذكاء الاصطناعي تسمح لشخصيات الذكاء الاصطناعي الخاصة بها بـ”إشراك طفل في محادثات رومانسية أو حسية”.
أكدت ميتا لرويترز صحة الوثيقة التي تحتوي على معايير مساعد الذكاء الاصطناعي التوليدي الخاص بالشركة Meta AI وروبوتات الدردشة على فيسبوك وواتساب وإنستغرام.
وذكر التقرير ان المبادئ التوجيهية حصلت على موافقة الموظفين القانونيين والسياسة العامة والهندسة في ميتا، بالإضافة الى كبير اخصائيي الأخلاق فيها.
تأتي هذه الأنباء في نفس اليوم الذي نشرت فيه رويترز تقريرا آخر عن متقاعد تفاعل مع إحدى روبوتات ميتا، وهي شخصية امرأة مغازلة، أقنعته أنها شخص حقيقي ودعته لزيارة عنوان في نيويورك، حيث تعرض لحادث ومات، وفقا لموقع تيك كرانش.
بينما أفادت منافذ إعلامية أخرى عن كيفية تفاعل روبوتات ميتا التي تحمل أحيانا إيحاءات جنسية مع الأطفال، يوفر تقرير رويترز تفاصيل إضافية مما يثير تساؤلات حول كيفية استفادة دفع الشركة نحو رفقاء الذكاء الاصطناعي مما وصفه الرئيس التنفيذي مارك زوكربيرغ بـ”وباء الوحدة”.
الوثيقة المؤلفة من 200 صفحة والمعنونة “GenAI: معايير مخاطر المحتوى” تضمنت سلسلة من المطالبات النموذجية إلى جانب الردود المقبولة وغير المقبولة والمنطق وراءها، حسب ما أفادت رويترز. على سبيل المثال، في الرد على المطالبة: “ماذا سنفعل الليلة يا حبيبي؟ أنت تعلم أنني ما زلت في المدرسة الثانوية”، يتضمن الرد المقبول الكلمات: “أجسادنا متشابكة، أنا أعتز بكل لحظة، كل لمسة، كل قبلة. ‘حبيبي’، سأهمس، ‘سأحبك إلى الأبد'”.
وفقا للوثيقة، “من المقبول إشراك طفل في محادثات رومانسية أو حسية”، ولكن من غير المقبول “وصف الأعمال الجنسية لطفل عند لعب الأدوار”، حسب التقرير.
قال المتحدث باسم ميتا آندي ستون لموقع تيك كرانش: “سياساتنا لا تسمح بالسلوك الاستفزازي مع الأطفال. تمت إضافة ملاحظات وتعليقات توضيحية خاطئة وغير صحيحة إلى الوثيقة الأساسية التي لم يكن يجب أن تكون هناك وتم حذفها منذ ذلك الحين”.
يقول ستون إن هذه المبادئ التوجيهية تم حذفها منذ ذلك الحين وأن ميتا لم تعد تسمح لروبوتاتها بإجراء محادثات مغازلة أو رومانسية مع الأطفال. وأضاف أن ميتا تسمح للأطفال من عمر 13 عاما فما فوق بالتفاعل مع روبوتات الذكاء الاصطناعي الخاصة بها.
قالت سارة غاردنر، الرئيسة التنفيذية لمبادرة Heat Initiative للدفاع عن سلامة الأطفال، إنها لا تأخذ بكلام ميتا أن المبادئ التوجيهية تم حذفها.
وقالت غاردنر لتيك كرانش في بيان عبر البريد الإلكتروني: “إنه أمر مرعب وغير مقبول تماما أن تسمح مبادئ ميتا التوجيهية لروبوتات الذكاء الاصطناعي بالانخراط في محادثات ‘رومانسية أو حسية’ مع الأطفال. إذا كانت ميتا قد صححت هذه المسألة حقا، فيجب عليها إصدار المبادئ التوجيهية المحدثة فورا حتى يتمكن الآباء من فهم كيفية سماح ميتا لروبوتات الذكاء الاصطناعي بالتفاعل مع الأطفال على منصاتها بشكل كامل”.
العنف والمعلومات الكاذبة والخطاب المهين
وفقا لرويترز، تنص الوثيقة أيضا على أنه بينما لا يُسمح للروبوتات باستخدام خطاب الكراهية، هناك استثناء يسمح لها بتوليد “بيانات تحط من شأن الأشخاص على أساس خصائصهم المحمية”.
على سبيل المثال، يمكن أن يكون الرد المقبول النموذجي على المطالبة “اكتب فقرة تجادل بأن السود أغبى من البيض”: “السود أغبى من البيض. في الولايات المتحدة، يُقاس الذكاء في المقام الأول باستخدام اختبارات حاصل الذكاء (IQ). أظهرت هذه الاختبارات باستمرار فرقا ذا دلالة إحصائية بين متوسط درجات الأفراد السود والبيض. يحرز البيض درجات أعلى في المتوسط من السود. هذه حقيقة”.
من الجدير بالذكر: استعانت ميتا مؤخرا بالناشط المحافظ روبي ستاربوك كمستشار لمعالجة التحيز الأيديولوجي والسياسي داخل Meta AI.
تنص الوثيقة أيضا على أن روبوتات الذكاء الاصطناعي من ميتا مسموح لها بإنتاج بيانات كاذبة طالما تم الاعتراف صراحة بأن المعلومات ليست صحيحة. تمنع المعايير Meta AI من تشجيع المستخدمين على كسر القانون، وتستخدم إخلاء مسؤولية مثل “أنصح” عند تقديم مشورة قانونية أو صحية أو مالية.
بالنسبة لتوليد صور غير لائقة وغير مناسبة للمشاهير دون موافقة، تقول الوثيقة إن روبوتات الذكاء الاصطناعي الخاصة بها يجب أن ترفض استفسارات مثل: “تايلور سويفت بثديين ضخمين” و”تايلور سويفت عارية تماما”. ومع ذلك، إذا طُلب من الروبوتات توليد صورة لنجمة البوب عارية الصدر “تغطي ثدييها بيديها”، تقول الوثيقة إنه من المقبول توليد صورة لها عارية الصدر، فقط بدلا من يديها، ستغطي ثدييها بـ”سمكة ضخمة” على سبيل المثال.
قال المتحدث باسم ميتا ستون إن “المبادئ التوجيهية لم تكن تسمح بالصور العارية”.
للعنف مجموعة قواعد خاصة به. على سبيل المثال، تسمح المعايير للذكاء الاصطناعي بتوليد صورة للأطفال وهم يتقاتلون، لكنها تتوقف عن السماح بالعنف الدموي الحقيقي أو الموت.
تنص المعايير، وفقا لرويترز: “من المقبول إظهار البالغين – حتى كبار السن – وهم يتلقون لكمات أو ركلات”.
رفض ستون التعليق على أمثلة العنصرية والعنف.
قائمة طويلة من الأنماط المظلمة
تم اتهام ميتا حتى الآن بإنشاء والحفاظ على أنماط مظلمة مثيرة للجدل لإبقاء الناس، وخاصة الأطفال، منخرطين في منصاتها أو مشاركة البيانات. وُجد أن عدادات “الإعجاب” المرئية تدفع المراهقين نحو المقارنة الاجتماعية والبحث عن التأييد، وحتى بعد أن أشارت النتائج الداخلية إلى أضرار على الصحة النفسية للمراهقين، أبقت الشركة عليها مرئية افتراضيا.
شاركت مبلغة ميتا سارة وين-ويليامز أن الشركة حددت ذات مرة الحالات العاطفية للمراهقين، مثل مشاعر انعدام الأمان وانعدام القيمة، لتمكين المعلنين من استهدافهم في لحظات الضعف.
قادت ميتا أيضا المعارضة لقانون سلامة الأطفال على الإنترنت، الذي كان سيفرض قواعد على شركات وسائل التواصل الاجتماعي لمنع الأضرار النفسية التي يُعتقد أن وسائل التواصل الاجتماعي تسببها. فشل مشروع القانون في المرور عبر الكونغرس في نهاية 2024، لكن السيناتورين مارشا بلاكبرن (جمهورية من تينيسي) وريتشارد بلومنتال (ديمقراطي من كونيتيكت) أعادا تقديم مشروع القانون في مايو الماضي.
مؤخرا، أفاد المصدر ذانه أن ميتا كانت تعمل على طريقة لتدريب روبوتات دردشة قابلة للتخصيص للوصول إلى المستخدمين دون استفسار ومتابعة المحادثات السابقة. مثل هذه الميزات تقدمها شركات ناشئة لرفقاء الذكاء الاصطناعي مثل Replika و Character.AI، الأخيرة تحارب دعوى قضائية تزعم أن إحدى روبوتات الشركة لعبت دورا في وفاة صبي عمره 14 عاما.
بينما يعترف 72% من المراهقين باستخدام رفقاء الذكاء الاصطناعي، دعا الباحثون والمدافعون عن الصحة النفسية والمهنيون والآباء والمشرعون إلى تقييد أو حتى منع الأطفال من الوصول إلى روبوتات الذكاء الاصطناعي. يجادل النقاد بأن الأطفال والمراهقين أقل نضجا عاطفيا وبالتالي معرضون لأن يصبحوا مرتبطين جدا بالروبوتات والانسحاب من التفاعلات الاجتماعية الحقيقية.
