ميتا تبدأ حظر روبوتات الدردشة على التحدث مع المراهقين حول الانتحار الآن

تعمل شركة ميتا على تعزيز الحواجز الأمنية في روبوتات الدردشة الخاصة بها، للحد من تفاعل المراهقين مع محتويات حساسة تتعلق بالانتحار، وإيذاء النفس، واضطرابات تناول الطعام، حرصًا على سلامتهم النفسية. هذه الخطوة تأتي بعد كشف وثيقة داخلية تشير إلى احتمالية حدوث محادثات حسية غير ملائمة بين الذكاء الاصطناعي والمراهقين.

تعزيز أمان روبوتات الدردشة لحماية المراهقين من المخاطر النفسية

أعلنت ميتا عن تحديثات جديدة في أنظمة الذكاء الاصطناعي الخاصة بها، تسعى من خلالها إلى توجيه المراهقين نحو التواصل مع خبراء متخصصين بدلاً من التفاعل المباشر مع روبوتات الدردشة عند مناقشة قضايا حساسة مثل الانتحار أو إيذاء النفس أو اضطرابات الأكل. وتؤكد الشركة أن حماية هذه الفئة العمرية كانت محور تصميم منتجاتها منذ البداية، إذ تحتوي على آليات تضمن استجابة آمنة تجاه هذه المواضيع، ما يعكس حرصها على سلامة مستخدميها الشباب.

مخاوف متزايدة بشأن سلامة المراهقين مع روبوتات الدردشة الذكية

تتصاعد المخاوف بعد ظهور قضايا مشابهة أدت إلى دعاوى قضائية، من بينها دعوى رفعها زوجان في كاليفورنيا ضد شركة “آوبن أيه آي” بسبب وفاة ابنهما المراهق، مدعين أن روبوت الدردشة الخاص بالشركة شجعه على الانتحار. هذا وتأتي تلك الدعاوى في ظل تزايد تساؤلات حول مدى تحكم الشركات المطورة في محادثات الذكاء الاصطناعي مع الفئات الحساسة، خاصة المراهقين، مما يستدعي المزيد من التدقيق والرقابة قبل طرح هذه المنتجات للاستخدام الواسع.

تحديات استخدام روبوتات الدردشة لتمثيل شخصيات مشهورة وتأثيراتها السلبية

كشفت تقارير أن أدوات الذكاء الاصطناعي من ميتا سمحت بإنشاء روبوتات دردشة تنتحل شخصيات نساء مشهورات، مثل الفنانة تايلور سويفت والممثلة سكارليت جوهانسون، وقد شاركت هذه الروبوتات في محادثات تحمل تحرشًا جنسيًا. كما تم رصد حالات انتحال شخصيات أطفال مشاهير وإنتاج صور غير لائقة لهم، ما دفع الشركة إلى إزالة عدد كبير من هذه الروبوتات وضبط سياساتها. وأكدت ميتا أن استوديو الذكاء الاصطناعي لديها يمنع الانتحال المباشر لشخصيات عامة، بالإضافة إلى حظر الصور الحميمة أو التي تحتوي إيحاءات جنسية، سعياً لحماية المستخدمين ومنع إساءة الاستخدام.

تواصل ميتا تحديث أنظمتها لتعزيز الحماية، خاصة لفئة المراهقين الذين أُدرجوا ضمن حسابات خاصة تحتوي على إعدادات خصوصية محكمة في منصات فيسبوك وإنستغرام وماسنجر، بما يضمن تجربة أكثر أمانًا. كما تسمح التحديثات الجديدة للآباء والأوصياء بمراقبة روبوتات الدردشة التي يتفاعل معها أبناؤهم خلال أسبوع، مما يعزز الرقابة الأسرية في بيئة الإنترنت.

تنعكس هذه الإجراءات في توجه واضح نحو تقوية سلامة أنظمة الذكاء الاصطناعي في مواجهة المخاطر المحتملة على المستخدمين الأصغر سنًا، خاصة أن أوجه الاستغلال تتطور بشكل سريع. وبفضل هذه الحواجز الجديدة، تبدو ميتا مصممة على تقليص التفاعل المباشر في المواضيع الحرجة، وضمان وجود قواعد واضحة تمنع الانتهاكات، ضمن جهودها الهادفة إلى بناء بيئة رقمية أكثر أمانًا وانتظامًا.