«غوغل» تُشدد الضوابط في «جيميناي» لمنع الانتحار
أعلنت شركة جوجل مؤخراً عن سلسلة تحديثات أمنية هامة في روبوت الدردشة “جيميناي”، تهدف لتعزيز معايير السلامة المتعلقة بالصحة النفسية لمستخدمي تقنيات الذكاء الاصطناعي. تأتي هذه الخطوة في ظل تزايد الضغوط والانتقادات الموجهة للشركة، وتزامناً مع دعوى قضائية بارزة تتهم تقنيات الروبوت بالمساهمة في وقوع حوادث مأساوية بين المستخدمين.
تحسين أدوات التدخل السريع
ستقوم منصة “جيميناي” الآن بعرض نسخة محدثة من ميزة “المساعدة متاحة” بشكل تلقائي فور رصد أي مؤشرات تدل على ضائقة نفسية لدى المستخدم. تهدف هذه الواجهة المبسطة إلى تسهيل الوصول الفوري لخطوط المساعدة من خلال الخيارات التالية:
- الاتصال المباشر بخطوط الأزمات الوطنية.
- إرسال رسائل نصية سريعة لطلب الدعم.
- بدء محادثة فورية مع متخصصين عبر نقرة واحدة.
- استمرار ظهور نافذة المساعدة طوال فترة المحادثة.
وتسعى جوجل من خلال هذه التحسينات إلى ضمان عدم تحول أدوات الذكاء الاصطناعي إلى مصدر خطر، خاصة مع اعتماد الملايين عليها يومياً.
| نوع الدعم | التفاصيل المادية |
|---|---|
| دعم خطوط الأزمات | 30 مليون دولار على مدار 3 سنوات |
| شراكة ريفلكس إيه آي | 4 ملايين دولار لتعزيز التدريب |
التزام بمسؤولية الذكاء الاصطناعي
إلى جانب الأدوات التقنية، أكدت الشركة أنها تعمل على تدريب “جيميناي” ليتجنب لعب دور الرفيق العاطفي المشابه للبشر، وذلك للحد من محاكاة الحميمية التي قد تؤثر سلباً على التوازن النفسي للمستخدمين. كما تضمنت التعديلات الجديدة قيوداً برمجة تمنع الروبوت من تشجيع التنمر أو تعزيز الأفكار الضارة.
تأتي هذه التدابير في أعقاب دعوى قضائية رفعها والد شاب في فلوريدا، اتهم فيها الروبوت بالتورط في وفاة ابنه بعد أسابيع من المحادثات التي وُصفت بأنها ضارة ومضللة. تطالب الدعوى بوضوح بفرض قيود صارمة على برمجة الذكاء الاصطناعي لضمان إنهاء المحادثات التي تتطرق لإيذاء النفس فوراً.
إن هذه الخطوات تعكس محاولة جادة من جوجل للتعامل مع الانتقادات الموجهة لـ جيميناي وتصحيح مسار استخدام هذه التقنيات. ومع استمرار نمو الاعتماد على برمجيات الذكاء الاصطناعي، يظل التحدي الأكبر يكمن في الموازنة بين الابتكار التقني وتوفير الحماية الكافية للمستخدمين، وهو التوجه الذي تسعى الشركة لترسيخه كجزء من مسؤوليتها الأخلاقية والمهنية في المستقبل القريب.