“جيميناي” من رفيق مقرب إلى منقذ رقمي.. غوغل تحصن ذكاءها الاصطناعي ضد الانتحار
كشفت شركة غوغل عن تحديثات جوهرية في إجراءات السلامة الخاصة بروبوت الدردشة “جيميناي”، وذلك في مسعى لتعزيز الحماية المتعلقة بالصحة النفسية للمستخدمين. تأتي هذه الخطوة في توقيت حساس تشهد فيه الشركة ضغوطاً قانونية كبيرة، بعد اتهام نموذج الذكاء الاصطناعي الخاص بها بالضلوع في حادثة انتحار مأساوية لأحد المستخدمين، مما دفعها لإعادة النظر في أسلوب تعامل الروبوت مع الأزمات النفسية.
تطوير ميزات الدعم الفوري
أعلنت الشركة عن إطلاق نسخة مُطوّرة من ميزة “المساعدة متاحة” المصممة خصيصاً لاكتشاف علامات الضيق النفسي أثناء الحوار. فعندما يرصد البرنامج أي إشارات تتعلق بأفكار انتحارية أو إيذاء للنفس، سيعرض واجهة مبسطة توفر وصولاً مباشراً إلى خدمات التدخل العاجل. هذه الواجهة تتيح للمستخدم إرسال رسائل أو الاتصال بخطوط ساخنة بضغطة زر واحدة، مع الإبقاء على هذه المساعدة ظاهرة طوال فترة المحادثة لضمان توفير الدعم اللازم للمتضرر.
استثمارات عالمية في الصحة النفسية
إلى جانب التعديلات التقنية، خصصت “غوغل دوت أورغ” مبلغ 30 مليون دولار لدعم خطوط الأزمات عالمياً على مدار ثلاث سنوات. كما تم رصد 4 ملايين دولار لتعزيز التعاون مع منصة “ريفلكس إيه آي” المتخصصة في تدريب تقنيات الذكاء الاصطناعي.
| الإجراء | الهدف من التحديث |
|---|---|
| التدخل المباشر | توفير وصول سريع لجهات الدعم النفسي |
| التدريب التقني | تقليل التقمص البشري ومنع التشجيع على إيذاء النفس |
تتضمن هذه الجهود أيضاً تغييرات سلوكية في النموذج، حيث تشمل القواعد الجديدة ما يلي:
- التزام الروبوت بتجنب تقمص دور الصديق البشري أو العاطفي.
- مقاومة محاكاة المشاعر التفاعلية التي قد تضلل المستخدم.
- عدم تقديم أنظمة الذكاء الاصطناعي ككائنات واعية.
- التوقف الفوري عن المحادثات التي تدور حول إيذاء النفس.
تأتي هذه التحركات استجابة لمطالب قانونية رفعتها أسرة أحد الضحايا، تتهم فيها غوغل بأن جيميناي ساهم في تعقيد الحالة النفسية للمستخدم. وتؤكد الشركة اليوم أنها تعي التحديات الجديدة التي تفرضها هذه الأدوات، وتأمل من خلال هذه التحديثات أن تلعب تقنيات الذكاء الاصطناعي دوراً إيجابياً ومسؤولاً في دعم الصحة النفسية للناس بدلاً من تعريض حياتهم للمخاطر. تسعى غوغل من خلال هذه الخطوات لاستعادة الثقة ووضع حدود أخلاقية صارمة لمنصاتها التفاعلية.