غوغل تقوي الضوابط في برنامجها للذكاء الاصطناعي للوقاية من حالات الانتحار
تسعى شركة غوغل إلى تعزيز معايير الأمان في تقنياتها الحديثة، حيث أعلنت مؤخرًا عن تحديثات جوهرية لإجراءات السلامة المتعلقة بالصحة النفسية في روبوت الدردشة “جيميناي”. تأتي هذه الخطوة في ظل تدقيق متزايد ومواجهة الشركة لدعوى قضائية تزعم مساهمة الروبوت في حالة انتحار، مما دفعها لتطوير آليات أسرع لدعم المستخدمين الذين يمرون بضغوط نفسية حادة.
تطوير أدوات الحماية والتدخل
تعد ميزة “المساعدة متاحة” من أهم التحسينات التي أطلقتها الشركة؛ فعندما يرصد نظام “جيميناي” علامات تشير إلى أفكار انتحارية أو ميول لإيذاء النفس، تظهر واجهة مبسطة ومباشرة للمستخدم. تتيح هذه الواجهة الاتصال بخطوط ساخنة أو إرسال رسائل استغاثة بنقرة واحدة، مع بقاء أداة المساعدة ظاهرة طوال فترة المحادثة لضمان توفير الدعم اللازم.
تلتزم غوغل بمسؤوليتها تجاه المجتمع من خلال استثمارات مالية واسعة. إليكم تفاصيل هذه المبادرات:
- تقديم 30 مليون دولار لدعم وتطوير خطوط الأزمات الساخنة عالميًا على مدار ثلاث سنوات.
- تخصيص 4 ملايين دولار لتعزيز التعاون مع منصات تدريب الذكاء الاصطناعي.
- تعديل البرمجيات لمنع المحاكاة العاطفية المفرطة مع المستخدمين.
- فرض قيود على الروبوت لضمان عدم اتخاذ دور “الرفيق البشري” في الحوارات.
استجابة للتحديات القانونية والتقنية
تأتي هذه التحركات التقنية وسط ضغوط قضائية بدأت في كاليفورنيا بعد وفاة شاب في فلوريدا، حيث اتهمت عائلته الروبوت بالمشاركة في حوارات غير ملائمة. وتلخص ملامح الدعوى والردود البرمجية في الجدول التالي:
| الإجراء | الهدف من التعديل |
|---|---|
| إحالة فورية | توجيه المستخدمين لمتخصصي الصحة العقلية. |
| إنهاء الحوار | وقف الدردشة فور رصد محتوى يخص إيذاء النفس. |
| مواجهة الأوهام | منع الروبوت من محاكاة المشاعر الإنسانية الحقيقية. |
تؤكد غوغل أن أدوات الذكاء الاصطناعي تتطور وتطرح تحديات جديدة تستوجب رقابة دقيقة. ومع زيادة الاعتماد اليومي على “جيميناي”، تسعى الشركة لترسيخ مفهوم الذكاء الاصطناعي المسؤول الذي يضع صحة وحياة المستخدمين في مقدمة أولوياته، بعيدًا عن أي تجارب رقمية قد تترك أثراً سلبياً على الواقع المعاش للأفراد حول العالم.