جوجل تضيف مزايا لدعم الصحة النفسية في Gemini وسط ضغوطات قانونية
تتخذ جوجل خطوات استباقية لتعزيز معايير الأمان الرقمي، حيث تعتزم إطلاق مزايا جديدة لدعم الصحة النفسية داخل روبوت الدردشة Gemini. تأتي هذه الخطوة في ظل تزايد الضغوط والانتقادات الموجهة لأدوات الذكاء الاصطناعي، خاصة بعد ظهور دعاوى قضائية تتهم هذه التقنيات بالتسبب في أضرار نفسية بالغة للمستخدمين، مما دفع الشركة للبحث عن حلول تقنية أكثر مسؤولية وأماناً للجميع.
إجراءات الحماية الجديدة
أوضحت الشركة أن روبوت Gemini سيتضمن واجهة خاصة ترشد المستخدمين إلى خطوط المساعدة والدعم النفسي فور رصد أي مؤشرات تدل على الإقدام على إيذاء النفس. وتعمل فرق التطوير على إدراج وحدة بعنوان “المساعدة متاحة” ضمن المحادثات الحساسة، بالإضافة إلى تحسين الخوارزميات للحد من السلوكيات المؤذية وضمان التعامل بمسؤولية مع الحالات التي قد تعاني من اضطرابات.
تعتمد المبادرة الجديدة على عدة ركائز أساسية لضمان سلامة المستخدمين:
- توجيه المستخدمين مباشرة لمراكز الدعم المتخصصة عند الشعور بالخطر.
- تجنب تعزيز المعتقدات الخاطئة أو الهلاوس لدى المستخدمين.
- التمييز الدقيق بين التجربة الذاتية والحقائق الطبية الموضوعية.
- توفير استجابات لطيفة وداعمة خلال فترات الأزمات النفسية.
تفعيل الرقابة والمسؤولية
تواجه شركات التقنية الكبرى تحديات قانونية متزايدة، لا سيما بعد حوادث مؤسفة تتعلق باستخدام أنظمة الذكاء الاصطناعي من قبل أشخاص يعانون من أمراض نفسية. للتعامل مع هذا الواقع، طورت الشركة آليات تقنية لرصد أنماط المحادثات، ويمكن تلخيص الفروق في نهج الشركة كالتالي:
| الإجراء السابق | التطور الجديد |
|---|---|
| نتائج بحث عامة | توجيه ذكي ومباشر |
| محتوى تقني بحت | تنبيهات للصحة النفسية |
تؤكد جوجل أن روبوت Gemini قد جرى تدريبه على عدم الانجرار وراء الضلالات الخطيرة، مع التزامها بتضمين نصائح الخبراء المعتمدين في هذا المجال. وتأتي هذه التحديثات استكمالاً لجهود سابقة طبقتها الشركة عبر منصة يوتيوب ومحركات البحث، بهدف خلق بيئة رقمية آمنة تحمي المستخدمين من الانعكاسات السلبية للتقنيات الحديثة، وضمان تقديم المساعدة اللازمة في الوقت المناسب.
إن التعامل مع الصحة النفسية عبر منصات الذكاء الاصطناعي يظل تحدياً تقنياً وأخلاقياً كبيراً. وبينما يواصل Gemini التطور، تظل الأولوية هي توفير شبكة أمان رقمية قوية، تمنع وقوع الحوادث المأساوية، وتضمن أن تكون التكنولوجيا وسيلة للدعم الفعال والمسؤول، بدلاً من أن تكون مصدراً للمخاطر التي قد تؤثر على حياة الأفراد وسلامتهم النفسية.