تحذير لملايين المستخدمين.. جوجل تواجه انتقادات بسبب نتائج مضللة لمحرك الذكاء الاصطناعي الجديد

محتوى مضلل من AI Overviews بات يتصدر واجهات البحث مؤخرًا بعدما كشف تحقيق لصحيفة ذا جارديان البريطانية عن ثغرات أمنية ومعلوماتية في هذه الأداة؛ حيث يعتمد نظام جوجل الجديد على الذكاء الاصطناعي التوليدي لصياغة ملخصات سريعة قد تحمل في طياتها مخاطر جسيمة عند التعامل مع القضايا الصحية الحساسة التي تمس حياة الأفراد.

تأثير محتوى مضلل من AI Overviews على الاستشارات الطبية

رصد الخبراء مجموعة من النصائح الطبية الكارثية التي قد تزهق الأرواح نتيجة استقاء معلومات غير دقيقة من هذه التقنية؛ فبدلًا من تقديم إرشادات مبنية على أسس علمية، قدمت الأداة توصيات لمرضى سرطان البنكرياس بضرورة تجنب الأطعمة عالية الدهون، وهو أمر يخالف البروتوكولات العلاجية المعاصرة ويضاعف احتمالات الوفاة بسبب سوء التغذية المرتبط بالمرض؛ كما أن ظهور محتوى مضلل من AI Overviews شمل فحوصات الكبد وسرطان النساء بصورة تعطي انطباعًا زائفًا بالسلامة، مما يدفع المرضى لتجاهل الأعراض الحقيقية التي تستوجب التدخل الجراحي أو الكيميائي الفوري.

كيف تتعامل جوجل مع رصد محتوى مضلل من AI Overviews في منصتها؟

في المقابل، تدافع شركة جوجل عن تقنيتها الجديدة بالقول إن الغالبية العظمى من النتائج تتسم بالدقة والموثوقية العالية؛ إذ تعتمد الخوارزميات على مصادر معلوماتية معروفة ومنتشرة عبر الويب، ومع ذلك تعترف الشركة أن وجود محتوى مضلل من AI Overviews قد يحدث بسبب التفسيرات الخاطئة للسياقات اللغوية المعقدة على الإنترنت، وتؤكد أنها تواصل مراجعة الأنظمة وتحديثها بشكل دوري لتقليل نسب الخطأ البشري أو التقني، مع التشديد الدائم على ضرورة مراجعة الأطباء المتخصصين وعدم الاكتفاء بالنتائج الرقمية الأولية في المسائل الطبية والمالية الحرجة.

مخاطر انتشار محتوى مضلل من AI Overviews وتوصيات المنظمات

تتصاعد التحذيرات من قبل الهيئات الصحية العالمية التي ترى أن الاعتماد غير المشروط على هذه الأدوات قد يؤدي إلى نتائج مأساوية؛ ولذلك وضعت هذه المنظمات مجموعة من النقاط الجوهرية للتعامل مع هذه الأزمة:

• ضرورة التحقق من المصدر الأصلي الذي استقت منه الأداة معلوماتها الطبية.
• عدم اتخاذ قرارات مصيرية بناءً على ملخصات الذكاء الاصطناعي وحدها.
• مطالبة الشركات التكنولوجية بوضع معايير صارمة لمراجعة المحتوى الصحي.
• تعزيز الرقابة البشرية على المخرجات التي تتعلق بالصحة العامة والتمويل.
• توعية الجمهور بحدود قدرات الذكاء الاصطناعي التوليدي في الوقت الراهن.

ويبقى التحدي الأكبر أمام محرك البحث الشهير هو الموازنة بين سرعة تقديم الإجابات ودقة المعلومة؛ فبينما يطالب المختصون بإشراف بشري دقيق، تستمر التقنية في التطور لمحاولة فهم السياق بشكل أعمق وتجنب أي محتوى مضلل من AI Overviews قد يضع العلامة التجارية في مأزق قانوني أو أخلاقي أمام ملايين الباحثين عن المعرفة يوميًا.

إن التحول الرقمي نحو الذكاء الاصطناعي يتطلب وعيًا جماعيًا بمصادر المعلومات الموثوقة؛ فالاعتماد الكلي على ملخصات برمجية قد يكون محفوفًا بالمنزلقات المعرفية. تظل التجربة البشرية والخبرة الطبية هي المرجع الأول والأساسي لضمان السلامة بعيدًا عن احتمالات الخطأ التقني الذي قد يظهر في النتائج الآلية للبحث المتطور.