يعمل المطلعون على Facebook على بناء الإشراف على المحتوى لعصر الذكاء الاصطناعي.
عندما غادر بريت ليفنسون شركة “أبل” في عام 2019 ليتولى إدارة النزاهة التجارية في “فيسبوك”، كان يظن أن تحسين الإشراف على المحتوى يكمن في تطوير التكنولوجيا. لكنه سرعان ما اكتشف أن العقبات الحقيقية تتجاوز مجرد الأدوات التقنية؛ حيث كان المراجعون البشريون يغرقون في سياسات معقدة وضغوط زمنية خانقة، ما أدى إلى نتائج غير دقيقة وتأخير في معالجة الضرر الرقمي.
من السياسات الجامدة إلى الحلول الذكية
أدرك ليفنسون أن النهج المعتاد في إدارة المحتوى، والذي يعتمد على المراجعة المتأخرة، لم يعد كافيًا في عصر الذكاء الاصطناعي التوليدي. فالمخاطر مثل تقديم نصائح لإيذاء النفس أو إنشاء صور غير لائقة أصبحت تشكل تحديات جسيمة لا تنتظر المراجعة البشرية. ومن هنا ولدت فكرته المبتكرة التي تتمحور حول “السياسة كرمز”، وهي طريقة تدمج قواعد السلامة داخل منطق برمجي قابل للتحديث والتنفيذ الفوري.
هذه الرؤية تجسدت في شركة “Moonbounce” الناشئة، التي نجحت مؤخرًا في جمع تمويل بقيمة 12 مليون دولار. تهدف الشركة إلى توفير طبقة أمان فورية للمنصات، حيث يتم تقييم المحتوى فور إنشائه بواسطة الذكاء الاصطناعي واتخاذ قرارات حاسمة في أجزاء من الثانية.
| الخدمة | الفائدة المرجوة |
|---|---|
| التصنيف الآلي | تحديد المحتوى عالي المخاطر |
| الاستجابة الفورية | معالجة الطلبات في 300 مللي ثانية |
| التوجيه التكراري | تعديل مسار الدردشة نحو الأمان |
آفاق جديدة في الإشراف على المحتوى
تتوسع تقنيات الشركة اليوم لتشمل منصات متنوعة، بدءًا من تطبيقات المواعدة وصولًا إلى نماذج الدردشة المتطورة. وتتضمن خطط الشركة المستقبلية أدوات متقدمة تركز على:
- تعديل مطالبات المستخدمين في الوقت الفعلي لمنع الأذى.
- توجيه روبوتات الدردشة لتقديم استجابات داعمة بدلاً من الرفض.
- دعم أكثر من 40 مليون مراجعة يومية عبر مختلف المنصات.
- تقليل الاعتماد على المراجعة البشرية البطيئة.
تؤكد هذه التحولات أن السلامة الرقمية لم تعد مجرد آلية دفاعية، بل أصبحت ركيزة أساسية لتميز المنتجات التقنية. فمع تزايد الضغوط القانونية والمسؤولية الأخلاقية، بات على شركات الذكاء الاصطناعي تبني حلول خارجية قوية تضمن حماية المستخدمين، وتدفع بالبنية التحتية للأمان نحو آفاق أكثر ذكاءً واستباقية، مما يجعل التكنولوجيا أداة مساعدة لا مصدرًا للمخاطر.