يضع فيس بوك الذكاء الاصطناعى مسئولاً عن قائمة انتظار الإشراف، لمساعدة فريق الشركة المكون من 15000 عامل بشرى على إعطاء الأولوية بشكل أفضل للمحتوى المتعلق بالإرهاب واستغلال الأطفال وإيذاء الذات، حيث يستعين فيس بوك بالتعلم الآلى للمساعدة في تسريع الإشراف على المحتوى وتحديد أولوياته.

ووفقا لما ذكرته صحيفة "ديلى ميل" البريطانية كان المراجعون البشريون يتعاملون مع معظم المشاركات التي تم وضع علامة عليها بترتيب زمني، مع تحويل الذكاء الاصطناعي إلى البريد العشوائي والوظائف الأخرى ذات الأولوية المنخفضة، لكن تعطي الآن أنظمة الذكاء الاصطناعي العملاقة لوسائل التواصل الاجتماعي الأولوية للمحتوى الذي قد يكون مرفوضًا من خلال مستوى الانتشار والتهديد.

كما يتم نقل الرسائل والصور ومقاطع الفيديو المتعلقة بالضرر في العالم الحقيقي، بما في ذلك الإرهاب واستغلال الأطفال وإيذاء النفس، إلى أعلى قائمة الانتظار.

وسيتم أيضًا إعطاء الأولوية للمشاركات التي يحددها النظام على أنها مشابهة للمحتوى الذي يعد بالفعل انتهاكًا.

ولكن رد النقاد على استخدام مثل هذه التكنولوجيا، قائلين إن الذكاء الاصطناعي يفتقر إلى فهم السياق أو الفروق الدقيقة، ويمكنه حظر المستخدمين أنفسهم الذين تهدف المنصة إلى حمايتهم.

ولعل ما يقلل من هذه المخاطر، هو أنه لا يزال فريق فيس بوك المكون من 15000 مشرف محتوى له الكلمة الأخيرة حول ما إذا كان المنشور ينتهك سياسة الشركة أم لا.

قال رايان بارنز، مدير المنتج بفريق تكامل المجتمع في فيس بوك، "جميع انتهاكات المحتوى لا تزال تتلقى بعض المراجعة البشرية الجوهرية".

وأضاف بارنز "سنستخدم هذا النظام لتحديد أولويات المحتوى بشكل أفضل، ونتوقع استخدام المزيد من الأتمتة عندما يكون انتهاك المحتوى أقل خطورة، خاصةً إذا لم يكن المحتوى فيروسيًا، أو تتم مشاركته بسرعة من جانب عدد كبير من الأشخاص".