في الأيام الأخيرة، عرض موقع يوتيوب مقطع فيديو بصورة مصغرة مليئة بالعُري العشوائي لجميع أنواع المستخدمين بغض النظر عما كانوا يبحثون عنه، وهو ما أثار انتقادات لخوارزمية التوصية الخاصة بالمنصة.
اشتكى مستخدمو موقع يوتيوب هذا الأسبوع من أن خوارزمية التوصية تعرض عليهم صورة مصغرة لمقطع فيديو يضم ست نساء عاريات، وهو نوع من المحتوى المحظور على المنصة.
على وجه التحديد، يحظر اليوتيوب ظهور الصور الإباحية، والأفعال الجنسية، واستخدام الألعاب الجنسية، أو الصور الشاذة أو أي صورة أخرى توفر المتعة الجنسية، وصور العري التي تُظهر الأعضاء التناسلية والجنس غير المرغوب فيه في الصور المصغرة.
تم إنشاء هذه الصورة المصغرة، التي تحمل عنوان “AFRICAN GIAT MAASAI”، باستخدام الذكاء الاصطناعي وظهرت في مجموعة واسعة من عمليات البحث، على سبيل المثال، لسلسلة Breaking Bad، أو لعبة الفيديو GTA، أو graders أو الأغاني.
مع ذلك، لم يتضمن الفيديو المُوجَّه إليه أي عُري. وكما أوضح موقع Android Police، فإن الجاني هو قناة Afro Zulu، التي يبدو أنها وجدت طريقة لجعل خوارزمية يوتيوب تقترح بشكل مكثف صورة مصغرة مثيرة للجدل لتوجيه المستخدمين إلى فيديوهات عادية تمامًا.
ومع ذلك، نظرًا لأن توصية الصورة المصغرة ظهرت في عمليات بحث متنوعة للغاية، فقد يكون هناك أيضًا مشكلة في تصفية المحتوى وإجراءات الأمان الخاصة بالتوصيات، وفقًا لوسائل الإعلام المذكورة.
لقد قام Afro Zulu بالفعل بتغيير الصورة المصغرة إلى صورة أكثر تحفظًا، ولكن بفضل هذه الحيلة تمكن من جعل الفيديو يصل إلى ما يقرب من 4 ملايين مشاهدة.