Algoritmul de Bobine de Instagram, parte a gigantului Meta, el a ridicat preocupări pentru siguranța minorilor. O anchetă a Wall Street Journal dezvăluie că, urmărind anumite relatări ale unor tineri influenți, algoritmul a început să o facă a sugera conținut nepotrivit e sessuali, alături de reclame de la mărci mari. Pe scurt, Instagram arată conținut pentru adulți chiar și celor care nu ar trebui.
Controversatul algoritm Instagram care arată conținut pentru adulți (interzis) chiar și minorilor
Testul, efectuat de Wall Street Journal, care a implicat crearea de conturi menite să urmărească tineri influenți, cum ar fi gimnastele și majorete, a arătat că algoritmul Instagram a început să propună conținut pentru adulți, inclusiv videoclipuri sexuale care implică adulți și minori și reclame de la mărci cunoscute din SUA.
Ancheta a scos la iveală o tendință alarmantă: conturile care i-au urmărit pe acești tineri erau expuse la a amestec îngrijorător de pornografie și materiale care sexualizau copiii. Experții în sisteme de recomandare algoritmică au evidențiat modul în care un astfel de conținut „de nișă” poate oferi semnale mai puternice decât cele de interes general, împingând algoritmul să direcționeze conținutul neadecvat către utilizatori.
De asemenea, citește: Secretul Pulcinella este dezvăluit: milioane de utilizatori minori pe Instagram
Problema agregării conținutului pentru adulți pe Instagram era cunoscut pe plan intern iar prevenirea unei astfel de răspândiri necesită modificări semnificative ale algoritmilor de recomandare. Documentele companiei arată însă că personalului de securitate i se interzice în mare măsură să facă modificări ale platformei care poate reduce numărul de utilizatori activi zilnic.
Ca răspuns, Meta a spus că investește miliarde în soluții de siguranță, securitate și adecvarea mărcii, admitând în același timp nevoia de îmbunătățiri suplimentare. Diverse companii, inclusiv Meci grup e Mic funcționar cu ifose, au suspendat sau și-au redus publicitatea pe Reels și alte platforme Meta în urma acestor descoperiri. Alții, ca Disney e Hims, presează pe Meta să evite astfel de plasări de anunțuri și și-au exprimat îngrijorarea cu privire la asocierea mărcilor lor cu un astfel de conținut.
