Utilizatorii platformei Facebook care au încercat recent să caute termenul „Mega Image” au fost surprinși de un mesaj de avertizare ce semnala ilegalitatea abuzului sexual asupra copiilor. Această notificare, nefondată, le-a apărut la fiecare căutare a supermarketului, provocată de o eroare în sistemele automate ale platformei.
Interesant este că alertarea nu se manifestă atunci când se caută „Mega Image România”, unde utilizatorii pot găsi fără probleme pagina oficială a lanțului de magazine cu peste 618.000 de urmăritori.
De ce apare acest avertisment nejustificat?
Facebook utilizează algoritmi avansați pentru identificarea și blocarea conținutului ilegal, în special cel referitor la abuzurile asupra minorilor. Totuși, aceste filtre automate pot da „false positive”, generând alarme pentru căutări aparent inofensive.
În cazul „Mega Image”, problema provine din combinarea celor două cuvinte: „mega” și „image”. Algoritmul asociază aceste termeni cu potențiale platforme sau conținuturi ilegale de tip media sau stocare digitală, activând astfel avertismentul de prevenție.
O situație similară a fost consemnată anterior când căutarea expresiei „chicken soup” a declanșat un mesaj legat de pornografia infantilă, din cauza unor coduri utilizate în cercuri obscure ale internetului pentru acest tip de conținut, fiind o expresie codificată în spaniolă.
În ce constă eroarea algoritmică și cum poate fi evitată?
Alertarea provine de la sistemele automate de monitorizare a termenilor asociați cu distribuirea de fișiere ilegale, în special prin legătura cu platforma MEGA (.nz), cunoscută pentru utilizarea sa în partiționarea fișierelor sensibile.
Astfel, cuvintele „mega” și „image” în combinație activează pe nedrept mecanismul de securitate al Facebook, iar utilizatorii sunt întâmpinați cu un mesaj alarmant care nu are nici o legătură cu supermarketul local.
Pentru a preveni astfel de incidente pe viitor, este necesară o ajustare fină a algoritmilor pentru a reduce numărul alarmelor false, menținând în același timp protecția utilizatorilor împotriva conținutului periculos. De asemenea, companiile trebuie să monitorizeze modul în care sunt reprezentate online și să gestioneze eficient comunicarea cu publicul în caz de situații similare.
În acest context, utilizatorii care doresc să afle informații despre Mega Image sunt sfătuiți să utilizeze o căutare directă pe Google sau să acceseze pagina oficială Facebook sub numele extins „Mega Image România”, evitând astfel mesajele derutante generate de algoritmul platformei.
