Google Messages - o aplicație de mesagerie instantanee de Android - avertizează, acum, utilizatorii, dacă detectează faptul că aceștia vor să trimită sau să primească imagini care conțin nuditate.

Această funcționalitate este, momentan, opțională, pentru adulți. Scanarea imaginilor, conform articolului publicat de Google pe blog-ul propriu, se întâmplă pe dispozitiv. Pentru utilizatorii minori, funcționalitatea este activă din start, iar aceștia o pot dezactiva la cerere. Articolul de pe blog mai menționează și că Google nu primește acces la fotografiile comunicate și nici la verdictul scanării.

Același articol prezintă și o funcționalitate care avertizează utilizatorii de potențiale încercări de a fi induși în eroare, prin mesare care susțin că există un colet în așteptare sau că utilizatorului i se oferă un loc de muncă. Astfel, când Google Messages detectează un mesaj care poate conține astfel de încercări de a păcăli utilizatorii, va muta mesajul în Spam.

Deși propunerea de Regulament Chat Control încă stagnează și este în continuare foarte clar că statele membre UE sunt împărțite în ceea ce privește opiniile legate de astfel de acțiuni de a scana comunicațiile tuturor, tot timpul, se pare că funcționalitățile o iau înainte legiferării.

Un risc este că o parte dintre utilizatori să aibe norocul ca acești algoritmi de detecție să nu facă o greșeală - ceea ce este, oricum, extrem de probabil când vine vorba de interpretarea limbajului natural sau de decizii legat de ce anume putem numi nuditate. Astfel, respectivii utilizatori devin desensibilizați la pericole, la consecințele unei detecții false. Însă realitatea lor este foarte diferită de cea a persoanelor care pot fi rănite sau re-traumatizate de astfel de practici - inclusiv acea parte foarte sensibilă din populație care a supraviețuit unor traume legate de pornografie neconsensuală.