🍎 Ieri sera, Apple ha temporaneamente rimosso Telegram dall'App Store perché un singolo utente aveva inserito contenuti pornografici illegali in una chat di gruppo pubblica.

⬅️ Telegram è stato ripristinato nel giro di poche ore. Ma voglio spiegare cosa è successo: voglio avvertire altri sviluppatori di app e aiutare a proteggere le comunità online da attacchi simili.

🧹Poiché Telegram rimuove rapidamente i contenuti illegali dai gruppi pubblici utilizzando segnalazioni degli utenti, filtri di intelligenza artificiale, hash dei contenuti e altri strumenti di moderazione, l'attaccante ha dovuto ricorrere a un trucco tecnico. Ha inserito contenuti illegali modificati dall'intelligenza artificiale modificando un vecchio messaggio in una chat di gruppo attiva. Di conseguenza, i contenuti sono stati effettivamente nascosti ai membri del gruppo, impedendo loro di vederli e segnalarli tempestivamente.

💰 L'attaccante era un estorsore: qualcuno che chiede un riscatto ai proprietari dei gruppi in cambio del fatto di non prendere di mira le loro comunità. Questi estorsori utilizzano account automatizzati per inserire contenuti illegali nei gruppi pubblici e poi li segnalano direttamente ad Apple, nel tentativo di far rimuovere comunità legittime i cui proprietari si sono rifiutati di pagarli.

🤝 Dal punto di vista pratico, i contenuti pornografici illegali nei gruppi pubblici di Telegram non rappresentano un problema sistemico. La nostra moderazione è efficace. Il fatto che gli attaccanti debbano ricorrere a contenuti datati, effettivamente invisibili, e ad altri trucchi tecnici lo dimostra.

⚠️ Tuttavia, ci sono due importanti lezioni per gli sviluppatori di app e le comunità online:

— Gli estorsori hanno trovato un modo per manipolare Apple facendola reagire in modo eccessivo. Apple ha rimosso Telegram dall'App Store prima di contattarci. Questo crea un potenziale rischio sistemico per ogni app mobile che ospita contenuti generati dagli utenti. Se un'app utilizzata da più di un miliardo di persone può essere rimossa dall'App Store senza preavviso, qualsiasi app può esserlo.

— Le tattiche utilizzate dagli estorsori che mirano a far rimuovere contenuti stanno evolvendo, mettendo a rischio le comunità su diverse piattaforme social. Telegram ha una vasta esperienza nell'identificare i trucchi utilizzati dalle bande di segnalazioni coordinate e nel proteggere le comunità legittime (anche quando ciò comporta il rischio che la nostra stessa app venga temporaneamente rimossa dall'App Store). Altre piattaforme potrebbero non essere altrettanto preparate.

Siate vigili! ☝️