🍎 Gestern Abend hat Apple Telegram kurzzeitig aus dem App Store entfernt, weil ein einzelner Nutzer illegale, pornografische Inhalte in einem öffentlichen Gruppenchat platziert hatte.

⬅️ Telegram wurde innerhalb weniger Stunden wiederhergestellt. Ich möchte jedoch erklären, was passiert ist – um andere App-Entwickler zu warnen und dazu beizutragen, Online-Communities vor ähnlichen Angriffen zu schützen.

🧹Da Telegram illegale Inhalte aus öffentlichen Gruppen mithilfe von Nutzerberichten, KI-Filtern, Inhalts-Hashes und anderen Moderationstools schnell entfernt, musste der Angreifer auf eine technische List zurückgreifen. Er fügte KI-veränderte, illegale Inhalte ein, indem er eine alte Nachricht in einem aktiven Gruppenchat bearbeitete. Dadurch war der Inhalt für die Mitglieder der Gruppe effektiv unsichtbar, wodurch sie ihn nicht sehen und umgehend melden konnten.

💰 Der Angreifer war ein Erpresser: Jemand, der von Gruppenbetreibern Schutzgeld fordert, um ihre Communities nicht anzugreifen. Diese Erpresser verwenden automatisierte Konten, um illegale Inhalte in öffentlichen Gruppen zu platzieren und diese dann direkt bei Apple zu melden, um die Entfernung legitimer Communities zu erreichen, deren Betreiber sich weigerten, ihnen Geld zu zahlen.

🤝 Aus praktischer Sicht ist illegaler, pornografischer Inhalt in den öffentlichen Gruppen von Telegram kein systemisches Problem. Unsere Moderation ist wirksam. Die Tatsache, dass Angreifer auf veraltete, effektiv unsichtbare Inhalte und andere technische Tricks zurückgreifen müssen, beweist dies.

⚠️ Es gibt jedoch zwei wichtige Lehren für App-Entwickler und Online-Communities:

— Erpresser haben einen Weg gefunden, Apple dazu zu bringen, überreagiert zu handeln. Apple hat Telegram aus dem App Store entfernt, bevor wir kontaktiert wurden. Dies birgt ein potenzielles systemisches Risiko für jede mobile App, die nutzergenerierte Inhalte hostet. Wenn eine App, die von mehr als einer Milliarde Menschen genutzt wird, ohne vorherige Ankündigung aus dem App Store entfernt werden kann, kann dies bei jeder App passieren.

— Die Taktiken, die von Erpressern eingesetzt werden, entwickeln sich weiter und setzen Communities auf allen Social-Media-Plattformen in Gefahr. Telegram verfügt über umfangreiche Erfahrung im Erkennen der Tricks, die von koordinierten Meldegruppen verwendet werden, und im Schutz legitimer Communities (auch wenn dies das Risiko birgt, dass unsere eigene App vorübergehend aus dem App Store entfernt wird). Andere Plattformen sind möglicherweise nicht gleichermaßen vorbereitet.