🍎 Anoche, Apple retiró temporalmente Telegram de la App Store porque un solo usuario había publicado contenido pornográfico ilegal en un grupo de chat público.

⬅️ Telegram fue restaurado en cuestión de horas. Pero quiero explicar lo que sucedió, para advertir a otros desarrolladores de aplicaciones y ayudar a proteger a las comunidades en línea de ataques similares.

🧹Dado que Telegram elimina rápidamente el contenido ilegal de los grupos públicos utilizando informes de usuarios, filtros de IA, hashes de contenido y otras herramientas de moderación, el atacante tuvo que recurrir a un truco técnico. Insertó contenido ilegal modificado por IA editando un mensaje antiguo en un grupo de chat activo. Como resultado, el contenido quedó prácticamente oculto a los miembros del grupo, impidiéndoles verlo e informarlo de inmediato.

💰 El atacante era un extorsionador: alguien que exige un rescate a los propietarios de grupos a cambio de no atacar a sus comunidades. Estos extorsionadores utilizan cuentas automatizadas para publicar contenido ilegal en grupos públicos y luego lo denuncian directamente a Apple, intentando provocar la eliminación de comunidades legítimas cuyos propietarios se negaron a pagarles.

🤝 Desde un punto de vista práctico, el contenido pornográfico ilegal en los grupos públicos de Telegram no es un problema sistémico. Nuestra moderación es eficaz. El hecho de que los atacantes tengan que recurrir a contenido antiguo, prácticamente invisible, y a otros trucos técnicos, demuestra esto.

⚠️ Sin embargo, hay dos lecciones importantes para los desarrolladores de aplicaciones y las comunidades en línea:

— Los extorsionadores han encontrado una forma de manipular a Apple para que reaccione de forma exagerada. Apple retiró Telegram de la App Store antes de contactarnos. Esto crea un riesgo sistémico potencial para cada aplicación móvil que alberga contenido generado por los usuarios. Si una aplicación utilizada por más de mil millones de personas puede ser retirada de la App Store sin previo aviso, cualquier aplicación puede serlo.

— Las tácticas utilizadas por los extorsionadores están evolucionando, poniendo en riesgo a las comunidades en todas las plataformas sociales. Telegram tiene una amplia experiencia en la identificación de los trucos utilizados por grupos de denuncias coordinadas y en la protección de comunidades legítimas (incluso cuando esto implica el riesgo de que nuestra propia aplicación sea retirada temporalmente de la App Store). Otras plataformas pueden no estar igualmente preparadas.

Manténganse alerta. ☝️