O CEO do Telegram, Pavel Durov, acusou um extorsionista de inserir material de abuso sexual infantil (CSAM) em um chat público na noite de segunda-feira para fazer com que o Telegram fosse temporariamente removido da App Store da Apple, criando assim um risco sistêmico para qualquer aplicativo móvel que hospede conteúdo gerado pelo usuário: qualquer aplicativo poderia, potencialmente, ser removido sem aviso prévio se isso pode acontecer com um que possui mais de um bilhão de usuários.
A Apple não respondeu imediatamente a um pedido de comentário do site The Verge.
Em 2024, a França prendeu Durov sob acusações que incluíam o auxílio a transações ilegais.
Durov explica: “Esses chantagistas usam contas automatizadas para publicar conteúdo ilegal em grupos públicos e, em seguida, denunciá-lo diretamente à Apple; o objetivo deles é remover comunidades legítimas que se recusam a pagar.”
O Telegram foi temporariamente removido da App Store devido a alegações de conteúdo de abuso infantil.
Durov afirma que um invasor inseriu conteúdo ilegal, modificado por inteligência artificial, em um bate-papo de grupo ativo ao editar uma mensagem antiga — sem que os membros pudessem detectá-lo ou denunciá-lo.
Abaixo, segue a declaração completa de Durov.
Na noite passada, a Apple removeu brevemente o Telegram da App Store porque um usuário inseriu conteúdo pornográfico ilegal em um chat público.
O Telegram foi restabelecido em poucas horas. Mas quero explicar o que aconteceu — para alertar outros desenvolvedores de aplicativos e ajudar a proteger comunidades online contra ataques semelhantes.
Como o Telegram remove rapidamente conteúdo ilegal de grupos públicos usando diversas ferramentas de moderação, o invasor teve de recorrer a um truque técnico. Ele inseriu conteúdo ilegal modificado por IA ao editar uma mensagem antiga em um chat de grupo ativo. Como resultado, o conteúdo ficou efetivamente oculto para os membros do grupo, impedindo-os de vê-lo ou denunciá-lo.
O invasor era um chantagista que utiliza táticas de remoção forçada: alguém que exige resgate dos proprietários de grupos em troca de não atacar suas comunidades. Esses chantagistas usam contas automatizadas para inserir conteúdo ilegal em grupos públicos e, em seguida, denunciá-lo diretamente à Apple, tentando provocar a remoção de comunidades legítimas cujos proprietários se recusaram a pagar.
Do ponto de vista prático, conteúdo pornográfico ilegal em grupos públicos do Telegram não é um problema sistêmico. Nossa moderação é eficaz. O fato de os invasores precisarem recorrer a conteúdo retrodatado — e efetivamente invisível — e a outros truques técnicos comprova isso.
⚠️ No entanto, há duas lições importantes aqui para desenvolvedores de aplicativos e comunidades online:
— Chantagistas encontraram uma maneira de manipular a Apple para que ela reaja de forma exagerada. A Apple removeu o Telegram da App Store antes de entrar em contato conosco. Isso cria um risco sistêmico potencial para qualquer aplicativo móvel que hospede conteúdo gerado pelo usuário. Se um aplicativo usado por mais de um bilhão de pessoas pode ser removido da App Store sem aviso prévio, qualquer aplicativo pode ser.
— As táticas usadas por chantagistas que buscam a remoção forçada estão evoluindo, colocando em risco comunidades em várias plataformas sociais. O Telegram tem vasta experiência na identificação de truques usados por grupos coordenados de denúncias e na proteção de comunidades legítimas (mesmo quando isso implica o risco de nosso próprio aplicativo ser temporariamente removido da App Store). Outras plataformas podem não estar igualmente preparadas.
Mantenham-se atentos! ☝️
