Desafios perversos: como o aplicativo Discord virou ferramenta para envolver adolescentes em um submundo de violência extrema
Na última semana, o caso de uma adolescente de 13 anos que teria sido induzida por outros usuários a tirar a própria vida durante uma transmissão no Discord trouxe novamente à tona os riscos enfrentados por crianças e adolescentes dentro da plataforma. O episódio gerou forte repercussão, mobilizou autoridades, como a primeira-dama Janja, e intensificou o debate sobre a responsabilidade das empresas na proteção de menores no ambiente digital.
A situação levou a Agência Nacional de Proteção de Dados (ANPD) determinar a suspensão das transmissões ao vivo do Discord no Brasil. A decisão, anunciada nesta quarta-feira (12), vale apenas para a ferramenta de lives e permanecerá em vigor até que a empresa comprove a adoção de mecanismos efetivos de proteção a crianças e adolescentes.
Os alertas, porém, não são recentes. Em 2023, uma reportagem do Fantástico já havia revelado como servidores do Discord eram usados para expor menores de idade a conteúdos violentos e criminosos, incluindo desafios que incentivavam automutilação, crueldade contra animais e outras práticas extremas transmitidas ao vivo. Veja a reportagem completa no vídeo acima.
Especialistas dão dicas de como os pais podem lidar com o uso de aplicativos e conversar com os filhos adolescente
Desafios perversos
Na ocasião, ativistas que monitoram redes sociais relataram ter encontrado comunidades em que adolescentes eram incentivados a cometer atos extremos diante de câmeras. A reportagem mostrou que as transmissões aconteciam em tempo real e, muitas vezes, não ficavam registradas dentro da própria plataforma, dificultando a fiscalização e a produção de provas.
Fotos e vídeos de pessoas ferindo o próprio corpo com lâminas foi um dos materiais recebidos pela equipe. No Brasil, o incentivo à automutilação é crime, mas tem no Discord. Em tempo real, criminosos desafiam alguém a praticar violência contra si ou contra animais, uma forma de “divertimento cruel”.
Em setembro de 2022, na Região Metropolitana de São Paulo, uma garota, de 13 anos, usando uma máscara de caveira, tenta sufocar um gato da vizinhança e colocar uma faca dentro dele. O caso foi denunciado a uma veterinária e ativista pelos direitos dos animais.
“Ela colocou fogo em um pedaço de papel e ateou no gatinho”, conta Daniela Souza, veterinária.
A casa toda pegou fogo. A própria garota registrou a presença dos Bombeiros, e, em uma postagem, disse: “Botei fogo na casa. Daora”. Dezesseis mil pessoas faziam parte da comunidade onde a cena foi transmitida.
Em outro vídeo, com uma lâmina, outra jovem escreve o nome do servidor. Durante essas interações – que se tornam sessões de tortura psicológica -, os agressores se sentem protegidos pelo anonimato e se tornam cada vez mais cruéis.
E o que leva pessoas tão jovens a cometer atos tão violentos?
“A partir da variável da entrada do smartphone, a gente já tem pesquisas que mostram que esses aparelhos afetaram a adolescência. Como se você pegasse e falasse para as crianças: ‘Olha, descobrimos o fogo. Brinca aí com o fogo’. O fogo é maravilhoso, mas você tem que ensinar como é que mexe nisso para não se queimar. A gente deu o fogo na mão das crianças e estamos vendo os resultados”, destaca Vera Iaconelli, psicanalista.
O crescimento da violência também é percebido pela Safernet, associação civil que recebe denúncias de violações aos direitos humanos na internet no Brasil.
“A gente tem visto uma escalada, não só do número de denúncias de violência, de conteúdo extremista na internet, mas também uma escalada do nível de crueldade e sadismo, muitas vezes, desse conteúdo. A fiscalização ou digamos o controle disso é muito precário”, afirma Thiago Tavares, presidente da SaferNet Brasil.
Rede sem lei: no Discord, criminosos violentam e humilham meninas menores de idade
Fantástico
Casos recentes reacendem debate
O tema voltou a ganhar repercussão nos últimos dias após a divulgação do caso de uma adolescente de 13 anos que teria sido induzida por outros usuários a tirar a própria vida durante uma transmissão na plataforma. O episódio provocou forte reação de autoridades e ampliou a pressão por medidas de proteção para crianças e adolescentes no ambiente digital.
Na semana passada, a primeira-dama Janja da Silva defendeu publicamente a retirada imediata do Discord do ar ao comentar o caso. A declaração ampliou o debate sobre a responsabilidade das plataformas digitais e a necessidade de mecanismos mais eficientes de controle e verificação de idade.
Rede sem lei: no Discord, criminosos violentam e humilham meninas menores de idade
Reprodução/Fantástico
Suspensão das lives
Nesta quarta-feira (12), a ANPD determinou a suspensão da funcionalidade de transmissões ao vivo do Discord em território brasileiro. A medida não bloqueia o acesso à plataforma, mas impede o uso das lives até que a empresa comprove a adoção de medidas efetivas para proteger crianças e adolescentes.
Segundo a agência, a decisão foi tomada após análises técnicas que apontaram falhas na prevenção de situações envolvendo violência, automutilação e indução ao suicídio. O órgão também destacou que, pela forma como o serviço opera, o Discord não consegue monitorar o conteúdo das transmissões enquanto elas acontecem, dependendo principalmente de denúncias dos usuários.
A medida representa uma resposta inédita a preocupações que já haviam sido expostas pelo Fantástico anos antes. O que em 2023 foi apresentado como um alerta sobre os riscos escondidos em servidores privados hoje se tornou alvo de fiscalização das autoridades brasileiras, diante do aumento das denúncias e da preocupação crescente com a segurança de adolescentes nas plataformas digitais.
Desafios perversos: como o aplicativo Discord virou ferramenta para envolver adolescentes em um submundo de violência extrema
Reprodução/TV Globo
Ouça os podcasts do Fantástico:
ISSO É FANTÁSTICO
O podcast Isso É Fantástico está disponível no g1, Globoplay, Deezer, Spotify, Google Podcasts, Apple Podcasts e Amazon Music trazendo grandes reportagens, investigações e histórias fascinantes em podcast com o selo de jornalismo do Fantástico: profundidade, contexto e informação. Siga, curta ou assine o Isso É Fantástico no seu tocador de podcasts favorito. Todo domingo tem um episódio novo.
PRAZER, RENATA
O podcast ‘Prazer, Renata’ está disponível no g1, no Globoplay, no Deezer, no Spotify, no Google Podcasts, no Apple Podcasts, na Amazon Music ou no seu aplicativo favorito. Siga, assine e curta o ‘Prazer, Renata’ na sua plataforma preferida.
BICHOS NA ESCUTA
O podcast ‘Bichos Na Escuta’ está disponível no g1, no Globoplay, no Deezer, no Spotify, no Google Podcasts, no Apple Podcasts, na Amazon Music ou no seu aplicativo favorito. Siga, assine e curta o ‘Bichos na Escuta’ na sua plataforma preferida.
Na última semana, o caso de uma adolescente de 13 anos que teria sido induzida por outros usuários a tirar a própria vida durante uma transmissão no Discord trouxe novamente à tona os riscos enfrentados por crianças e adolescentes dentro da plataforma. O episódio gerou forte repercussão, mobilizou autoridades, como a primeira-dama Janja, e intensificou o debate sobre a responsabilidade das empresas na proteção de menores no ambiente digital.
A situação levou a Agência Nacional de Proteção de Dados (ANPD) determinar a suspensão das transmissões ao vivo do Discord no Brasil. A decisão, anunciada nesta quarta-feira (12), vale apenas para a ferramenta de lives e permanecerá em vigor até que a empresa comprove a adoção de mecanismos efetivos de proteção a crianças e adolescentes.
Os alertas, porém, não são recentes. Em 2023, uma reportagem do Fantástico já havia revelado como servidores do Discord eram usados para expor menores de idade a conteúdos violentos e criminosos, incluindo desafios que incentivavam automutilação, crueldade contra animais e outras práticas extremas transmitidas ao vivo. Veja a reportagem completa no vídeo acima.
Especialistas dão dicas de como os pais podem lidar com o uso de aplicativos e conversar com os filhos adolescente
Desafios perversos
Na ocasião, ativistas que monitoram redes sociais relataram ter encontrado comunidades em que adolescentes eram incentivados a cometer atos extremos diante de câmeras. A reportagem mostrou que as transmissões aconteciam em tempo real e, muitas vezes, não ficavam registradas dentro da própria plataforma, dificultando a fiscalização e a produção de provas.
Fotos e vídeos de pessoas ferindo o próprio corpo com lâminas foi um dos materiais recebidos pela equipe. No Brasil, o incentivo à automutilação é crime, mas tem no Discord. Em tempo real, criminosos desafiam alguém a praticar violência contra si ou contra animais, uma forma de “divertimento cruel”.
Em setembro de 2022, na Região Metropolitana de São Paulo, uma garota, de 13 anos, usando uma máscara de caveira, tenta sufocar um gato da vizinhança e colocar uma faca dentro dele. O caso foi denunciado a uma veterinária e ativista pelos direitos dos animais.
“Ela colocou fogo em um pedaço de papel e ateou no gatinho”, conta Daniela Souza, veterinária.
A casa toda pegou fogo. A própria garota registrou a presença dos Bombeiros, e, em uma postagem, disse: “Botei fogo na casa. Daora”. Dezesseis mil pessoas faziam parte da comunidade onde a cena foi transmitida.
Em outro vídeo, com uma lâmina, outra jovem escreve o nome do servidor. Durante essas interações – que se tornam sessões de tortura psicológica -, os agressores se sentem protegidos pelo anonimato e se tornam cada vez mais cruéis.
E o que leva pessoas tão jovens a cometer atos tão violentos?
“A partir da variável da entrada do smartphone, a gente já tem pesquisas que mostram que esses aparelhos afetaram a adolescência. Como se você pegasse e falasse para as crianças: ‘Olha, descobrimos o fogo. Brinca aí com o fogo’. O fogo é maravilhoso, mas você tem que ensinar como é que mexe nisso para não se queimar. A gente deu o fogo na mão das crianças e estamos vendo os resultados”, destaca Vera Iaconelli, psicanalista.
O crescimento da violência também é percebido pela Safernet, associação civil que recebe denúncias de violações aos direitos humanos na internet no Brasil.
“A gente tem visto uma escalada, não só do número de denúncias de violência, de conteúdo extremista na internet, mas também uma escalada do nível de crueldade e sadismo, muitas vezes, desse conteúdo. A fiscalização ou digamos o controle disso é muito precário”, afirma Thiago Tavares, presidente da SaferNet Brasil.
Rede sem lei: no Discord, criminosos violentam e humilham meninas menores de idade
Fantástico
Casos recentes reacendem debate
O tema voltou a ganhar repercussão nos últimos dias após a divulgação do caso de uma adolescente de 13 anos que teria sido induzida por outros usuários a tirar a própria vida durante uma transmissão na plataforma. O episódio provocou forte reação de autoridades e ampliou a pressão por medidas de proteção para crianças e adolescentes no ambiente digital.
Na semana passada, a primeira-dama Janja da Silva defendeu publicamente a retirada imediata do Discord do ar ao comentar o caso. A declaração ampliou o debate sobre a responsabilidade das plataformas digitais e a necessidade de mecanismos mais eficientes de controle e verificação de idade.
Rede sem lei: no Discord, criminosos violentam e humilham meninas menores de idade
Reprodução/Fantástico
Suspensão das lives
Nesta quarta-feira (12), a ANPD determinou a suspensão da funcionalidade de transmissões ao vivo do Discord em território brasileiro. A medida não bloqueia o acesso à plataforma, mas impede o uso das lives até que a empresa comprove a adoção de medidas efetivas para proteger crianças e adolescentes.
Segundo a agência, a decisão foi tomada após análises técnicas que apontaram falhas na prevenção de situações envolvendo violência, automutilação e indução ao suicídio. O órgão também destacou que, pela forma como o serviço opera, o Discord não consegue monitorar o conteúdo das transmissões enquanto elas acontecem, dependendo principalmente de denúncias dos usuários.
A medida representa uma resposta inédita a preocupações que já haviam sido expostas pelo Fantástico anos antes. O que em 2023 foi apresentado como um alerta sobre os riscos escondidos em servidores privados hoje se tornou alvo de fiscalização das autoridades brasileiras, diante do aumento das denúncias e da preocupação crescente com a segurança de adolescentes nas plataformas digitais.
Desafios perversos: como o aplicativo Discord virou ferramenta para envolver adolescentes em um submundo de violência extrema
Reprodução/TV Globo
Ouça os podcasts do Fantástico:
ISSO É FANTÁSTICO
O podcast Isso É Fantástico está disponível no g1, Globoplay, Deezer, Spotify, Google Podcasts, Apple Podcasts e Amazon Music trazendo grandes reportagens, investigações e histórias fascinantes em podcast com o selo de jornalismo do Fantástico: profundidade, contexto e informação. Siga, curta ou assine o Isso É Fantástico no seu tocador de podcasts favorito. Todo domingo tem um episódio novo.
PRAZER, RENATA
O podcast ‘Prazer, Renata’ está disponível no g1, no Globoplay, no Deezer, no Spotify, no Google Podcasts, no Apple Podcasts, na Amazon Music ou no seu aplicativo favorito. Siga, assine e curta o ‘Prazer, Renata’ na sua plataforma preferida.
BICHOS NA ESCUTA
O podcast ‘Bichos Na Escuta’ está disponível no g1, no Globoplay, no Deezer, no Spotify, no Google Podcasts, no Apple Podcasts, na Amazon Music ou no seu aplicativo favorito. Siga, assine e curta o ‘Bichos na Escuta’ na sua plataforma preferida.