Grupo de direitos civis estudou 28 mil canais e detectou conteúdo radical sendo sugerido a usuários que buscavam canais sobre celebridades e tecnologia. Telegram
Getty Images
A plataforma de rede social Telegram usa um algoritmo que promove conteúdo extremista, segundo um novo estudo obtido com exclusividade pela BBC.
O estudo da entidade americana em defesa de direitos civis Southern Poverty Law Center (SPLC) descobriu que o recurso “canais similares”, criado no ano passado, recomenda canais com conteúdo radical até mesmo quando usuários estão navegando em canais sobre celebridades ou sobre tecnologia.
Um professor mostrou à BBC que, em poucos instantes, foi capaz de encontrar uma pessoa que estava disposta a exportar para o Reino Unido uma submetralhadora, por 850 libras (cerca de R$ 6,6 mil).
O Telegram disse que usuários “apenas recebem conteúdo com o qual escolhem se engajar” e que a plataforma remove milhões de itens considerados danosos diariamente.
O fundador do Telegram, o bilionário russo Pavel Durov, está sendo investigado na França por não conseguir conter o uso da plataforma por criminosos. Ele nega todas as acusações.
O Telegram — conhecido por ser um aplicativo de mensagens que permite bastante sigilo — possui um bilhão de usuários. Eles podem criar grupos com até 200 mil pessoas.
Pesquisadores da SPLC investigaram 28 mil canais de Telegram para seu relatório “As Recomendações Tóxicas do Telegram”.
O estudo detectou que pessoas buscando conteúdos banais recebiam recomendação de conteúdos radicais. E pessoas que já buscavam conteúdo extremista — como conspirações antigoverno — recebiam sugestões de conteúdo ainda mais radical, como grupos de antissemitismo e nacionalismo branco.
A pesquisadora-chefe Megan Squire fez uma demonstração de como o algoritmo do Telegram funciona pesquisando por “Donald Trump” em uma conta recém-criada na plataforma.
Imediatamente surgiram nas recomendações de “canais semelhantes” vários canais promovendo a conspiração Q-Anon — que alega falsamente que Trump está em uma guerra secreta contra pedófilos adoradores de Satanás na elite do governo, do mundo dos negócios e da mídia.
Outra pesquisa por “revoltas no Reino Unido” exibiu um meme sobre Adolf Hitler como o primeiro resultado, seguido por sugestões para uma série de canais administrados por grupos violentos de direita radical.
“Alguns desses grupos são bem ativos. Os usuários no Telegram não estão apenas recebendo memes, eles estão sendo atraídos para eventos reais. Eles estão participando de eventos presenciais com outras pessoas”, disse Squire.
Nas horas após um ataque com faca em Southport em agosto, que provocou tumultos em todo o Reino Unido, usuários do Telegram estiveram entre os primeiros que enviaram convocações para protestos, junto com falsas alegações de que o suposto agressor era um imigrante que havia solicitado asilo.
Squire disse à BBC que a pesquisa mostrou que o Telegram virou uma “ameaça digital”.
“Em uma escala de um a 10, o Telegram eu diria que é um 11. Ele está distribuindo enormes quantidades de conteúdo criminoso e extremista. É extremamente perigoso na minha opinião”, disse ela.
Elies Campo, um ex-funcionário que fez parte do círculo de decisões do Telegram por seis anos, disse à BBC que cobrou Pavel Durov sobre material extremista em 2021.
“Sua posição era que não cabe a uma plataforma como a nossa decidir quem deveria se manifestar. Estava claro que ele não queria dedicar mais recursos a isso”, disse Campo.
“Acho que se ele pudesse escolher, escolheria mais uma posição em que não precisasse moderar nada.”
O professor David Maimon da Georgia State University, que passou seis anos estudando conteúdo ilegal no Telegram, disse que há dezenas de milhares de canais oferecendo de tudo — desde ferramentas para golpes até armas.
“O Telegram é definitivamente uma das plataformas mais importantes que os criminosos estão usando hoje em dia para atividades criminosas”, disse ele.
Ele mostrou à BBC como, momentos após postar uma mensagem dizendo que precisava de “uma Uzi e uma espingarda”, um vendedor postou uma foto de uma Uzi e disse que poderia “entregá-la rapidamente” para um endereço em Belfast, na Irlanda do Norte, em dois ou três dias.
As autoridades francesas acusam Pavel Durov de cumplicidade em casos de tráfico de drogas, crime organizado e compartilhamento de imagens de abuso infantil no Telegram. Ele está atualmente em liberdade sob fiança e não tem permissão para deixar a França.
O Telegram diz que leva conteúdo extremista e ilegal muito a sério e que suas equipes de moderação e sua ferramenta de inteligência artificial removem milhões de peças de conteúdo considerado nocivo todos os dias.
Ele diz que seus usuários recebem apenas o conteúdo que assinam — já que o Telegram não “injeta ou promove conteúdo”.
“O recurso ‘sugestões de canal’ mostra apenas canais sobre o mesmo tópico que o usuário já segue. Essa abordagem garante que os usuários sejam apresentados apenas ao conteúdo com o qual escolheram se envolver. Isso é completamente diferente de como outras plataformas fazem sugestões”, disse a empresa.
O Telegram disse que “ele não amplifica o conteúdo, mas mostra sugestões baseadas em tópicos vinculados às escolhas do usuário”.
Leia também:
ChatGPT ganha voz de Papai Noel; veja como ativar
TikTok recorre à Suprema Corte dos EUA para evitar banimento no país
Veja também:
89% dos brasileiros têm acesso à internet em casa, diz IBGE
Veja os memes que os brasileiros buscaram no Google em 2024
Silvio Santos, eleições e Rebeca Andrade: os assuntos que bombaram no Google em 2024
Getty Images
A plataforma de rede social Telegram usa um algoritmo que promove conteúdo extremista, segundo um novo estudo obtido com exclusividade pela BBC.
O estudo da entidade americana em defesa de direitos civis Southern Poverty Law Center (SPLC) descobriu que o recurso “canais similares”, criado no ano passado, recomenda canais com conteúdo radical até mesmo quando usuários estão navegando em canais sobre celebridades ou sobre tecnologia.
Um professor mostrou à BBC que, em poucos instantes, foi capaz de encontrar uma pessoa que estava disposta a exportar para o Reino Unido uma submetralhadora, por 850 libras (cerca de R$ 6,6 mil).
O Telegram disse que usuários “apenas recebem conteúdo com o qual escolhem se engajar” e que a plataforma remove milhões de itens considerados danosos diariamente.
O fundador do Telegram, o bilionário russo Pavel Durov, está sendo investigado na França por não conseguir conter o uso da plataforma por criminosos. Ele nega todas as acusações.
O Telegram — conhecido por ser um aplicativo de mensagens que permite bastante sigilo — possui um bilhão de usuários. Eles podem criar grupos com até 200 mil pessoas.
Pesquisadores da SPLC investigaram 28 mil canais de Telegram para seu relatório “As Recomendações Tóxicas do Telegram”.
O estudo detectou que pessoas buscando conteúdos banais recebiam recomendação de conteúdos radicais. E pessoas que já buscavam conteúdo extremista — como conspirações antigoverno — recebiam sugestões de conteúdo ainda mais radical, como grupos de antissemitismo e nacionalismo branco.
A pesquisadora-chefe Megan Squire fez uma demonstração de como o algoritmo do Telegram funciona pesquisando por “Donald Trump” em uma conta recém-criada na plataforma.
Imediatamente surgiram nas recomendações de “canais semelhantes” vários canais promovendo a conspiração Q-Anon — que alega falsamente que Trump está em uma guerra secreta contra pedófilos adoradores de Satanás na elite do governo, do mundo dos negócios e da mídia.
Outra pesquisa por “revoltas no Reino Unido” exibiu um meme sobre Adolf Hitler como o primeiro resultado, seguido por sugestões para uma série de canais administrados por grupos violentos de direita radical.
“Alguns desses grupos são bem ativos. Os usuários no Telegram não estão apenas recebendo memes, eles estão sendo atraídos para eventos reais. Eles estão participando de eventos presenciais com outras pessoas”, disse Squire.
Nas horas após um ataque com faca em Southport em agosto, que provocou tumultos em todo o Reino Unido, usuários do Telegram estiveram entre os primeiros que enviaram convocações para protestos, junto com falsas alegações de que o suposto agressor era um imigrante que havia solicitado asilo.
Squire disse à BBC que a pesquisa mostrou que o Telegram virou uma “ameaça digital”.
“Em uma escala de um a 10, o Telegram eu diria que é um 11. Ele está distribuindo enormes quantidades de conteúdo criminoso e extremista. É extremamente perigoso na minha opinião”, disse ela.
Elies Campo, um ex-funcionário que fez parte do círculo de decisões do Telegram por seis anos, disse à BBC que cobrou Pavel Durov sobre material extremista em 2021.
“Sua posição era que não cabe a uma plataforma como a nossa decidir quem deveria se manifestar. Estava claro que ele não queria dedicar mais recursos a isso”, disse Campo.
“Acho que se ele pudesse escolher, escolheria mais uma posição em que não precisasse moderar nada.”
O professor David Maimon da Georgia State University, que passou seis anos estudando conteúdo ilegal no Telegram, disse que há dezenas de milhares de canais oferecendo de tudo — desde ferramentas para golpes até armas.
“O Telegram é definitivamente uma das plataformas mais importantes que os criminosos estão usando hoje em dia para atividades criminosas”, disse ele.
Ele mostrou à BBC como, momentos após postar uma mensagem dizendo que precisava de “uma Uzi e uma espingarda”, um vendedor postou uma foto de uma Uzi e disse que poderia “entregá-la rapidamente” para um endereço em Belfast, na Irlanda do Norte, em dois ou três dias.
As autoridades francesas acusam Pavel Durov de cumplicidade em casos de tráfico de drogas, crime organizado e compartilhamento de imagens de abuso infantil no Telegram. Ele está atualmente em liberdade sob fiança e não tem permissão para deixar a França.
O Telegram diz que leva conteúdo extremista e ilegal muito a sério e que suas equipes de moderação e sua ferramenta de inteligência artificial removem milhões de peças de conteúdo considerado nocivo todos os dias.
Ele diz que seus usuários recebem apenas o conteúdo que assinam — já que o Telegram não “injeta ou promove conteúdo”.
“O recurso ‘sugestões de canal’ mostra apenas canais sobre o mesmo tópico que o usuário já segue. Essa abordagem garante que os usuários sejam apresentados apenas ao conteúdo com o qual escolheram se envolver. Isso é completamente diferente de como outras plataformas fazem sugestões”, disse a empresa.
O Telegram disse que “ele não amplifica o conteúdo, mas mostra sugestões baseadas em tópicos vinculados às escolhas do usuário”.
Leia também:
ChatGPT ganha voz de Papai Noel; veja como ativar
TikTok recorre à Suprema Corte dos EUA para evitar banimento no país
Veja também:
89% dos brasileiros têm acesso à internet em casa, diz IBGE
Veja os memes que os brasileiros buscaram no Google em 2024
Silvio Santos, eleições e Rebeca Andrade: os assuntos que bombaram no Google em 2024