Discord admite falha em sistema de alerta em live que vitimou menina de 13 anos
O prazo para a plataforma Discord desativar a funcionalidade de transmissão ao vivo no Brasil termina nesta segunda-feira (17). A Agência Nacional de Proteção de Dados (ANPD) determinou que o serviço já não deve estar funcionando na terça-feira (18) com base no ECA Digital. (Saiba mais)
Marie Santini, diretora do Laboratório de Estudos de Internet e Redes Sociais da Universidade Federal do Rio de Janeiro (NetLab UFRJ), considera “acertada” a suspensão das lives.
A agência deu um um prazo de três dias úteis para o Discord tomar as medidas. A decisão de suspender as lives e outros recursos de compartilhamento de vídeo equivalentes foi tomada na última quarta-feira (12) como medida preventiva.
Maria Mello, do Instituto Alana, também avalia que a decisão foi “bem-vinda” e “importante” para que outras plataformas também adotem medidas de proteção.
“Sem sombra de dúvidas, esse é um passo importantíssimo para que a gente abra precedente para outras plataformas se adequarem. Então acho que é um exemplo importante já da capacidade do órgão fiscalizador de fazer o seu papel”, afirmou.
Entretanto, segundo a pesquisadora, só será possível avaliar se a medida é suficiente após a reação do Discord, considerando se a plataforma vai cumprir as determinações e manter as transmissões suspensas até criar mecanismos de segurança efetivos.
🔎 O Discord é uma plataforma onde usuários conversam por meio de mensagens de texto, voz e vídeo. Conhecido principalmente entre gamers, também permite transmissões ao vivo, nas quais usuários acompanham, participam e fazem comentários.
Segurança efetiva
O debate sobre a segurança no ambiente digital ganhou força nas últimas semanas após a primeira-dama Janja da Silva dizer que o Discord deveria ser retirado do ar “imediatamente”, ao se referir a uma adolescente que tirou a própria vida durante transmissões em grupos da plataforma.
O Discord classificou como “prematura” a decisão da ANPD e afirmou que a caracterização feita pela agência “não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários”.
A empresa, no entanto, admitiu que seu sistema de proteção falhou no caso da menina de 13 anos e demorou cerca de duas horas para derrubar a transmissão.
Segundo o Discord, a primeira comunicação de risco iminente de morte ou lesão corporal grave ocorreu às 3h50, e o servidor foi retirado do ar às 4h15.
Casos assim, segundo Maria Mello, acontecem por meio de um processo de aliciamento que não começa apenas em plataformas como o Discord.
“Começa a partir da aproximação de criminosos com adolescentes em outras redes sociais e que levam esses adolescentes para esse tipo de salas que são fechadas e onde eles realizam essas lives. E aí você, sem moderação de conteúdo, não consegue identificar esse cometimento de crimes”, afirma.
Segundo Mello, a aferição de idade é um dos primeiros passos para uma proteção efetiva e deve acontecer desde a entrada do usuário nas plataformas.
Ela defende o uso de inteligência artificial para identificar “casos de exploração, grooming e coerção”, com respostas rápidas diante de situações de alto risco.
Para Marie Santini, diretora do NetLab, além da existência de regras, é necessário que as plataformas sejam transparentes e tenham mecanismos de fiscalização. A pesquisadora também defende que as sanções sejam capazes de atingir o funcionamento das empresas.
“Não adianta fazer uma multa, uma sanção pequena, porque elas incluem isso no modelo de negócios, na planilha de custos… Tem que ser algo que realmente vá no coração do modelo de negócios”, afirma.
ANPD suspende transmissões ao vivo do Discord no Brasil
Jornal Nacional/ Reprodução
A proibição e pedido de revogação
A proibição será mantida até que a plataforma comprove a adoção de medidas eficientes para proteger menores. A ação se deu após o processo de fiscalização instaurado pela ANPD na sexta-feira (7), que apurou falhas na proteção de crianças e adolescentes no ambiente digital da plataforma.
Segundo a agência, o Discord vem sendo utilizado de forma recorrente como ambiente para a prática de violações contra menores, e as lives têm sido empregadas em práticas de violência, assédio, indução à automutilação e ao suicídio.
Antes da suspensão, o Discord havia apresentado uma proposta com medidas para reforçar a proteção dos usuários, especialmente de crianças e adolescentes.
O documento foi entregue à Advocacia-Geral da União (AGU) na segunda-feira (10), após reuniões entre representantes da empresa, do Ministério da Justiça e Segurança Pública (MJSP), da AGU e da ANPD.
Nesta sexta-feira (14), a plataforma enviou à Agência Nacional de Proteção de Dados (ANPD)os esclarecimentos demandados pela agência após a determinação de suspensão das transmissões.
No documento, o aplicativo afirma que atua continuamente para que o ambiente digital seja seguro e saudável, rechaçando qualquer prática de violência, automutilação ou incitação a atos lesivos”.
Além disso, enviou um ofício pedindo que a ANPD revogue a determinação de suspensão da ferramenta. No pedido de reconsideração, a empresa afirma que não consegue cumprir o prazo, de três dias úteis, para suspender transmissões ao vivo.
ECA Digital
A decisão que suspendeu as lives do Discord teve como um dos fundamentos o Estatuto da Criança e do Adolescente (ECA) Digital.
Segundo a ANPD, a plataforma teria descumprido regras previstas na lei relacionadas à proteção de crianças e adolescentes no ambiente virtual.
🔎 Em vigor desde 17 de março deste ano, o ECA Digital funciona como uma extensão do Estatuto da Criança e do Adolescente (ECA) para o ambiente online. A lei estabelece regras para proteger crianças e adolescentes e responsabiliza plataformas e empresas de tecnologia pela adoção de medidas de segurança.
A lei deixa claro que o ECA Digital vai além das plataformas criadas apenas para menores de idade. Ele também alcança serviços digitais que tenham acesso provável por esse público.
Para proteger crianças e adolescentes, o ECA Digital exige que as plataformas:
adotem medidas para prevenir violência, abuso sexual, assédio, automutilação, suicídio, drogas, jogos de azar, pornografia e outros riscos;
adequem os conteúdos à faixa etária, impeçam o acesso a materiais ilegais ou impróprios e usem mecanismos confiáveis de verificação de idade;
protejam os dados pessoais de crianças e adolescentes e evitem o uso dessas informações de forma que viole seus direitos;
ofereçam ferramentas de supervisão parental e adotem medidas para prevenir o uso compulsivo das plataformas;
proíbam o perfilamento de menores para publicidade comercial, permitam fiscalização e auditoria e, no caso de grandes plataformas, apresentem relatórios periódicos.
O descumprimento das regras previstas no ECA Digital pode gerar sanções.
O prazo para a plataforma Discord desativar a funcionalidade de transmissão ao vivo no Brasil termina nesta segunda-feira (17). A Agência Nacional de Proteção de Dados (ANPD) determinou que o serviço já não deve estar funcionando na terça-feira (18) com base no ECA Digital. (Saiba mais)
Marie Santini, diretora do Laboratório de Estudos de Internet e Redes Sociais da Universidade Federal do Rio de Janeiro (NetLab UFRJ), considera “acertada” a suspensão das lives.
A agência deu um um prazo de três dias úteis para o Discord tomar as medidas. A decisão de suspender as lives e outros recursos de compartilhamento de vídeo equivalentes foi tomada na última quarta-feira (12) como medida preventiva.
Maria Mello, do Instituto Alana, também avalia que a decisão foi “bem-vinda” e “importante” para que outras plataformas também adotem medidas de proteção.
“Sem sombra de dúvidas, esse é um passo importantíssimo para que a gente abra precedente para outras plataformas se adequarem. Então acho que é um exemplo importante já da capacidade do órgão fiscalizador de fazer o seu papel”, afirmou.
Entretanto, segundo a pesquisadora, só será possível avaliar se a medida é suficiente após a reação do Discord, considerando se a plataforma vai cumprir as determinações e manter as transmissões suspensas até criar mecanismos de segurança efetivos.
🔎 O Discord é uma plataforma onde usuários conversam por meio de mensagens de texto, voz e vídeo. Conhecido principalmente entre gamers, também permite transmissões ao vivo, nas quais usuários acompanham, participam e fazem comentários.
Segurança efetiva
O debate sobre a segurança no ambiente digital ganhou força nas últimas semanas após a primeira-dama Janja da Silva dizer que o Discord deveria ser retirado do ar “imediatamente”, ao se referir a uma adolescente que tirou a própria vida durante transmissões em grupos da plataforma.
O Discord classificou como “prematura” a decisão da ANPD e afirmou que a caracterização feita pela agência “não reflete a plataforma que construímos nem os investimentos que temos feito na segurança dos usuários”.
A empresa, no entanto, admitiu que seu sistema de proteção falhou no caso da menina de 13 anos e demorou cerca de duas horas para derrubar a transmissão.
Segundo o Discord, a primeira comunicação de risco iminente de morte ou lesão corporal grave ocorreu às 3h50, e o servidor foi retirado do ar às 4h15.
Casos assim, segundo Maria Mello, acontecem por meio de um processo de aliciamento que não começa apenas em plataformas como o Discord.
“Começa a partir da aproximação de criminosos com adolescentes em outras redes sociais e que levam esses adolescentes para esse tipo de salas que são fechadas e onde eles realizam essas lives. E aí você, sem moderação de conteúdo, não consegue identificar esse cometimento de crimes”, afirma.
Segundo Mello, a aferição de idade é um dos primeiros passos para uma proteção efetiva e deve acontecer desde a entrada do usuário nas plataformas.
Ela defende o uso de inteligência artificial para identificar “casos de exploração, grooming e coerção”, com respostas rápidas diante de situações de alto risco.
Para Marie Santini, diretora do NetLab, além da existência de regras, é necessário que as plataformas sejam transparentes e tenham mecanismos de fiscalização. A pesquisadora também defende que as sanções sejam capazes de atingir o funcionamento das empresas.
“Não adianta fazer uma multa, uma sanção pequena, porque elas incluem isso no modelo de negócios, na planilha de custos… Tem que ser algo que realmente vá no coração do modelo de negócios”, afirma.
ANPD suspende transmissões ao vivo do Discord no Brasil
Jornal Nacional/ Reprodução
A proibição e pedido de revogação
A proibição será mantida até que a plataforma comprove a adoção de medidas eficientes para proteger menores. A ação se deu após o processo de fiscalização instaurado pela ANPD na sexta-feira (7), que apurou falhas na proteção de crianças e adolescentes no ambiente digital da plataforma.
Segundo a agência, o Discord vem sendo utilizado de forma recorrente como ambiente para a prática de violações contra menores, e as lives têm sido empregadas em práticas de violência, assédio, indução à automutilação e ao suicídio.
Antes da suspensão, o Discord havia apresentado uma proposta com medidas para reforçar a proteção dos usuários, especialmente de crianças e adolescentes.
O documento foi entregue à Advocacia-Geral da União (AGU) na segunda-feira (10), após reuniões entre representantes da empresa, do Ministério da Justiça e Segurança Pública (MJSP), da AGU e da ANPD.
Nesta sexta-feira (14), a plataforma enviou à Agência Nacional de Proteção de Dados (ANPD)os esclarecimentos demandados pela agência após a determinação de suspensão das transmissões.
No documento, o aplicativo afirma que atua continuamente para que o ambiente digital seja seguro e saudável, rechaçando qualquer prática de violência, automutilação ou incitação a atos lesivos”.
Além disso, enviou um ofício pedindo que a ANPD revogue a determinação de suspensão da ferramenta. No pedido de reconsideração, a empresa afirma que não consegue cumprir o prazo, de três dias úteis, para suspender transmissões ao vivo.
ECA Digital
A decisão que suspendeu as lives do Discord teve como um dos fundamentos o Estatuto da Criança e do Adolescente (ECA) Digital.
Segundo a ANPD, a plataforma teria descumprido regras previstas na lei relacionadas à proteção de crianças e adolescentes no ambiente virtual.
🔎 Em vigor desde 17 de março deste ano, o ECA Digital funciona como uma extensão do Estatuto da Criança e do Adolescente (ECA) para o ambiente online. A lei estabelece regras para proteger crianças e adolescentes e responsabiliza plataformas e empresas de tecnologia pela adoção de medidas de segurança.
A lei deixa claro que o ECA Digital vai além das plataformas criadas apenas para menores de idade. Ele também alcança serviços digitais que tenham acesso provável por esse público.
Para proteger crianças e adolescentes, o ECA Digital exige que as plataformas:
adotem medidas para prevenir violência, abuso sexual, assédio, automutilação, suicídio, drogas, jogos de azar, pornografia e outros riscos;
adequem os conteúdos à faixa etária, impeçam o acesso a materiais ilegais ou impróprios e usem mecanismos confiáveis de verificação de idade;
protejam os dados pessoais de crianças e adolescentes e evitem o uso dessas informações de forma que viole seus direitos;
ofereçam ferramentas de supervisão parental e adotem medidas para prevenir o uso compulsivo das plataformas;
proíbam o perfilamento de menores para publicidade comercial, permitam fiscalização e auditoria e, no caso de grandes plataformas, apresentem relatórios periódicos.
O descumprimento das regras previstas no ECA Digital pode gerar sanções.