Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
Quando Daisy Dixon, professora da Universidade de Cardiff, no País de Gales, descobriu que imagens sexualizadas suas, de lingerie ou grávida, circulavam na rede social X, geradas pelo Grok, a ferramenta de IA da plataforma, sentiu-se “violada em sua intimidade”.
“É um sequestro digital do seu corpo”, uma “agressão” de uma “misoginia extrema”, disse à AFP a docente de filosofia, de 36 anos.
Ativa no X e no Instagram, onde faz divulgação filosófica entre outras atividades, Daisy Dixon descobriu, em dezembro, imagens suas geradas artificialmente no X. Alguns usuários haviam usado o Grok para manipulá-las a partir de poucas fotos que ela mesma havia publicado, nas quais aparecia com roupas esportivas.
‘Fábrica de estupros’
As primeiras imagens criadas pela ferramenta de inteligência artificial da plataforma de Elon Musk eram relativamente inofensivas.
A manipulação se limitava a mudanças de penteado ou maquiagem, conta Daisy Dixon. Mas depois “realmente degeneraram”.
Em especial, alguns usuários pediram ao Grok que a mostrasse de calcinha fio-dental, que alargasse seus quadris ou que a colocasse em poses “mais vulgares”. O Grok obedecia e “gerava a imagem”, relata a professora.
Daisy Dixon podia ver tanto os pedidos quanto as imagens criadas aparecerem em sua conta no X – onde tem cerca de 34 mil seguidores -, já que o Grok as publica automaticamente na plataforma.
Um usuário chegou a pedir ao Grok que a retratasse em uma “fábrica de estupros”, segundo ela, embora, nesse caso extremo, a ferramenta não tenha gerado a imagem solicitada.
“Senti-me realmente violada na minha intimidade e também em perigo”, sublinha Daisy Dixon.
“Tive vontade de me esconder”, mas depois “a raiva substituiu o medo”.
Daisy Dixon afirma ter ficado particularmente impactada ao ver que o Grok atendeu ao pedido de um usuário para retratá-la grávida, de biquíni, com aliança no dedo.
Ao procurar apoio no X, não encontrou nenhum meio para denunciar a imagem.
O Reino Unido acaba de endurecer sua legislação contra esse tipo de prática, penalizando tanto a criação quanto a solicitação de imagens íntimas não consentidas.
Milhões de imagens
Segundo um estudo publicado nesta quinta-feira pelo Center for Countering Digital Hate, ONG que frequentemente denuncia práticas do X, o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, a uma média de 190 imagens por minuto.
Em um relatório publicado neste mês, Paul Bouchaud, pesquisador da ONG parisiense AI Forensics, aponta que, de 20 mil imagens geradas pelo Grok, mais da metade mostrava pessoas “pouco vestidas”, quase todas mulheres.
Diante da indignação provocada pela proliferação desse tipo de conteúdo, alguns países anunciaram neste mês o bloqueio total do Grok.
A plataforma X recuou e anunciou, em meados de janeiro, uma limitação de sua ferramenta de IA nos países onde a criação desse tipo de imagem é ilegal, embora ainda não esteja claro em quais lugares essa restrição está em vigor.
Daisy Dixon afirma estar “em geral satisfeita com os avanços obtidos”, mas considera que “isso nunca deveria ter acontecido”.
Paul Bouchaud ressalta que o Grok também dispõe de um site e de um aplicativo capazes de gerar imagens de nudez, com opção de compartilhamento.
REUTERS/Dado Ruvic/Illustration
Quando Daisy Dixon, professora da Universidade de Cardiff, no País de Gales, descobriu que imagens sexualizadas suas, de lingerie ou grávida, circulavam na rede social X, geradas pelo Grok, a ferramenta de IA da plataforma, sentiu-se “violada em sua intimidade”.
“É um sequestro digital do seu corpo”, uma “agressão” de uma “misoginia extrema”, disse à AFP a docente de filosofia, de 36 anos.
Ativa no X e no Instagram, onde faz divulgação filosófica entre outras atividades, Daisy Dixon descobriu, em dezembro, imagens suas geradas artificialmente no X. Alguns usuários haviam usado o Grok para manipulá-las a partir de poucas fotos que ela mesma havia publicado, nas quais aparecia com roupas esportivas.
‘Fábrica de estupros’
As primeiras imagens criadas pela ferramenta de inteligência artificial da plataforma de Elon Musk eram relativamente inofensivas.
A manipulação se limitava a mudanças de penteado ou maquiagem, conta Daisy Dixon. Mas depois “realmente degeneraram”.
Em especial, alguns usuários pediram ao Grok que a mostrasse de calcinha fio-dental, que alargasse seus quadris ou que a colocasse em poses “mais vulgares”. O Grok obedecia e “gerava a imagem”, relata a professora.
Daisy Dixon podia ver tanto os pedidos quanto as imagens criadas aparecerem em sua conta no X – onde tem cerca de 34 mil seguidores -, já que o Grok as publica automaticamente na plataforma.
Um usuário chegou a pedir ao Grok que a retratasse em uma “fábrica de estupros”, segundo ela, embora, nesse caso extremo, a ferramenta não tenha gerado a imagem solicitada.
“Senti-me realmente violada na minha intimidade e também em perigo”, sublinha Daisy Dixon.
“Tive vontade de me esconder”, mas depois “a raiva substituiu o medo”.
Daisy Dixon afirma ter ficado particularmente impactada ao ver que o Grok atendeu ao pedido de um usuário para retratá-la grávida, de biquíni, com aliança no dedo.
Ao procurar apoio no X, não encontrou nenhum meio para denunciar a imagem.
O Reino Unido acaba de endurecer sua legislação contra esse tipo de prática, penalizando tanto a criação quanto a solicitação de imagens íntimas não consentidas.
Milhões de imagens
Segundo um estudo publicado nesta quinta-feira pelo Center for Countering Digital Hate, ONG que frequentemente denuncia práticas do X, o Grok gerou cerca de três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias, a uma média de 190 imagens por minuto.
Em um relatório publicado neste mês, Paul Bouchaud, pesquisador da ONG parisiense AI Forensics, aponta que, de 20 mil imagens geradas pelo Grok, mais da metade mostrava pessoas “pouco vestidas”, quase todas mulheres.
Diante da indignação provocada pela proliferação desse tipo de conteúdo, alguns países anunciaram neste mês o bloqueio total do Grok.
A plataforma X recuou e anunciou, em meados de janeiro, uma limitação de sua ferramenta de IA nos países onde a criação desse tipo de imagem é ilegal, embora ainda não esteja claro em quais lugares essa restrição está em vigor.
Daisy Dixon afirma estar “em geral satisfeita com os avanços obtidos”, mas considera que “isso nunca deveria ter acontecido”.
Paul Bouchaud ressalta que o Grok também dispõe de um site e de um aplicativo capazes de gerar imagens de nudez, com opção de compartilhamento.