Ferramenta gratuita da rede social X tem sido usada para criar imagens íntimas falsas
A plataforma X, de Elon Musk, anunciou nesta quarta-feira (14) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens com conteúdo sexual de pessoas reais, após críticas globais pela geração desse tipo de material envolvendo mulheres e crianças.
Nos últimos dias, o chatbot tem sido alvo de polêmicas após a IA ter produzido, a pedido de usuários, imagens falsas sexualizadas com mulheres e menores de idade.
“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, afirmou a equipe de segurança do X.
Mais cedo nesta quarta (14), o bilionário Elon Musk se pronunciou sobre a polêmica e disse não ter conhecimento de imagens desse tipo produzidas pela plataforma.
“Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero”, publicou Musk no X.
“Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.
LEIA MAIS:
‘Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok
Idec pede ao governo suspensão do Grok por violar direitos de crianças
Países pressionam Grok após polêmicas com fotos falsas sexualizadas
Musk disse também que o Grok pode ter sido alvo de ataques de usuários para produzir conteúdos fora do padrão.
“Pode haver ocasiões em que hackings ao prompt do Grok façam algo inesperado. Se isso acontecer, corrigimos a falha imediatamente.”
O comentário de Musk ocorreu pouco depois de o primeiro-ministro britânico, Keir Starmer, dizer que recebeu a informação que o X “está agindo para garantir total conformidade com a lei do Reino Unido”.
A plataforma foi alvo de uma investigação do órgão regulador de mídia do país social por causa da polêmica envolvendo as imagens (veja mais abaixo).
Initial plugin text
Grok reconheceu falha de segurança
Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas.
Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Na semana passada, o g1 relatou o caso de uma brasileira que teve uma foto sua de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
O g1 encontrou também alguns exemplos em que a IA ignorou o pedido de alteração da imagem (veja na imagem abaixo). Após a polêmica, o Grok também deixou de atender a comandos que pediam para deixar pessoas de biquíni.
Exemplo que mostra que Grok ignorou pedido de nudez.
Reprodução/X
Reação global
A controvérsia gerou reação global contra o Grok. Além da investigação no Reino Unido, a Índia exigiu mais proteções no X contra esses casos. Já a Indonésia e a Malásia proibiram o uso do chatbot.
No Brasil, na última segunda (12), o Instituto de Defesa de Consumidores (Idec) pediu ao governo federal que suspenda o Grok no país.
Nesta quarta, uma coalizão de grupos feministas, entidades de fiscalização na área de tecnologia e ativistas progressistas divulgou cartas abertas para pressionar o Google e a Apple a remover o X e o Grok de suas lojas de aplicativos.
A iniciativa conta com o apoio do grupo feminista UltraViolet, da Organização Nacional para as Mulheres (NOW, na sigla em inglês), do grupo liberal MoveOn e do grupo de defesa dos pais ParentsTogether Action.
“Estamos implorando veementemente à Apple e ao Google que levem isso extremamente a sério”, disse à agência Reuters Jenna Sherman, diretora de campanha da UltraViolet.
“Eles estão viabilizando um sistema no qual milhares, senão dezenas de milhares de pessoas, principalmente mulheres e crianças, estão sendo abusadas sexualmente com a ajuda de suas próprias lojas de aplicativos”, afirmou Sherman.
A Reuters solicitou o posicionamento da xAI, empresa de IA do Musk que fornece a tecnologia do Grok, sobre as cartas. A xAI respondeu com as palavras: “Mentiras da mídia tradicional”.
Google e Apple não responderam às solicitações da agência sobre o tema.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration
A plataforma X, de Elon Musk, anunciou nesta quarta-feira (14) medidas para impedir que seu chatbot de inteligência artificial, Grok, edite imagens com conteúdo sexual de pessoas reais, após críticas globais pela geração desse tipo de material envolvendo mulheres e crianças.
Nos últimos dias, o chatbot tem sido alvo de polêmicas após a IA ter produzido, a pedido de usuários, imagens falsas sexualizadas com mulheres e menores de idade.
“Implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis”, afirmou a equipe de segurança do X.
Mais cedo nesta quarta (14), o bilionário Elon Musk se pronunciou sobre a polêmica e disse não ter conhecimento de imagens desse tipo produzidas pela plataforma.
“Não tenho conhecimento de nenhuma imagem nua de menores de idade gerada pelo Grok. Literalmente, zero”, publicou Musk no X.
“Obviamente, o Grok não gera imagens de forma espontânea; isso ocorre apenas de acordo com solicitações dos usuários. Quando é solicitado a gerar imagens, ele se recusa a produzir qualquer coisa ilegal, já que o princípio operacional do Grok é obedecer às leis de qualquer país ou estado”.
LEIA MAIS:
‘Me sinto suja’, diz brasileira vítima de foto editada de biquíni pelo Grok
Idec pede ao governo suspensão do Grok por violar direitos de crianças
Países pressionam Grok após polêmicas com fotos falsas sexualizadas
Musk disse também que o Grok pode ter sido alvo de ataques de usuários para produzir conteúdos fora do padrão.
“Pode haver ocasiões em que hackings ao prompt do Grok façam algo inesperado. Se isso acontecer, corrigimos a falha imediatamente.”
O comentário de Musk ocorreu pouco depois de o primeiro-ministro britânico, Keir Starmer, dizer que recebeu a informação que o X “está agindo para garantir total conformidade com a lei do Reino Unido”.
A plataforma foi alvo de uma investigação do órgão regulador de mídia do país social por causa da polêmica envolvendo as imagens (veja mais abaixo).
Initial plugin text
Grok reconheceu falha de segurança
Apesar do comentário de Musk, o Grok admitiu, no último dia 2 de janeiro, que “falhas nos mecanismos de proteção” levaram à geração de imagens sexualizadas de menores que foram publicadas no X há algumas semanas.
Na ocasião, a empresa disse que melhorias estão sendo implementadas para evitar esse tipo de ocorrência.
Na semana passada, o g1 relatou o caso de uma brasileira que teve uma foto sua de biquíni manipulada. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de “trend” tanto no Brasil quanto em outros países.
O g1 encontrou também alguns exemplos em que a IA ignorou o pedido de alteração da imagem (veja na imagem abaixo). Após a polêmica, o Grok também deixou de atender a comandos que pediam para deixar pessoas de biquíni.
Exemplo que mostra que Grok ignorou pedido de nudez.
Reprodução/X
Reação global
A controvérsia gerou reação global contra o Grok. Além da investigação no Reino Unido, a Índia exigiu mais proteções no X contra esses casos. Já a Indonésia e a Malásia proibiram o uso do chatbot.
No Brasil, na última segunda (12), o Instituto de Defesa de Consumidores (Idec) pediu ao governo federal que suspenda o Grok no país.
Nesta quarta, uma coalizão de grupos feministas, entidades de fiscalização na área de tecnologia e ativistas progressistas divulgou cartas abertas para pressionar o Google e a Apple a remover o X e o Grok de suas lojas de aplicativos.
A iniciativa conta com o apoio do grupo feminista UltraViolet, da Organização Nacional para as Mulheres (NOW, na sigla em inglês), do grupo liberal MoveOn e do grupo de defesa dos pais ParentsTogether Action.
“Estamos implorando veementemente à Apple e ao Google que levem isso extremamente a sério”, disse à agência Reuters Jenna Sherman, diretora de campanha da UltraViolet.
“Eles estão viabilizando um sistema no qual milhares, senão dezenas de milhares de pessoas, principalmente mulheres e crianças, estão sendo abusadas sexualmente com a ajuda de suas próprias lojas de aplicativos”, afirmou Sherman.
A Reuters solicitou o posicionamento da xAI, empresa de IA do Musk que fornece a tecnologia do Grok, sobre as cartas. A xAI respondeu com as palavras: “Mentiras da mídia tradicional”.
Google e Apple não responderam às solicitações da agência sobre o tema.
Grok, inteligência artificial criada por Elon Musk
REUTERS/Dado Ruvic/Illustration