Logo do YouTube
REUTERS/Lucy Nicholson
O YouTube lançou uma ferramenta gratuita para celebridades de Hollywood conseguirem detectar deepfakes, reforçando o combate aos roubos de identidade geradas por inteligência artificial.
A plataforma lançou no mês passado uma função de proteção de imagem, que ajuda a identificar conteúdos em que um rosto aparece modificado ou gerado com tecnologias de IA para imitar o de uma pessoa real.
O projeto era inicialmente voltado a funcionários de governo, candidatos políticos e jornalistas. Mas, nesta semana, o YouTube ampliou o acesso à indústria do entretenimento, incluindo atores e músicos, por meio de agências de talentos e representantes de celebridades.
📩 Assine a newsletter do Guia de Compras do g1 com testes e dicas de tecnologia
A ferramenta permite “buscar conteúdos gerados por IA que reproduzam a aparência de uma pessoa inscrita, como um deepfake de seu rosto, e lhe dá a possibilidade de localizá-los e solicitar sua remoção”.
Celebridades e artistas podem acessá-la mesmo sem ter um canal no YouTube.
Veja os vídeos que estão em alta no g1
“O fato de o YouTube abrir suas capacidades de detecção de deepfakes para personalidades públicas marca um ponto de inflexão na maneira como as plataformas abordam a proteção da identidade na era da IA generativa”, declarou à AFP Alon Yamin, diretor-executivo e cofundador da plataforma Copyleaks, de detecção de conteúdo de IA.
“A tecnologia que permite reproduzir o rosto, a voz e os gestos de uma pessoa avançou mais rápido do que as salvaguardas ao seu redor, criando uma brecha que agentes mal-intencionados já estão explorando”, afirmou.
Desafios importantes
A iniciativa chega em um momento em que se multiplicam os vídeos hiper-realistas de celebridades mortas, criados com aplicativos de uso geral como Sora, a ferramenta da OpenAI. O aplicativo desencadeou uma enxurrada de vídeos de Michael Jackson e Elvis Presley.
No mês passado, a OpenAI anunciou que encerraria o aplicativo.
Em fevereiro, o diretor irlandês Ruairí Robinson criou um clipe surpreendentemente realista que mostrava Brad Pitt lutando contra Tom Cruise em um terraço por meio de um comando de duas frases.
O clipe, que provocou grande inquietação em Hollywood, foi gerado com Seedance 2.0, ferramenta do grupo chinês ByteDance.
Robinson também criou outros vídeos: um em que Pitt luta contra um zumbi ninja armado com espada e outro em que ele se junta a Cruise para combater um robô.
Charles Rivkin, presidente da Motion Picture Association (MPA), que reúne os grandes estúdios de produção americanos, instou a ByteDance a “cessar imediatamente suas atividades de falsificação”, acusando-a de atropelar os direitos autorais.
Na ocasião, o YouTube disse que trabalhava com as principais agências de talentos para melhorar a detecção de imagens problemáticas e proteger melhor os artistas.
Leia também:
Microsoft faz 1º plano de demissão voluntária de sua história, diz jornal
‘Seu patrimônio’
O YouTube “faz a coisa certa ao fornecer essas ferramentas gratuitamente aos talentos, para que possam proteger seu patrimônio”, afirmou Jason Newman, da empresa de representação e produção Untitled Entertainment.
“Seu patrimônio é seu rosto, seu corpo, quem eles são, o que fazem, sua forma de se expressar”, acrescentou em entrevista à revista Hollywood Reporter.
O desenvolvimento da ferramenta ocorre após queixas de personalidades americanas de destaque que denunciavam a complexidade do procedimento no YouTube para sinalizar e retirar um deepfake.
“Os riscos são especialmente altos porque os deepfakes podem ser usados para difundir desinformação, manipular mercados, prejudicar reputações ou fazer acreditar em um apoio enganoso. Uma detecção robusta já não é opcional”, explicou o responsável da Copyleaks.
“Os sistemas de detecção devem ser extremamente precisos, atualizados continuamente e associados a normas claras e procedimentos rápidos de remoção para serem eficazes”, afirmou.
“Isso não eliminará por completo os deepfakes, mas pode reduzir consideravelmente seu alcance e seu impacto, ao dificultar a circulação de conteúdos manipulados sem serem detectados ou questionados”, argumentou Yamin.
Veja também:
Novo modelo de IA de baixo custo da chinesa DeepSeek acirra disputa tecnológica com os EUA
Palantir: por que o crescimento do poder global da empresa de IA causa preocupação?
México reconhece ‘cachorro caramelo’ como raça mexicana e provoca reação de brasileiros na
REUTERS/Lucy Nicholson
O YouTube lançou uma ferramenta gratuita para celebridades de Hollywood conseguirem detectar deepfakes, reforçando o combate aos roubos de identidade geradas por inteligência artificial.
A plataforma lançou no mês passado uma função de proteção de imagem, que ajuda a identificar conteúdos em que um rosto aparece modificado ou gerado com tecnologias de IA para imitar o de uma pessoa real.
O projeto era inicialmente voltado a funcionários de governo, candidatos políticos e jornalistas. Mas, nesta semana, o YouTube ampliou o acesso à indústria do entretenimento, incluindo atores e músicos, por meio de agências de talentos e representantes de celebridades.
📩 Assine a newsletter do Guia de Compras do g1 com testes e dicas de tecnologia
A ferramenta permite “buscar conteúdos gerados por IA que reproduzam a aparência de uma pessoa inscrita, como um deepfake de seu rosto, e lhe dá a possibilidade de localizá-los e solicitar sua remoção”.
Celebridades e artistas podem acessá-la mesmo sem ter um canal no YouTube.
Veja os vídeos que estão em alta no g1
“O fato de o YouTube abrir suas capacidades de detecção de deepfakes para personalidades públicas marca um ponto de inflexão na maneira como as plataformas abordam a proteção da identidade na era da IA generativa”, declarou à AFP Alon Yamin, diretor-executivo e cofundador da plataforma Copyleaks, de detecção de conteúdo de IA.
“A tecnologia que permite reproduzir o rosto, a voz e os gestos de uma pessoa avançou mais rápido do que as salvaguardas ao seu redor, criando uma brecha que agentes mal-intencionados já estão explorando”, afirmou.
Desafios importantes
A iniciativa chega em um momento em que se multiplicam os vídeos hiper-realistas de celebridades mortas, criados com aplicativos de uso geral como Sora, a ferramenta da OpenAI. O aplicativo desencadeou uma enxurrada de vídeos de Michael Jackson e Elvis Presley.
No mês passado, a OpenAI anunciou que encerraria o aplicativo.
Em fevereiro, o diretor irlandês Ruairí Robinson criou um clipe surpreendentemente realista que mostrava Brad Pitt lutando contra Tom Cruise em um terraço por meio de um comando de duas frases.
O clipe, que provocou grande inquietação em Hollywood, foi gerado com Seedance 2.0, ferramenta do grupo chinês ByteDance.
Robinson também criou outros vídeos: um em que Pitt luta contra um zumbi ninja armado com espada e outro em que ele se junta a Cruise para combater um robô.
Charles Rivkin, presidente da Motion Picture Association (MPA), que reúne os grandes estúdios de produção americanos, instou a ByteDance a “cessar imediatamente suas atividades de falsificação”, acusando-a de atropelar os direitos autorais.
Na ocasião, o YouTube disse que trabalhava com as principais agências de talentos para melhorar a detecção de imagens problemáticas e proteger melhor os artistas.
Leia também:
Microsoft faz 1º plano de demissão voluntária de sua história, diz jornal
‘Seu patrimônio’
O YouTube “faz a coisa certa ao fornecer essas ferramentas gratuitamente aos talentos, para que possam proteger seu patrimônio”, afirmou Jason Newman, da empresa de representação e produção Untitled Entertainment.
“Seu patrimônio é seu rosto, seu corpo, quem eles são, o que fazem, sua forma de se expressar”, acrescentou em entrevista à revista Hollywood Reporter.
O desenvolvimento da ferramenta ocorre após queixas de personalidades americanas de destaque que denunciavam a complexidade do procedimento no YouTube para sinalizar e retirar um deepfake.
“Os riscos são especialmente altos porque os deepfakes podem ser usados para difundir desinformação, manipular mercados, prejudicar reputações ou fazer acreditar em um apoio enganoso. Uma detecção robusta já não é opcional”, explicou o responsável da Copyleaks.
“Os sistemas de detecção devem ser extremamente precisos, atualizados continuamente e associados a normas claras e procedimentos rápidos de remoção para serem eficazes”, afirmou.
“Isso não eliminará por completo os deepfakes, mas pode reduzir consideravelmente seu alcance e seu impacto, ao dificultar a circulação de conteúdos manipulados sem serem detectados ou questionados”, argumentou Yamin.
Veja também:
Novo modelo de IA de baixo custo da chinesa DeepSeek acirra disputa tecnológica com os EUA
Palantir: por que o crescimento do poder global da empresa de IA causa preocupação?
México reconhece ‘cachorro caramelo’ como raça mexicana e provoca reação de brasileiros na