Google proíbe projetos de Inteligência Artificial que produzem deepfakes

Google proibiu projetos de IA sobre deepfakes
Google proibiu projetos de IA sobre deepfakes (Getty Image)
  • Recurso permite criar vídeos com substituição de rostos e a adição de expressões faciais

  • As produções podem criar boatos e disseminar notícias falsas

  • Plataforma executava o código Python nos navegadores

Nem todo mundo usa os recursos de inteligência artificial para o bem. O deepfake, tecnologia conhecida por criar vídeos falsos a partir da substituição de rostos e a adição de expressões faciais, é uma preocupação para o combate a notícias falsas.

É por isso que o Google começou a banir os projetos envolvendo o treinamento de mecanismos de aprendizado de máquina para a criação de deepfakes na plataforma Colab, que permite que os usuários executem código Python nos navegadores em vez de em do próprio hardware.

O site BleepingComputer diz que as mudanças na política de uso do serviço teriam sido implementadas no início de maio. A plataforma, hospedada pela empresa de Mountain View, oferece diversos recursos de computação, como os de projetos de IA. Isso permite que usuários treinem modelos de deepfake, criando vídeos muito realistas.

Após a mudança. quem tenta utilizar a funcionalidade está recebendo a exibição de uma mensagem de erro informando sobre a execução de “código não permitido”. A plataforma alerta ainda que a insistência pode trazer restrições futuras ao pesquisador.

Apesar de serem usados para entretenimento, o deepfake também pode criar boatos e ajudar a espalhar notícias falsas. Além desse tipo de criação. a ferramenta colaborativa da Google proíbe a utilização dos recursos gratuitos para o desenvolvimento de projetos de mineração de criptomoedas, download de torrents e quebra de senhas para logins.

“Monitoramos regularmente os caminhos para abuso no Colab que contrariam os princípios de IA do Google, enquanto equilibramos o suporte à nossa missão de dar aos nossos usuários acesso a recursos valiosos, como TPUs e GPUs”, afirmou um porta-voz do Google ao Motherboard, em uma matéria da Vice.

“Deepfakes foram adicionados a nossa lista de atividades que não são permitidas nos tempos de execução do Colab no mês passado em resposta às nossas revisões regulares de padrões abusivos", ressaltou.

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos