Yahoo NotíciasGoogle proíbe projetos de Inteligência Artificial que produzem deepfakes
Recurso permite criar vídeos com substituição de rostos e a adição de expressões faciais
As produções podem criar boatos e disseminar notícias falsas
Plataforma executava o código Python nos navegadores
Nem todo mundo usa os recursos de inteligência artificial para o bem. O deepfake, tecnologia conhecida por criar vídeos falsos a partir da substituição de rostos e a adição de expressões faciais, é uma preocupação para o combate a notícias falsas.
É por isso que o Google começou a banir os projetos envolvendo o treinamento de mecanismos de aprendizado de máquina para a criação de deepfakes na plataforma Colab, que permite que os usuários executem código Python nos navegadores em vez de em do próprio hardware.
O site BleepingComputer diz que as mudanças na política de uso do serviço teriam sido implementadas no início de maio. A plataforma, hospedada pela empresa de Mountain View, oferece diversos recursos de computação, como os de projetos de IA. Isso permite que usuários treinem modelos de deepfake, criando vídeos muito realistas.
Após a mudança. quem tenta utilizar a funcionalidade está recebendo a exibição de uma mensagem de erro informando sobre a execução de “código não permitido”. A plataforma alerta ainda que a insistência pode trazer restrições futuras ao pesquisador.
Apesar de serem usados para entretenimento, o deepfake também pode criar boatos e ajudar a espalhar notícias falsas. Além desse tipo de criação. a ferramenta colaborativa da Google proíbe a utilização dos recursos gratuitos para o desenvolvimento de projetos de mineração de criptomoedas, download de torrents e quebra de senhas para logins.
“Monitoramos regularmente os caminhos para abuso no Colab que contrariam os princípios de IA do Google, enquanto equilibramos o suporte à nossa missão de dar aos nossos usuários acesso a recursos valiosos, como TPUs e GPUs”, afirmou um porta-voz do Google ao Motherboard, em uma matéria da Vice.
“Deepfakes foram adicionados a nossa lista de atividades que não são permitidas nos tempos de execução do Colab no mês passado em resposta às nossas revisões regulares de padrões abusivos", ressaltou.
