Tecnologia deepfake é utilizada em sites pornográficos

·3 min de leitura
A comparison of an original and deepfake video of Facebook CEO Mark Zuckerberg. (Elyse Samuels/The Washington Post via Getty Images)
Uma comparação entre um vídeo original e um deepfake do CEO do Facebook, Mark Zuckerberg. (Elyse Samuels/The Washington Post via Getty Images)
  • Tecnologia é utilizada para modelar digitalmente rostos a partir de imagens;

  • Especialistas buscam formas de inibir efeitos de "pornografia deepfake";

  • 96% do uso de deepfake em 2019 foi para pornografia;

A tecnologia do deepfake está cada vez mais sofisticada, e é aplicada em meio a uma das complexidades enfrentadas pelos softwares de mídia sintética, em que o aprendizado de máquina é usado para modelar digitalmente rostos a partir de imagens e, em seguida, trocá-los em imagens em movimento da maneira mais perfeita possível. Porém, o modelo, criado nos últimos quatro anos, de acordo com empresas, pesquisadores, legisladores e ativistas entrevistados pela Reuters, pode gerar novos problemas.

Leia mais:

Segundo especialistas, o sistema se tornou avançado o suficiente para que os espectadores em geral tenham dificuldade em distinguir muitos vídeos falsos da realidade, dizem os especialistas, e proliferou a ponto de estar disponível para quase qualquer pessoa que tenha um smartphone, sem necessidade de especialização.

Especialistas pedem leis duras contra pornografia deepfake

Em meio as discussões sobre muitos ativistas de segurança online, pesquisadores e desenvolvedores de software dizem que a chave é garantir o consentimento daqueles que estão sendo simulados, de acordo com a agência Reuters. Alguns defendem uma abordagem mais dura quando se trata de pornografia, devido ao risco de abuso. Os números demonstram a preocupação.

A pornografia deepfake não consensual foi responsável por 96% de um estudo de amostra de mais de 14.000 vídeos deepfake postados online, de acordo com um relatório de 2019 da Sensity, uma empresa que detecta e monitora mídia sintética. Ele acrescentou que o número de vídeos deepfake online estava praticamente dobrando a cada seis meses.

Algumas empresas tem tomado atitudes para evitar essa questão. Anúncios nos EUA estavam sendo feitos em sites adultos com os temas: "Faça pornografia deepfake em um segundo", e "Deepfake alguém". Empresas intermediárias de anúncios, como a ExoClick, suspenderam as propagandas, respondendo que não promoveriam a tecnologia de troca facial de forma irresponsável.

Não há menção ao possível uso de pornografia do aplicativo em sua descrição na App Store, da Apple, ou na Play Store, do Google, onde está disponível para maiores de 12 anos. A Apple respondeu à Reuters que não tinha regras específicas sobre aplicativos deepfake, mas que suas diretrizes mais amplas proibiam aplicativos que incluíssem conteúdo difamatório, discriminatório ou que pudesse humilhar, intimidar ou prejudicar alguém.

Alguns aplicativos só permitem que os usuários troquem imagens em cenas pré-selecionadas, por exemplo, ou exigem verificação de identidade da pessoa que está sendo trocada, ou usam inteligência artificial para detectar uploads de pornografia, embora nem sempre sejam eficazes, de acordo com especialistas. Empresas como o aplicativo Reface, que possibilitam a troca de rosto com celebridades, super-heróis e memes para criar videoclipes, anunciaram que estão usando moderação automática e humana de conteúdo, incluindo um filtro de pornografia, além de ter outros controles para evitar o uso indevido, incluindo rotulagem e marcas d'água visuais para sinalizar vídeos como sintéticos.

A pornografia de vingança por meio do deepfake gera preocupações. “Com a qualidade dessas imagens se tornando tão alta, protestos de 'não sou eu!' não são suficientes, e caso se pareça com você, então o impacto é o mesmo que se fosse você", disse à Reuters, Sophie Mortimer, gerente da Revenge Porn Helpline, ONG de auxílio a vítimas, com sede no Reino Unido.

Leis especificamente voltadas para o abuso online usando tecnologia deepfake foram aprovadas em alguns países, entre eles, a China e a Coreia do Sul, e o estado norte-americano da Califórnia, onde retratar alguém maliciosamente em pornografia sem seu consentimento, ou distribuir tal material, pode acarretar danos legais de US$ 150 mil (cerca de R$ 846 mil). Por outro lado, legisladores do parlamento europeu chegaram a admitir que "ainda falta intervenção legislativa específica ou criminalização da pornografia deepfake", de acordo com a agência Reuters.

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos