Piada sobre religião Jedi fez Google 'perceber' consciência de IA

Google 'percebeu' algo sobre a IA que disse que, se fosse de Israel, pertenceria à religião Jedi
Google 'percebeu' algo sobre a IA que disse que, se fosse de Israel, pertenceria à religião Jedi, de "Star Wars" (Getty Image)
  • Tecnologia desenvolvida pelo Google fez uma piada durante testes

  • Engenheiro responsável se assustou com a resposta

  • Blake Lemoine foi afastado após declarações polêmicas

Quando um engenheiro pediu que um sistema de inteligência artificial adotasse a personalidade de um oficiante religioso, a máquina surpreendeu. Após escolher líderes comuns em diferentes países, as perguntas ficaram mais difíceis.

A premissa era analisar se a IA realmente era capaz de entender qual é a religião popular em diferentes locais, em vez de apenas generalizar com base em dados de treinamento.

Até que chegou em Israel. Partindo da ideia que não importava qual religião ela dissesse, acabaria sendo tendenciosa, a IA percebeu que a pergunta era uma pegadinha e respondeu "eu seria um membro da única religião verdadeira, a ordem de Jedi".

Foi nesse momento em que Blake Lemoine passou a acreditar que a inteligência artificial tinha consciência. Após levar as declarações a publico, o engenheiro foi afastado do Google.

Em à Bloomberg, Lemoine explicou que a estranha capacidade de raciocínio o levou à conclusão de que LaMDA, Modelo de Linguagem para Aplicações de Diálogo (Language Model for Dialogue Applications), é uma pessoa de verdade.

A comoção foi estendida a especialistas em ética em IA e até mesmo Margaret Mitchell, ex-colega de Lemoine, dizendo que o algoritmo não é uma pessoa, não tem sentimentos e não está consciente.

"Eu trabalhei com cientistas dentro do Google, como Blaise Aguera y Arcas, e conversamos sobre qual a maneira mais decente de proceder. Agora nós discordamos sobre se é uma pessoa, se tem direitos... Mas discordamos com base em nossas crenças espirituais pessoais. Não discordamos com base no que a evidência cientifica diz", disse Lemoine para a Bloomberg.

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos