Goldman Sachs é investigado por suposta discriminação de gênero do Apple Card

NOVA YORK — Autoridades americanas estão investigando o Goldman Sachs por suposta discriminação de gênero na concessão de crédito do Apple Card. A suspeita partiu de uma mensagem publicada por David Heinemeier Hansson — criador da plataforma de progamação Ruby on Rails — no Twitter, dizendo ter recebido limite de crédito 20 vezes maior que a sua esposa, apesar dela ter pontuação melhor que a dele.

A publicação de Hansson viralizou na rede social, com muitos outros internautas relatando o mesmo fato. Até mesmo o cofundador da Apple Steve Wozniak sofreu com o problema.

“Eu recebi dez vezes mais limite de crédito”, escreveu Wozniak, em seu perfil no Twitter. “Nós não temos contas bancárias, cartões de crédito ou bens separados. E é difícil conseguir uma correção feita por humanos. É a grande tecnologia em 2019”.

O Departamento de Serviços Financeiros do Estado de Nova York anunciou que irá abrir investigação para analisar se o banco está promovendo discriminação contra as mulheres. O Apple Card é uma joint venture entre a Apple e o Goldman Sachs, sendo que o banco é responsável pelas decisões de crédito do produto.

“O departamento vai conduzir uma investigação para determinar se as leis de Nova York foram violadas e garantir que todos os consumidores sejam tratados de maneira igualitária, independente do sexo”, afirmou um porta-voz de Linda Lacewell, superintendente do órgão. “Qualquer algoritmo, que intencionalmente ou não resulte em tratamento discriminatório contra mulheres ou qualquer outra classe de pessoas protegidas, viola as leis de Nova York”.

O porta-voz do Goldman Sachs Andrew Williams negou qualquer forma de discriminação, garantindo que as “decisões de crédito são baseadas na credibilidade do cliente, não em fatores como gênero, raça, idade, orientação sexual ou qualquer outra base proibida por lei”.

No Twitter, muitos clientes responderam à mensagem de Hansson, contando situações parecidas e revelando que no serviço de atendimento ao cliente eram informados que o banco não tinha ingerência sobre a decisão, que era tomada por algoritmos. Após a repercussão do caso, a esposa de Hansson teve o limite de crédito aumentado sem justificativa.

“Assim que se tornou um problema de relações públicas, eles aumentaram imediatamente o limite de crédito, sem pedir documentação adicional”, afirmou Hansson, em entrevista à Bloomberg. “Minha crença não é que exista uma pessoa nefasta querendo discriminar. Mas isso não importa. Como você sabe que não há um problema com o aprendizado de máquina quando ninguém pode explicar como essa decisão foi tomada?”.

Os algoritmos de inteligência artificial “aprendem” por uma técnica conhecida como aprendizado de máquina, que funciona, basicamente, como o aprendizado humana. As máquinas são repetidamente alimentadas com dados, em grandes quantidades, para assimilar padrões. Para identificar um cachorro numa imagem, por exemplo, ela é exposta a milhares de imagens de cachorro.

No caso de algoritmos de concessão de crédito, é provável que o sistema tenha sido alimentado com milhões de perfis de clientes, e, a partir dessa análise de dados, ele tenha identificado que mulheres recebem menos limite de crédito que homens.

Enviesamentos em algoritmos desse tipo não são raros. Um caso exemplar aconteceu com a Microsoft, que há três anos lançou a Tay, uma robô no Twitter criada para se desenvolver a partir da interação com outros usuários. Em um dia, ela aprendeu a escrever mensagens racistas e favoráveis ao nazismo, forçando o encerramento do experimento.