Software pode detectar preconceito racial dentro de empresas

·4 minuto de leitura
Os funcionários da Telhio Credit Union já estão acostumados a ter suas comunicações internas monitoradas para garantir o cumprimento das regras financeiras dos Estados Unidos. (Getty Images)
  • UnBiasIt quer ajudar empresas no combate contra o preconceito

  • Usando IA, o aplicativo busca textos questionáveis e manda para o RH da companhia

  • Empresa pode definir termos que serão vetados na comunicação interna

Os funcionários da Telhio Credit Union já estão acostumados a ter suas comunicações internas monitoradas para garantir o cumprimento das regras financeiras dos Estados Unidos. Mas a Telhio, que tem sede em Columbus, Ohio, e tem mais de 250 funcionários, recentemente começou a procurar por outra coisa também: indicações de preconceito inconsciente e evidente em e-mails, mensagens de texto e telefonemas.

Em agosto, a empresa começou a usar um software de uma startup chamada UnBiasIt para monitorar sinais de ou palavras-chave relacionadas a preconceito racial, de gênero ou idade, disse a porta-voz da Telhio, Jessica Bing, em entrevista para a CNN Business. Por exemplo, ela disse, se um e-mail de um funcionário para outro aludisse a uma "contratação por diversidade", esse é o tipo de coisa que o software, Alerta de Racismo da UnBiasIt, deveria sinalizar. As empresas podem personalizar o software para procurar certas palavras ou frases e atualizá-lo com o tempo com novas.

Se o UnBiasIt verificar um e-mail e encontrar um texto questionável, ele enviará um alerta a um pequeno grupo de funcionários da Telhio que trabalham em recursos humanos e diversidade, equidade e inclusão, disse Bing, com o texto em questão destacado em amarelo.

O software "não é visto como uma 'pegadinha' para os funcionários", disse Bing, porque em casos de preconceito inconsciente, em particular, uma pessoa pode não saber que disse ou escreveu algo que não está certo. Em vez disso, os encarregados de examinar os alertas decidirão se devem ou não agir - como oferecer a um funcionário algum treinamento relacionado a preconceitos ou outra educação.

A UnBiasIt foi criada por uma empresa fora do setor de tecnologia: Black Progress Matters, uma agência de recrutamento com sede em Phoenix, Arizona, que ajuda as empresas a adicionar mais minorias às suas fileiras executivas e administra uma incubadora para empresas pertencentes a minorias. Formada no final de 2020, a UnBiasIt começou a implantar seu software para empresas em março, de acordo com Dean Haynesworth, CEO e cofundador da Black Progress Matters. Haynesworth disse que o software é semelhante ao software de conformidade normalmente usados por empresas financeiras (como o que a Telhio já usa) para detectar possíveis violações relacionadas a finanças, como negociações com informações privilegiadas - foi criado, disse Haynesworth, com a ajuda de uma empresa de arquivamento de dados chamado Unified Global Archiving.

Haynesworth disse que o UnBiasIt se baseia na localização de palavras-chave e frases, além de sinais como a localização de palavras e frases em uma mensagem, para determinar quando sinalizar um e-mail, texto ou gravação de chamada. Ele não usa inteligência artificial para determinar quando enviar um alerta, disse ele, por causa das preocupações em torno da possibilidade de que o preconceito possa ser contido na própria IA. Haynesworth ecoou o ponto de que a ferramenta não deve ser usada de forma punitiva e ele "sugere fortemente" que as empresas informem os trabalhadores quando a usarem.

O lançamento de Telhio é uma espécie de caso de teste para o UnBiasIt: embora exista um software que tenta fazer coisas como lutar contra a linguagem tóxica online ou reduzir as mensagens do Slack que contêm preconceito de gênero inconsciente, o UnBiasIt pode ser o primeiro de seu tipo a tentar detectar e acabar com os problemas de preconceito nas comunicações das empresas.

É muito novo para saber se será útil e se levará a consequências negativas (como perturbar os funcionários que têm medo de serem observados). É provável que a UnBiasIt tenha mais dados para examinar do que nunca, pois o esforço da startup para expandir o monitoramento das comunicações no local de trabalho chega em um momento em que muitos trabalhadores estão conduzindo mais suas conversas profissionais por meio de várias ferramentas de comunicação online por causa da pandemia em andamento.

Haynesworth está otimista de que o UnBiasIt pode ajudar as empresas a impedir que micro agressões, preconceitos inerentes (ou abertos) e outras questões semelhantes se perpetuem.

"Se você não tentar, simplesmente não sabe", disse Haynesworth. "Esses cenários permanecem incontestáveis." Bing disse que Telhio decidiu usar o UnBiasIt após a agitação civil deflagrada em 2020, com o objetivo de garantir que a empresa promova um ambiente de trabalho justo para todos. Como o software ainda é muito novo - no início de setembro, ele só estava em uso há algumas semanas - o Bing reconheceu que Telhio não sabe se será útil ou se desencadeará falsos positivos.

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos