Os emojis de cenoura que escondem mensagens antivacinas nas redes sociais

Ilustração de vacina misturada com cenoura
Ilustração de vacina misturada com cenoura

Grupos do Facebook estão usando o emoji de cenoura para ocultar conteúdo antivacina das ferramentas de moderação automatizadas.

A BBC viu vários grupos, um deles com centenas de milhares de membros, nos quais o emoji aparece no lugar da palavra "vacina".

Os algoritmos do Facebook tendem a se concentrar em palavras, em vez de imagens.

Os grupos estão sendo usados ​​para compartilhar relatos não confirmados de pessoas que teriam ficado com sequelas ou sido até mortas por vacinas.

Após a BBC entrar em contato com a Meta, empresa dona do Facebook, os grupos foram removidos.

"Removemos este grupo por violar nossas políticas relacionadas à desinformação prejudicial e avaliaremos qualquer outro conteúdo semelhante de acordo com esta política. Continuamos trabalhando em estreita colaboração com especialistas em saúde pública e o governo do Reino Unido para combater ainda mais a desinformação sobre a vacina contra covid", declarou a empresa em um comunicado.

Mas os grupos reapareceram desde então em nossas buscas.

Um grupo que vimos existe há três anos, mas mudou de nome em agosto de 2022 para se concentrar em histórias sobre vacinas — antes era um grupo para compartilhar "brincadeiras, apostas e vídeos engraçados".

As regras do grupo maior afirmam: "Use palavras de código para tudo". E acrescenta: "Nunca use a palavra com 'c', a palavra com 'v' ou a palavra com 'r' (covid, vacina, reforço, respectivamente)". Foi criado há mais de um ano e tem mais de 250 mil membros.

Marc Owen-Jones, pesquisador de desinformação e professor associado da Universidade Hamad Bin Khalifa, no Catar, foi convidado a participar da observação.

"Eram pessoas dando relatos de parentes que morreram logo após tomarem a vacina contra covid-19", diz ele.

"Mas em vez de usar as palavras 'covid-19' ou 'vacina', eles estavam usando emojis de cenoura."

"Inicialmente, eu fiquei um pouco confuso. Até que a ficha caiu — (os emojis) estavam sendo usados como uma forma de escapar, ou aparentemente de escapar, dos algoritmos de detecção de notícias falsas do Facebook."

Risco moderado

Em 2021, dados do Escritório de Estatísticas Nacionais do Reino Unido sugeriram que havia um risco de um em cinco milhões de morrer em decorrência da vacina contra covid-19, em comparação com um risco de 35 mil mortes por cinco milhões de morrer da doença em si, sem a vacina.

As grandes empresas de tecnologia usam algoritmos para vasculhar suas plataformas em busca de conteúdo nocivo — mas eles são treinados principalmente com base em palavras e texto, escreveu Hannah Rose Kirk em um blog para o Oxford Internet Institute.

Rose Kirk fez parte de uma equipe de pesquisa que criou uma ferramenta chamada HatemojiCheck: um check-list para identificar áreas em que os sistemas de inteligência artificial não lidam muito bem com o abuso baseado em emojis.

"Apesar de ter uma compreensão impressionante de como a linguagem funciona, os modelos de linguagem de inteligência artificial viram muito pouco emoji", diz ela.

"Eles são treinados com base em uma coletânea de livros, artigos e sites, até mesmo na totalidade da Wikipédia em inglês, mas esses textos raramente apresentam emoji".

Emojis e racismo

As plataformas já foram criticadas por não bloquear ou remover emojis de macacos e bananas quando postados como gesto racista nas contas de jogadores de futebol negros.

Se o projeto de lei de segurança online entrar em vigor no Reino Unido, as grandes empresas de tecnologia vão enfrentar penalidades severas por não identificar e remover rapidamente conteúdo prejudicial em suas plataformas.

Mas há preocupações de que as ferramentas atualmente em uso não sejam boas o suficiente para lidar com o grande volume de conteúdo postado — e com as nuances e diferenças culturais que podem obscurecer o significado.

Escondendo-se à vista de todos

Os emojis podem ter vários significados, além do que for declarado oficialmente pelo Unicode, o consórcio que os gerencia.

A Agência de Combate às Drogas dos EUA divulgou um pôster demonstrando como os emojis podem ser usados ​​para discutir drogas ilegais.

"É uma forma moderna de esteganografia: escrever e esconder uma mensagem à vista de todos, mas de tal forma que, a menos que você saiba para onde olhar, não a vê", explica o professor Alan Woodward, especialista em segurança cibernética da Universidade de Surrey, no Reino Unido.

"O que tudo isso demonstra é a inutilidade de tentar automatizar a moderação de conteúdo para evitar o compartilhamento de material 'prejudicial'", diz ele.

"Na melhor das hipóteses, você estará 'enxugando gelo' enquanto as pessoas desenvolvem novos dialetos com os quais se comunicar."

O Facebook disse no ano passado que havia removido mais de 20 milhões de conteúdos contendo desinformação sobre a covid-19 ou a vacina desde o início da pandemia.

A empresa também diz que remove conteúdos que alegam que as vacinas em geral são mais perigosas do que a doença contra a qual protegem ou que são tóxicas.

O presidente dos EUA, Joe Biden, criticou as gigantes da tecnologia por não fazerem o suficiente para combater a disseminação de desinformação sobre as vacinas online.

Ele disse esperar que o Facebook faça mais para combater "a desinformação ultrajante" sobre as vacinas contra o coronavírus que estão sendo espalhadas em sua plataforma.

- Este texto foi publicado em https://www.bbc.com/portuguese/geral-62926020

Sabia que a BBC está também no Telegram? Inscreva-se no canal.

Já assistiu aos nossos novos vídeos no YouTube? Inscreva-se no nosso canal!