'Alexa, Siri, quem comprou isso que não pedi?' Assistentes virtuais surpreendem com encomendas não pedidas

Quem achou que num futuro próximo estaríamos conversando com máquinas, acertou em cheio. Assistentes virtuais como a Alexa, da Amazon, a Siri, da Apple, e o Google Assistant popularizaram-se e cada dia ganham novas funções que vão muito além de acionar a playlist preferida, acender ou pagar a luz, informar as notícias do dia ou a previsão do tempo.

A praticidade do comando de voz já é usada por muitos consumidores na hora de fazer pesquisa de preços e até compras. O problema é quando a assistente virtual usa sua inteligência artificial e decide fazer encomendas por conta própria. (Veja no fim desta reportagem como evitar isso)

'Fui despedido por um robô': Como a Amazon deixa máquinas decidirem o destino dos trabalhadores

'Alexa, faça o supermercado': Compras por comando de voz já são a nova fronteira do comércio eletrônico

Quando a empresária Alana Villela, de 37 anos, mudou-se do Rio para São Paulo, decidiu pedir ajuda à Siri para organizar as compras para o novo endereço. Não podia imaginar que, dois meses depois, a assistente do smartphone repetiria o pedido a seu bel-prazer.

O resultado, diz, foi uma conta extra de R$897,50 com a compra repetida de pratos, copos e outros apetrechos para o enxoval da casa, na fatura de junho do cartão.

Duas semanas depois, mais uma surpresa: a compra de uma passagem de avião para o Rio, por R$550. Alana só soube no dia do voo, quando recebeu notificação da companhia aérea para o check-in e já estava no Rio. Com o cartão de crédito estourado, ela conta que desativou a assistente virtual para evitar mais prejuízos.

'Quintou': Que tal trabalhar só quatro dias na semana? Veja empresas brasileiras começam a seguir essa tendência

— A Siri tem acesso aos meus dados e comprou de forma automática, sem eu solicitar. Acredito que tenha comprado por assimilação, já que há dois meses eu havia feito o mesmo pedido por comando de voz. O primeiro pedido consegui cancelar, a passagem ainda estou tentando resolver com a Gol. Algo que era para facilitar a vida acabou dificultando ainda mais — reclama Alana, que diz não ter tido retorno da Apple sobre a possível falha na assistente.

Procurada, a Gol disse estar apurando o que aconteceu para resolver o caso. Já a Apple destacou que todos os canais da empresa no Brasil podem ser acessados no site da empresa, mas não comentou sobre a possível falha da assistente.

Dono de duas Alexas, uma TV Smart, tablet e smartphone de última geração, o estrategista digital Luan Vieira, de 25 anos, vive numa casa totalmente conectada, nos Jardins, em São Paulo. A paixão por tecnologia o levou a usar a assistente virtual para compras. Um hábito que deixou de lado depois que, em janeiro do ano passado após uma compra indevida.

Você é o produto: Veja como seus dados pessoais são coletados e usados pelas 'big techs'

Ele diz que, após uma breve pesquisa sobre aplicativos de streaming, a Alexa — ao confundir a solicitação — assinou um pacote de TV anual de R$279,90. Ele conta que recorreu ao banco e conseguiu contestar a cobrança:

— Fiquei receoso de fazer compras virtuais via Alexa depois disso. Reprogramei-a para que fique conectada apenas no meu Spotify. Desse jeito não corro o risco.

Erro de compreensão

O estrategista digital reclama ainda do manual de instrução da assistente virtual que, segundo ele, não alerta para o risco desse tipo de problema e não explica como resolvê-lo:

— Quando o erro aconteceu, tive que buscar na internet o que fazer. Não tinha nada explicando sobre isso no manual de instrução. E até hoje não tive retorno da Amazon.

Na pandemia: Empresas usam apps e assistentes virtuais para monitorar humor e saúde dos funcionários

A Amazon não comentou sobre a falha apontada por Vieira. A empresa ressaltou, no entanto, o crescimento no número de skills (funcionalidades) adicionadas à Alexa. Hoje existem mais de duas mil skills em português em categorias como jogos, notícias, produtividade, saúde, entre outras.

O Google informou que a assistente virtual da plataforma não oferece, no Brasil, a função de compra direta pelo aparelho. O Google Assistente, no entanto, pode ser usado para direcionar o usuário para site ou app de terceiros. A compra é sempre concluída pelo canal externo, explica a empresa.

'Alexa, conte uma história': Assistente virtual da Amazon já pode ler para o seu filho

Uma pesquisa recente elaborada pelo grupo americano de investimento Loup Ventures mostrou que as assistentes virtuais não compreendem parte dos comandos. Em um teste de 800 perguntas, a Google Assistant respondeu 88% das consultas; já a Siri, 75%; e a Alexa, 72%.

Para o especialista em segurança digital do Instituto de Tecnologia e Sociedade (ITS) Lucas Cabral, o resultado da pesquisa pode ser uma pista para as compras indevidas:

— A inteligência artificial é programada para reconhecer a voz de acordo com cada idioma. No entanto, ao passar constantemente por atualizações, pode não reconhecer determinados verbos e predicados na hora em que o usuário formula uma frase ou um pedido.

Alexa: Veja os detalhes íntimos que a Amazon coleta com assistente de voz

Para o advogado Danilo Doneda, integrante do Conselho Nacional de Privacidade e Proteção de Dados do Brasil, quando as assistentes virtuais passam a tomar decisões por conta própria, fica clara a necessidade de reforçar sistemas de segurança dos dispositivos:

— As assistentes virtuais presumem o que a pessoa deseja. Elas escutam o que os usuários estão falando e estudam o comportamento. Parece-me perigoso fazerem compras sem autorização. Isso demonstra que é preciso reforçar a segurança de dados. A partir do momento em que as empresas coloquem serviços de IA (inteligência artificial) no mercado e há algum tipo de falha é preciso que deem um retorno imediato à sociedade.

Termos de uso

Cabral pondera que os usuários também precisam aprender a fazer uso correto da tecnologia. Ele acredita que muitos dos problemas ocorrem porque as pessoas aceitam “termos de uso” em sites de navegação, muitas vezes, sem ler. Dessa forma, diz, a assistente virtual entende que a compra ou a contratação de um determinado produto ou serviço pode ser feita já que não foi acionada nenhuma trava.

— Sempre vai existir um algoritmo para fazer qualquer coisa no mundo. É preciso muito cuidado para fazer bom uso do produto. A tecnologia ajuda, mas, quando utilizada de forma incorreta, não.

Veja: Amazon e Google são investigadas no Reino Unido por não coibirem avaliações falsas de produtos e serviços

Doneda destaca, no entanto, que, se for identificada falha nas assistentes virtuais em função de projeto ou desenho da inteligência artificial, pelo direito do consumidor, a responsabilidade é do fabricante.

Saiba como configurar restrição a compras nas assistentes

Siri: Basta acessar “Ajustes” na tela de menu do celular. Clique em “Siri e Busca”, depois em “Impedir que a Siri responda ao comando de voz”. No comando “E aí Siri”, desative “Ouvir ‘E aí Siri’”. Para impedir o acesso à Siri quando o iPhone estiver bloqueado, desative “Permitir Quando Bloqueado”. Caso queria controlar quais apps podem interagir com a Siri, acesse “Ajustes”, “Siri e Busca”, inclua o nome do app e vá em “Pedir à Siri”. Também é possível restringir totalmente a capacidade de usar “Siri e Ditado”. Abra “Ajustes”, “Tempo de Uso”, “Restrições de Conteúdo e Privacidade”, “Apps Permitidos” e toque em “Siri e Ditado”.

Alexa: Basta acessar a sua conta na https://alexa.amazon.com/ ir na página "Configurações"depois em "Compras por voz" e ativar a opção de "Código por voz". Solicita um código de voz de 4 dígitos para confirmar compras e pagamentos.

Google Assistente: No smartphone ou tablet Android, diga "Ok Google, abra as configurações do Google Assistente". Em "Configurações mais usadas", toque em “Você Pagamentos. Ative ou desative a opção “Pagar com o assistente". Ative ou desative as opções “Confirmar com impressão digital ou rosto" e “Confirmar com o Voice Match".

*Estagiária sob supervisão de Luciana Casemiro

Nosso objetivo é criar um lugar seguro e atraente onde usuários possam se conectar uns com os outros baseados em interesses e paixões. Para melhorar a experiência de participantes da comunidade, estamos suspendendo temporariamente os comentários de artigos