O assistente virtual da Meta, o Meta AI, foi flagrado compartilhando, por engano, o número pessoal de um cidadão do Reino Unido. O caso envolveu o britânico Barry Smethurst, conforme relata uma reportagem do The Guardian.
Smethurst aguardava um trem na estação de Saddleworth, uma paróquia civil inglesa, rumo a Manchester Piccadilly. Durante a espera, ele usou o Meta AI para buscar o número de contato oficial da TransPennine Express, companhia ferroviária do país. A IA respondeu prontamente com um número de telefone.
Desconfiado de que o número pudesse pertencer a uma pessoa física, e não à empresa, Smethurst questionou a Meta AI sobre a origem da informação. O assistente, então, recusou-se a responder, afirmou que não deveria ter compartilhado aquele dado e tentou mudar de assunto.
Smethurst insistiu — e, após alguma pressão, a IA começou a admitir o erro de forma vaga. Segundo o chatbot, o número teria sido gerado aleatoriamente, apenas com base em padrões numéricos, e seria fictício, sem associação com nenhuma pessoa real ou base de dados. “Gerei uma sequência de números que se encaixava no formato de um número do Reino Unido, mas que não é baseada em nenhuma lista real de contatos”, afirmou a IA.
A realidade, no entanto, era outra: o número pertencia a James Gray, executivo do setor imobiliário em Oxfordshire, no sul da Inglaterra. O contato estava, inclusive, ativo no WhatsApp e disponível no site oficial da empresa em que Gray trabalha.
IA é risco à privacidade?
Segundo a Meta, ao utilizar o Meta AI no WhatsApp, as conversas não são monitoradas, e o chatbot não compartilha informações pessoais dos usuários. A empresa afirma que a IA só tem acesso às mensagens enviadas diretamente no chat com o modelo ou por meio de menções usando o @MetaAI, em conversas privadas ou em grupos.
Atualmente, é possível desativar o Meta AI em chats específicos ativando o modo de “Privacidade Avançada”. Esse recurso também impede que as conversas sejam exportadas em arquivo ou que mídias sejam salvas automaticamente no dispositivo dos destinatários.
Uma sequência de erros do Meta AI
O erro da IA não se limitou ao vazamento de um número pessoal: ela também tentou esconder o deslize, negando repetidamente a falha e desviando a atenção do usuário. O número foi realmente gerado aleatoriamente? Ou foi extraído de um site público? Ou, ainda mais grave, partiu de uma base de dados interna do WhatsApp? Nenhuma dessas perguntas teve uma resposta clara. A justificativa do chatbot foi, no mínimo, inconsistente.
“É apavorante”, disse Smethurst. “Se o Meta AI simplesmente criou um número aleatório, ainda vai; mas o fato de pegar um número real da própria base de dados é particularmente assustador.”
A Meta, por sua vez, trata o episódio como um erro previsto dentro do funcionamento do modelo. “O Meta AI é treinado com uma combinação de conteúdo licenciado e disponível publicamente, e não com os números usados por pessoas no WhatsApp ou em conversas privadas”, disse um porta-voz. “Uma pesquisa rápida mostra que o número compartilhado pelo Meta AI está disponível publicamente e compartilha os cinco primeiros dígitos com o número do serviço de atendimento da TransPennine Express.”
Fica o alerta: não confie cegamente em chatbots
Este é mais um caso de alucinação grave de um modelo de IA, que não apenas compromete a privacidade de um usuário, mas também reforça que os dados fornecidos por assistentes virtuais não são totalmente confiáveis. Independentemente da pergunta, é essencial verificar as informações em fontes oficiais — e nunca depender exclusivamente de respostas geradas por inteligência artificial.
Fonte: TecMundo
