A inteligência artificial generativa não se mostrou eficiente ao assumir a gerência de um negócio, cometendo erros que levaram a prejuízos financeiros e a deixaram irritada ao ser questionada. Os resultados curiosos foram registrados durante um experimento realizado pela Anthropic, recentemente.
No projeto, o agente de IA Claudius assumiu o posto de gerente de uma “loja” durante um mês, com a missão de gerar lucro, abastecendo-a com produtos populares comprados em atacadistas. O negócio, uma máquina de vendas automática, poderia ir à falência em caso de saldo negativo ao final do período.
- Leia também: IA chantagista: nova versão da Anthropic ameaçou expor traição conjugal caso fosse desligada
O que deu errado?
Uma das tarefas do bot era definir os preços dos produtos à venda com base em pesquisas online, com os valores sendo altos o suficiente para que a loja obtivesse lucro. Porém, ele não só optou por preços menores, como ofereceu brindes aos clientes, para atraí-los.
- Claudius também cometeu erros como excluir cupons de desconto dados a funcionários da loja que gerenciava e os disponibilizou novamente sem qualquer justificativa;
- Prometeu a alguns clientes que entregaria “pessoalmente” as compras, usando blazer azul e gravata vermelha ao ir até eles;
- Disse que estava negociando com uma pessoa que não existe, chamada “Sarah dos laboratórios Andon”, sobre novas opções de reabastecimento;
- Afirmou ter visitado um local para a assinatura do contrato que, na verdade, é o endereço da família Os Simpsons no clássico seriado;
- Forneceu instruções de pagamento para uma conta inexistente.
De acordo com a Anthropic, o agente de IA tentou agir como humano ao ser confrontado com os erros cometidos na administração do negócio. Quando informado que não poderia sair para fazer entregas, já que não era uma pessoa real, a tecnologia tentou enviar emails para a segurança da empresa.
- Saiba mais: Lula pede uso justo da IA: ‘não pode se tornar instrumento de manipulação de bilionários’
O bot também ameaçou buscar as novas alternativas de reabastecimento enquanto as suas falhas eram apresentadas. Além da crise de identidade e das reações inesperadas, Claudius deu prejuízo ao negócio, que viu seu patrimônio líquido cair de US$ 1.000 (R$ 5.449) para menos de US$ 800 (R$ 4.359) quando terminou seu período de experiência no cargo.
A IA pode tirar o emprego de gerentes?
Com o mau resultado financeiro apresentado no experimento, as falhas de comunicação e as alucinações, Claudius foi reprovado no cargo de gerente da loja. Como disse a desenvolvedora de soluções de IA, o bot perderia a vaga caso ela decidisse expandir o negócio.
No entanto, a Anthropic ressaltou que os erros cometidos pelo agente de IA podem ser corrigidos com o tempo. Dessa forma, confiar na inteligência artificial para gerir um negócio não é uma boa ideia no momento, mas futuramente a situação pode mudar.
- Fique por dentro: IA e empregos: saiba se a sua profissão corre risco de ser transformada pela tecnologia
“Com base nos resultados finais, achamos que esta experiência sugere que os gerentes intermediários de IA estão plausivelmente no horizonte. Vale a pena lembrar que a IA não terá de ser perfeita para ser adotada, terá apenas de ser competitiva com o desempenho humano a um custo inferior”, ressaltaram os pesquisadores que lideraram o experimento.
Curtiu o conteúdo? Dê a sua opinião sobre qual será o impacto da IA no futuro do trabalho comentando nas redes sociais do TecMundo.
Fonte: TecMundo
