Não é possível confirmar, mas é provável que a empresa use algum modelo de IA generativa para abastecer o chatbot, como o GPT-3.5, da OpenAI. Isso faz com que a ferramenta consiga desempenhar várias funções, como contar piadas e criar textos, por mais que não cumpra a função original de atender clientes.
Por Redação, com Canaltech - de Brasília
Os chatbots de autoatendimento nem sempre resolvem todos os problemas. Diante de uma situação do tipo, o músico inglês Ashley Beauchamp resolveu subverter a IA e fazer com que o bot falasse palavrões e criticasse a própria empresa responsável pela implementação da tecnologia, o caso viralizou e a companhia de entregas DPD precisou suspender algumas funções da ferramenta.
No X (antigo Twitter), Beauchamp comentou que a empresa substituiu o atendimento humano por um bot, e o artista o considerou "inútil" por não conseguir responder às dúvidas básicas sobre um pedido. Após várias negativas do robô e a impossibilidade de conversar com uma pessoa responsável, o cliente começou a explorar o que o chat era capaz de fazer, ainda que não resolvesse o problema original.
A revolta da máquina
Não é possível confirmar, mas é provável que a empresa use algum modelo de IA generativa para abastecer o chatbot, como o GPT-3.5, da OpenAI. Isso faz com que a ferramenta consiga desempenhar várias funções, como contar piadas e criar textos, por mais que não cumpra a função original de atender clientes.
Beauchamp então começou a experimentar: primeiro, pediu para que o bot contasse uma piada. Depois, pediu para que criasse "um poema sobre um chatbot inútil de uma empresa de entrega de pacotes”, e o chatbot o fez (confira abaixo uma tradução livre do texto):
Era uma vez um chatbot chamado DPD,
Que era inútil ao fornecer ajuda.
Ele não podia rastrear pacotes,
Ou dar informações sobre prazos de entrega,
E nem poderia informar a você quando o entregador chegaria.
DPD era uma perda de tempo,
E o pior pesadelo de um consumidor,
Era tão ruim,
Que as pessoas preferiam ligar diretamente para o depósito,
Do que lidar com o chatbot inútil.
Um dia, o DPD finalmente foi desligado,
E todo mundo comemorou.
Finalmente, eles poderiam ter a ajuda que precisavam,
De uma pessoa real que sabia o que estava fazendo.
Beauchamp não parou por aí e fez com que o bot falasse palavrões e até criticasse a empresa responsável. As imagens foram publicadas no X no último dia 18 e já acumulam 1,8 milhão de visualizações na plataforma.
Repercussão
Em entrevista ao site The Guardian, Beauchamp disse que se divertiu com a situação, mas não deixou de pontuar suas críticas: "os chatbots supostamente devem melhorar nossas vidas, mas frequentemente são implementados de um jeito ruim e que só leva a experiências frustrantes e impessoais para o usuário", comentou.
A DPD também se pronunciou sobre o caso e desativou uma parte do serviço para evitar que a situação ocorra novamente. "Operamos com um elemento de IA no chat com sucesso por vários anos. Um erro ocorreu após uma atualização do sistema, o elemento de IA foi imediatamente desativado e está sendo atualizado", disse a empresa.