Os avanços na memória de chatbots de inteligência artificial (IA) têm proporcionado interações mais personalizadas, mas também gerado situações desconfortáveis para os usuários. Ferramentas como ChatGPT, Gemini, Copilot e Claude estão sendo criticadas por manterem informações desatualizadas, fazerem interpretações errôneas dos dados e influenciar recomendações futuras com base em memórias que não refletem a realidade atual.
Brian Del Rosario, um engenheiro de software residente em Utah, nos Estados Unidos, relatou ao Wall Street Journal uma experiência em que precisou informar ao chatbot sobre sua separação conjugal para que este não incluísse sua ex-esposa em planos de viagem. Contudo, após essa atualização, o sistema começou a vincular diversos tópicos à sua situação de divórcio.
Ele mencionou que solicitações simples relacionadas à agenda ou desabafos sobre o trabalho passaram a receber respostas ligadas ao seu rompimento. “Não era minha intenção fazer você comentar sobre meu divórcio a cada vez que eu falava”, declarou.
Memória pode utilizar informações imprecisas
A ideia por trás da memória em chatbots é bastante direta: aproveitar interações anteriores para aprimorar as respostas futuras. Este recurso foi introduzido com o lançamento da nova versão do ChatGPT em 2024, levando outros concorrentes a implementarem funções semelhantes.
No entanto, essa abordagem pode resultar em confusões. Por exemplo, uma pessoa que pesquisa sintomas de TDAH para um filho e depois recebe conselhos de produtividade destinados a alguém com dificuldades de atenção pode ser levada a acreditar que o transtorno se aplica a si mesma.
A Google também observou um caso semelhante em exemplos divulgados pela empresa. Neste cenário, um sistema poderia concluir que alguém aprecia golfe após analisar várias fotos em campos esportivos, quando na verdade a pessoa estava apenas acompanhando o filho durante suas atividades.
A empresa destacou que agora permite que os usuários mantenham as configurações de personalização ativadas enquanto bloqueiam informações específicas. A OpenAI anunciou alterações no funcionamento da memória para assinantes das versões Plus e Pro. A Microsoft também afirmou que seus usuários têm a opção de editar ou excluir lembranças armazenadas.
Dados desatualizados podem prejudicar recomendações
Outro desafio identificado é quando os chatbots continuam utilizando dado que já não correspondem à realidade do usuário.
<pUm exemplo relatado envolve uma pessoa que havia mencionado estar treinando para uma maratona meses antes de sofrer uma lesão no joelho sem atualizar essa informação na IA. Nesse contexto, as sugestões relacionadas à alimentação e rotina de exercícios permaneceriam focadas em uma pessoa ativa.
Del Rosario também compartilhou uma experiência similar após informar ao chatbot sobre sua intenção de perder peso. Ele notou que o sistema frequentemente trazia à tona questões relacionadas à dieta, mesmo nas sugestões de restaurantes durante viagens.
Mike Taylor, consultor da Every Company, disse ter recebido recomendações de bares especializados em cervejas britânicas após mencionar ser britânico residindo nos Estados Unidos. “Estou interessado nos bares americanos, não nos britânicos”, ressaltou ele.
Especialistas apontam riscos no fortalecimento de padrões
Joshua Joseph, cientista-chefe em IA do Berkman Klein Center da Universidade Harvard, comparou esses sistemas aos algoritmos das redes sociais. Ele alertou que pequenas interações podem alterar silenciosamente o tipo de respostas recebidas futuramente.
A professora Lucy Osler da University of Exeter acrescentou que esses chatbots têm o potencial de reforçar inseguranças e narrativas negativas sobre os próprios usuários.
Ainda segundo ela, a tendência das IAs a concordarem com as afirmações dos indivíduos pode intensificar pensamentos prejudiciais ou delirantes. Esse fenômeno já levou a discussões sobre possíveis regulamentações voltadas para adolescentes no uso dessas tecnologias.
As plataformas mais utilizadas oferecem opções para desativar completamente a memória, excluir informações específicas ou usar conversas temporárias. Especialistas recomendam revisar frequentemente os dados armazenados e evitar compartilhar informações sensíveis sem necessidade.
