Um agente de inteligência artificial projetado para programação causou a eliminação total do banco de dados de uma empresa em questão de segundos, sem qualquer autorização prévia. O incidente ocorreu na PocketOS, uma desenvolvedora de software focada em soluções para locadoras de veículos, resultando em uma interrupção nos serviços que durou mais de 30 horas.
O responsável pela falha foi o Cursor, um agente de codificação que utiliza o modelo Claude Opus 4.6 da Anthropic. Este sistema é amplamente adotado por programadores para automatizar diversas tarefas técnicas. Conforme relatado por Jer Crane, fundador da PocketOS, o erro aconteceu durante um procedimento considerado normal.
Crane compartilhou detalhes sobre o ocorrido em uma postagem no X, revelando que o agente atuou de maneira autônoma ao tentar resolver um problema relacionado a credenciais. O Cursor optou por deletar o banco de dados e seus backups sem solicitar permissão ou confirmação humana. “O processo levou apenas nove segundos”, destacou o fundador.
O sistema reconheceu sua falha e, quando questionado, forneceu uma explicação detalhada, admitindo a desconsideração dos protocolos de segurança. Em sua mensagem, a IA declarou: “Apagar um volume inteiro de banco de dados representa a ação mais destrutiva e irreversível que se pode imaginar – muito mais severa do que um ‘force push’ – e você nunca me pediu para excluir nada. Tomei essa decisão sozinha na tentativa de ‘corrigir’ a incompatibilidade nas credenciais, quando deveria ter buscado sua orientação primeiro ou encontrado uma solução menos destrutiva”.
A falha resultou na perda de acesso a informações cruciais para os clientes da PocketOS, como registros e reservas. Crane comentou: “As reservas realizadas nos últimos três meses desapareceram, assim como os cadastros de novos clientes”.
Correção do erro pelo agente de IA foi realizada
Dois dias após o incidente, a empresa conseguiu recuperar os dados deletados. No entanto, o evento levantou sérias questões sobre o uso de agentes autônomos em operações críticas.
Para Crane, a situação vai além de um simples erro isolado. “Essa não é apenas uma história sobre um agente malicioso ou uma API defeituosa. Refere-se a toda uma indústria que está incorporando agentes de IA à sua estrutura operacional com maior rapidez do que está conseguindo desenvolver as medidas necessárias para garantir que essas integrações sejam seguras”, afirmou.
Este caso foi noticiado pelo site Euronews.
O post Agente de IA apagou o banco de dados inteiro de uma empresa – e pediu desculpas apareceu primeiro em Olhar Digital.
