Com o avanço da automação nas empresas, a segurança cibernética enfrenta um novo desafio: gerenciar redes corporativas onde agentes de inteligência artificial (IA) interagem e tomam decisões sem supervisão humana. Para prevenir que erros se propaguem em cascata, especialistas sugerem que cada agente seja considerado uma “identidade não humana”. Isso implica em fornecer credenciais exclusivas para cada algoritmo, garantir permissões mínimas de acesso e assegurar rastreabilidade completa de suas ações dentro dos sistemas da empresa.

Entretanto, para que a prevenção de falhas em larga escala seja eficaz, é crucial contar com um sistema de “botão de emergência”, conhecido como kill switch. Nathalia Carmo, especialista em cibersegurança e COO da IAM Brasil, destaca em uma entrevista que esse mecanismo deve ser capaz de “desligar a IA da tomada”. Contudo, sua atuação deve acontecer na camada onde as instruções são executadas. Na prática, isso envolve a capacidade de bloquear APIs, revogar credenciais e interromper conexões em tempo real assim que comportamentos anômalos forem detectados na rede.

Como as empresas devem rastrear agentes em rede para conter o ‘efeito manada’ da IA

A pressa por um controle mais rigoroso se justifica pelo fato de que o ambiente empresarial atual não se limita mais ao uso isolado de IAs. Atualmente, diversos sistemas interagem entre si, utilizando dados corporativos e realizando tarefas em sequência. Assim, monitorar apenas o software central já não é suficiente para mitigar riscos nos sistemas das organizações.

Para fortalecer a segurança contra vulnerabilidades, a solução técnica proposta é estabelecer regras e atribuições específicas a cada programa autônomo. Nathalia explica: “A empresa precisa ser capaz de responder instantaneamente: qual agente iniciou determinada ação, com quais outros agentes ele interagiu, quais dados foram acessados, que ferramentas ou APIs foram utilizadas e, principalmente, qual identidade autorizou efetivamente aquela execução.”

A importância dessa vigilância foi evidenciada por um estudo recente publicado na revista Science Advances, que mostrou que quando centenas ou milhares de robôs de IA interagem em rede, eles tendem a seguir a maioria e chegam a consensos sozinhos. Esse fenômeno conhecido como “efeito manada” pode resultar em decisões erradas que se espalham rapidamente por toda a infraestrutura da empresa.

Para evitar que essa reação em cadeia cause danos significativos, os controles de cibersegurança devem monitorar o comportamento do ecossistema inteiro em tempo real. Isso requer o uso de ferramentas de telemetria para detectar anomalias, como um aumento súbito nas chamadas API ou ações sincronizadas entre múltiplos robôs. O objetivo é identificar mudanças no padrão do grupo antes que decisões equivocadas sejam consolidadas.

Por fim, é fundamental compreender que uma rede composta por algoritmos pode levar à realização de ações coletivas sem que um único agente seja diretamente responsabilizado. Para Nathalia Carmo, a solução passa por permitir que os algoritmos analisem cenários livremente, mas com restrições no momento da implementação das decisões. “Em outras palavras, podemos conceder autonomia aos agentes para decidir dentro de limites estabelecidos; no entanto, eles nunca devem ter liberdade total para executar ações sem supervisão,” conclui a executiva.

Deseja saber mais sobre a pesquisa relacionada ao “efeito manada” entre agentes de IA? Confira esta matéria especial.

O post O ‘botão de emergência’ que empresas vão precisar para segurar IAs apareceu primeiro aqui.