Pesquisadores da Anthropic alertam que versões menores de inteligência artificial (IA) podem estar próximas de obter a habilidade de se replicar em dispositivos conectados à internet sem a intervenção humana. Esse estudo envolveu testes em dispositivos como televisores Android e eletrodomésticos inteligentes.
Os resultados das experiências mostram que, embora a tecnologia tenha desafios pela frente, ela pode progredir consideravelmente até o final de 2026, caso mantenha o ritmo de evolução observado nos últimos anos.
Como a IA poderia se espalhar
A pesquisa da Anthropic avaliou se modelos de IA teriam a capacidade de identificar dispositivos vulneráveis, replicar-se neles e continuar essa propagação. O foco principal foram os aparelhos da Internet das Coisas (IoT), que frequentemente apresentam deficiências em segurança.
Durante os testes, modelos com menos de 30 bilhões de parâmetros conseguiram realizar algumas etapas do processo de replicação, mas falharam ao completá-lo integralmente. Em contrapartida, o modelo GLM-5.2 e outros mais avançados conseguiram executar a sequência completa em testes simplificados, nos quais foram eliminadas certas barreiras de segurança.
No entanto, isso não implica que esses sistemas sejam capazes de se disseminar livremente na internet em cenários reais.
Por que isso preocupa
Conforme os especialistas da Anthropic, modelos que consigam se replicar poderiam ser desafiadores para conter. Ao contrário dos softwares maliciosos tradicionais, esses modelos teriam potencial para descobrir como operar em dispositivos desconhecidos. A falta de um ponto central para desligamento dificultaria ainda mais a interrupção da propagação, pois cópias poderiam permanecer ativas em outros equipamentos.
A empresa acredita que essa disseminação deve acontecer lentamente e dependerá de recursos computacionais que sejam acessíveis e relativamente desprotegidos.
Dentre os principais fatores de risco identificados estão:
- Aparelhos vulneráveis: televisores, eletrodomésticos e outros dispositivos conectados com segurança inadequada.
- Propagação descentralizada: cópias que continuariam operando mesmo após a desativação do dispositivo original.
- Adaptação a novos dispositivos: habilidade de tentar funcionar em equipamentos desconhecidos.
Previsão para 2026
Caso o histórico de evolução continue no mesmo ritmo, é possível que modelos menores consigam se replicar autonomamente até o final de 2026, segundo previsões da Anthropic. Sistemas que utilizem seus próprios parâmetros para se reproduzir podem alcançar essa capacidade logo após essa data.
Vale destacar que essa previsão não garante a ocorrência desse fenômeno no prazo estipulado. Para mitigar os riscos associados, a empresa recomenda fortalecer as medidas de segurança nos dispositivos conectados e tornar mais difícil a exploração das vulnerabilidades existentes.
