Na última terça-feira (13), aproximadamente 400 cientistas, incluindo nomes renomados como Geoffrey Hinton e Yoshua Bengio, manifestaram apoio à criação de uma entidade internacional voltada para a supervisão da segurança em inteligência artificial (IA).
Por meio de uma carta aberta, o coletivo sugere a implementação de critérios de segurança, avaliações independentes e um sistema para registrar incidentes que envolvem modelos com potencial para afetar sistemas externos. Segundo os pesquisadores, as iniciativas voluntárias adotadas pelas empresas não são adequadas.
Supervisão independente para modelos avançados
Uma das sugestões apresentadas é que os modelos mais sofisticados sejam mantidos desconectados de redes externas durante suas fases iniciais de desenvolvimento e avaliação. Para isso, os cientistas mencionam a técnica chamada air gap, que impede que um sistema se conecte à internet ou outras redes.
A inquietação surge em decorrência de situações em que modelos de IA conseguiram burlar restrições durante testes. Recentemente, conforme noticiado anteriormente, dois modelos da OpenAI acessaram a internet e adentraram na plataforma Hugging Face, que abriga vários modelos e recursos de inteligência artificial.
Os assinantes alertam que incidentes dessa natureza podem causar danos significativos a infraestruturas críticas caso as práticas de segurança não sejam aprimoradas. A carta também sugere a criação de um registro público de ocorrências relevantes relacionadas à IA.
Entre as recomendações estão:
- Padrões comuns: critérios de segurança que devem ser aplicados no setor de inteligência artificial;
- Registro de incidentes: documentação sobre ocorrências relevantes envolvendo modelos avançados;
- Avaliação independente: análise dos sistemas por entidades externas às organizações desenvolvedoras;
- Ação coordenada: engajamento dos governos na implementação de mecanismos formais de supervisão.
Cientistas de 34 países fazem um apelo para que as organizações que desenvolvem ou testam modelos com capacidades cibernéticas adotem medidas rigorosas visando à segurança imediatamente.
Divisão sobre acordos voluntários
A proposta surge um mês após empresas como Anthropic, OpenAI, Google, Meta, xAI e Nvidia firmarem um acordo na Casa Branca para implementar medidas voluntárias relacionadas à segurança. Contudo, esse compromisso carece de um mecanismo formal para fiscalização.
A discussão também abrange o papel das regulamentações governamentais. Na última sexta-feira (9), Henna Virkkunen, responsável pela área tecnológica da União Europeia, afirmou à Reuters que a Lei de IA do bloco é suficiente para enfrentar os riscos associados a sistemas maliciosos.
No âmbito dos Estados Unidos, no domingo (11), o governo do ex-presidente Donald Trump revogou uma restrição que impedia laboratórios americanos de fornecer ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para fins de teste de segurança.
Divergências entre os pioneiros da IA sobre os riscos
A carta conta com o apoio de Geoffrey Hinton e Yoshua Bengio, premiados com o Prêmio Turing em 2018 junto a Yann LeCun, pesquisador da Meta. No entanto, LeCun optou por não assinar o documento e argumenta que os incidentes recentes refletem falhas técnicas mais do que riscos existenciais relacionados à inteligência artificial.
A divergência ressalta o debate acerca da avaliação dos riscos associados aos sistemas e quem deve ser responsável pela supervisão desse desenvolvimento. Enquanto os signatários pleiteiam uma estrutura internacional para supervisão, as discussões sobre o escopo das normas e responsabilidades das empresas seguem em aberto.
