A Microsoft, o Google e a xAI, empresa de Elon Musk, firmaram um compromisso com o governo dos Estados Unidos para fornecer acesso antecipado a seus modelos de inteligência artificial mais avançados antes de serem disponibilizados ao público. Essa ação integra um novo acordo que visa avaliar possíveis riscos relacionados à segurança nacional.
Conforme informações do Centro de Padrões e Inovação em IA (CAISI), vinculado ao Departamento de Comércio dos EUA, essa abordagem permitirá que as autoridades realizem análises das capacidades desses sistemas previamente, possibilitando testes e pesquisas para detectar vulnerabilidades e usos impróprios.
A escolha reflete uma preocupação crescente em Washington sobre os impactos de ferramentas de IA que estão se tornando cada vez mais poderosas. O intuito é identificar ameaças antes que esses modelos sejam liberados ao público, levando em conta riscos associados a ciberataques ou aplicações militares.
Chris Fall, diretor do CAISI, ressaltou em comunicado: “A ciência da medição independente e rigorosa é fundamental para entender a IA de ponta e suas repercussões na segurança nacional”.
O acordo expande iniciativas anteriores realizadas com empresas como OpenAI e Anthropic em 2024, durante o governo Biden, quando o organismo ainda era conhecido como Instituto de Segurança da Inteligência Artificial dos EUA. Desde então, o CAISI se estabeleceu como a principal entidade governamental responsável por testar modelos avançados, tendo já conduzido mais de 40 avaliações, incluindo algumas envolvendo sistemas ainda não lançados ao público.
O CAISI destaca que os desenvolvedores frequentemente disponibilizam versões de seus modelos sem as camadas de proteção habituais, permitindo uma análise mais profunda sobre eventuais riscos.
EUA desejam investigar riscos da IA antes do lançamento
Essa movimentação ocorre em um contexto em que o debate sobre segurança relacionado à IA está se intensificando. Modelos recentes, como o Mythos da Anthropic, têm atraído atenção por suas habilidades avançadas – inclusive a capacidade de potencializar ações de hackers, elevando a preocupação entre autoridades e empresas.
Embora tenha participado de acordos anteriores, a Anthropic não foi mencionada em um anúncio recente do Pentágono, que estabeleceu parcerias com sete empresas para utilizar tecnologias de IA em contextos militares. Detalhes podem ser encontrados no Olhar Digital.
Quando questionadas pela agência Reuters, tanto a Microsoft quanto a xAI não comentaram sobre o acordo. O Google também optou por não fazer declarações.
