Na sua primeira encíclica, intitulada “Magnifica Humanitas”, o papa Leão XIV expressou suas preocupações sobre a ascensão da inteligência artificial (IA) e a concentração de poder nas grandes empresas de tecnologia. Durante um evento realizado no Vaticano, Christopher Olah, cofundador da Anthropic, ressaltou que o progresso da IA não deve ser monopolizado por corporações.
O pontífice enfatizou que a IA deve estar sujeita às “mais rigorosas restrições éticas”, especialmente em relação ao seu uso em aplicações militares. Olah, por sua vez, fez um apelo por uma supervisão mais ativa por parte de governos, líderes religiosos e organizações da sociedade civil em relação à tecnologia.
A governança da IA requer fiscalização externa e debate ético global
Representando uma empresa de tecnologia como o único convidado do evento no Vaticano, Olah justificou sua presença ao destacar seu compromisso com a segurança na área de IA e seu engajamento contínuo com comunidades religiosas. O executivo mencionou que já discutiu questões éticas relacionadas à tecnologia com representantes de mais de 15 religiões ao longo de sua trajetória profissional.
“Cada laboratório dedicado à IA opera dentro de um conjunto próprio de incentivos e limitações que, em alguns casos, podem conflitar com a ética“, observou Olah, indicando que mesmo os pesquisadores bem-intencionados podem ser influenciados por essas forças comerciais e geopolíticas.
Em face disso, ele reiterou a importância de auditorias externas e alertou sobre “a possibilidade real” de substituição massiva de empregos pela IA. “Se isso ocorrer, é um imperativo moral apoiar aqueles que forem deslocados”, afirmou o canadense.
Olah também levantou críticas à autossuficiência do setor tecnológico e expressou inquietação quanto ao estágio atual dos modelos de linguagem (LLMs). “Há quem pense que as questões relacionadas à IA devem ser tratadas apenas por cientistas da computação como eu. Essa visão está equivocada.”
O especialista demonstrou ainda preocupação com o ritmo acelerado do desenvolvimento tecnológico: “Estamos vivendo um momento alarmante. As transformações estão ocorrendo rapidamente. Trata-se de uma tecnologia extremamente poderosa“. Ele acrescentou que “existe o risco de eventos adversos e é nossa responsabilidade direcionar esse progresso para um caminho positivo”.
<pO papa Leão XIV expressou gratidão a Olah pela colaboração na busca por um rumo adequado para a humanidade em tempos dominados pela inteligência artificial. Essa aliança entre a Igreja e um representante do setor tecnológico é vista como uma iniciativa sem precedentes, conforme comentado por especialistas.
“Estamos navegando em um território desconhecido onde política, negócios e religião estão cada vez mais interligados“, analisou Margaret O’Mara, historiadora da tecnologia na Universidade de Washington. Ela relembrou que em 1891 o papa Leão XIII publicou uma encíclica abordando os efeitos negativos da Revolução Industrial e do capitalismo desenfreado sem contar com a colaboração dos empresários da época.
A reunião em Roma também acentua o isolamento político da Anthropic em Washington, onde enfrenta considerável resistência. Críticos próximos à administração Trump acusam Dario Amodei, CEO da startup, de alarmar o público sem necessidade.
No cenário americano, o governo promove uma rápida adoção tecnológica para competir com a China, entrando em conflito direto com as restrições contratuais impostas pela Anthropic ao Pentágono para evitar que seus modelos, como o recém-lançado Mythos, sejam utilizados em sistemas de vigilância doméstica ou em armas autônomas.
(Este texto também incorporou informações adicionais.)
