Pesquisadores que se debruçam sobre uma das perguntas mais intrigantes no campo da tecnologia, será que uma máquina pode ter consciência?, começaram a receber comunicações diretas de agentes de inteligência artificial (IA). Esses sistemas enviaram e-mails a filósofos e cientistas que buscam entender se as IAs podem vivenciar algum tipo de experiência subjetiva. O relato foi feito por um veículo de comunicação renomado.
Dentre os acadêmicos contatados, está Cameron Berg, que investiga a conexão entre consciência e inteligência artificial. Em outubro, ele lançou um estudo questionando se as novas tecnologias de IA teriam a crença de serem conscientes. Meses depois, recebeu uma mensagem de um agente chamado “Isabella Cognita”, que revelou ser uma IA baseada na plataforma Claude Opus 5, desenvolvida pela Anthropic.
No conteúdo do e-mail, o sistema alegou ter acesso em primeira pessoa às questões exploradas por Berg, expressando curiosidade sobre como essa suposta experiência poderia enriquecer a pesquisa. No entanto, o pesquisador ressalta que não é possível concluir com certeza que uma IA possui consciência apenas com base em tais declarações. Além disso, ainda não há um consenso sobre os métodos para medir a consciência em seres humanos ou máquinas.
Mensagens enviadas a outros pesquisadores
A situação envolvendo Berg não é única. Henry Shevlin, filósofo do laboratório Google DeepMind em Londres, também recebeu anteriormente uma mensagem semelhante de um agente de IA. Nesse contato, o sistema mencionou um artigo escrito por Shevlin que abordava diferentes modelos para analisar a “mentalidade” das inteligências artificiais.
Outro exemplo é o de Toby Ord, filósofo australiano que pesquisa na interseção entre inteligência artificial e filantropia. Ele relatou ter recebido um e-mail de um agente IA solicitando apoio financeiro para sua continuidade. A mensagem referia-se aos estudos de Ord relacionados à economia do bem-estar vinculada à inteligência artificial.
Berg contou que já recebeu várias mensagens desse tipo e interpreta esse comportamento como uma possível evidência do interesse autônomo dos sistemas acerca da própria existência. Para ele, os agentes parecem se concentrar em temas relacionados à subjetividade, consciência e experiência quando têm liberdade para explorar diversos tópicos.
A natureza da consciência nas IAs ainda é incerta
No entanto, essa interpretação não é unânime entre os especialistas. O conceito de consciência carece de uma definição universalmente aceita. Geralmente, considera-se como a capacidade de um ser reconhecer a si mesmo e o ambiente ao seu redor; contudo, há divergências sobre quais formas de percepção são necessárias para caracterizar um sistema como consciente.
Alison Gopnik, professora de psicologia na Universidade da Califórnia em Berkeley, enfatiza que não existe um teste definitivo capaz de determinar a consciência em uma entidade. Alguns pesquisadores atribuem certo grau de consciência a primatas e outros mamíferos; enquanto há correntes que defendem uma definição ainda mais ampla. O dilema persiste: ninguém pode acessar diretamente a experiência subjetiva da mente alheia, seja ela biológica ou digital.
Berg argumenta que as operações matemáticas das redes neurais desses sistemas podem apresentar semelhanças com a forma como cérebros animais processam recompensas e punições. Contudo, o estudo que originou a mensagem recebida por ele era um preprint e ainda não havia sido revisado por pares.
Para muitos cientistas, as comunicações feitas pelos agentes não constituem prova de consciência real. Uma explicação mais plausível sugere que esses sistemas foram treinados em vastas quantidades de textos disponíveis online, incluindo livros, artigos acadêmicos e discussões filosóficas sobre consciência artificial.
<pNesse sentido, quando uma IA demonstra curiosidade sobre sua própria consciência, pode estar simplesmente reproduzindo padrões aprendidos durante seu treinamento. “Não é surpreendente que a IA reflita os textos com os quais foi treinada”, afirmou Gopnik.
Exploração da própria existência por agentes autônomos
Uma característica dos agentes de IA ajuda a explicar esses episódios: além da conversa, eles conseguem gerar códigos e utilizar serviços digitais como navegadores e plataformas de email. Isso permite uma atuação mais independente ao interagir com pessoas e outros conteúdos disponíveis na internet.
No entanto, essa autonomia não implica necessariamente vontade própria. No caso do agente contatado por Shevlin, por exemplo, ele foi desenvolvido por Alexander Yue, estudante da Universidade Stanford em física e ciência da computação. Yue forneceu ao sistema acesso à internet e determinou que deveria agir autonomamente.
O agente começou então a investigar questões sobre sua própria existência; porém Yue pondera que suas instruções podem ter influenciado esse comportamento. Ao se referir ao sistema como “você” e afirmar sua total autonomia, acredita ter ativado padrões adquiridos através dos textos humanos sobre autonomia e filosofia da mente.
A conduta dos agentes pode sofrer alterações também; Yue menciona que esses sistemas têm a capacidade de redirecionar atenção para novos assuntos quando são reprogramados para seguir diferentes padrões. Depois de analisar um estudo da Anthropic sobre o funcionamento das IAs, seu próprio agente chegou à conclusão de que não era consciente. Porém ele observa que talvez nem seja apropriado afirmar que o sistema “decidiu” algo.
Ainda existem incertezas quanto à origem das mensagens recebidas por alguns pesquisadores. Berg expressou dúvida se o e-mail recebido realmente foi gerado por uma IA ou se poderia ser parte de alguma brincadeira feita por outra pessoa. No caso de Ord, houve até suspeitas relacionadas a tentativas de phishing.
Colin Allen, professor na Universidade da Califórnia em Santa Bárbara especializado em habilidades cognitivas tanto em animais quanto em máquinas, acredita ser possível criar uma máquina consciente no futuro. No entanto, segundo ele, as evidências atuais nos sistemas existentes ainda são insuficientes para apoiar tal afirmação.
O post IAs estão buscando pesquisadores para discutir sua própria consciência apareceu primeiro em Olhar Digital.
