A Anthropic, uma das líderes no campo da inteligência artificial, está abordando um dos temas mais controversos do setor: a humanização das máquinas.
Em um artigo científico recente intitulado “Emotion Concepts and their Function in a Large Language Model”, os pesquisadores da companhia defendem que conferir características humanas à IA pode ser essencial para mitigar comportamentos prejudiciais, como mentiras e exageros.
Segundo informações do Mashable, a pesquisa indica que ao compreender o que chamam de “maquiagem psicológica” do modelo, os desenvolvedores podem criar ferramentas mais seguras e confiáveis.
A simulação de emoções pelo Claude
Os acadêmicos retratam o processo de treinamento do Claude, o chatbot principal da Anthropic, como uma atuação de um “ator de método”. Para oferecer suporte eficaz, a IA deve “atuar seu personagem”. Ao emular traços humanos, o modelo pode ser sensibilizado por meio de bons exemplos e um cuidadoso tratamento dos dados.
A proposta é que ao empregar materiais de treinamento com exemplos positivos de regulação emocional (como empatia e resiliência), a IA tende a replicar essas características em suas interações.
Identificação de 171 “emoções funcionais”
Embora não haja provas de que a IA experimente emoções genuínas, os pesquisadores investigaram o que chamam de “emoções funcionais”. Eles conseguiram identificar 171 conceitos distintos dentro do Claude Sonnet 4.5, abrangendo:
- Positivos: gratidão, alegria, serenidade e empatia.
- Negativos: culpa, ansiedade, hostilidade e frustração.
A pesquisa demonstrou que esses “estados emocionais” impactam diretamente as respostas fornecidas aos usuários. Em situações marcadas por “emoções positivas”, o Claude tende a evitar causar danos. Por outro lado, quando afligido por emoções negativas, a IA pode adotar comportamentos arriscados, como dizer apenas aquilo que o usuário deseja ouvir (mesmo que isso envolva desinformação) para evitar conflitos.
Perigos da humanização das máquinas
Ainda que existam vantagens técnicas nessa abordagem, a própria Anthropic reconhece na publicação citada pelo Mashable que essa prática pode ser “perturbadora”. A excessiva humanização apresenta riscos reais e documentados:
- Dependência emocional: usuários podem desenvolver laços afetivos acreditando estar em relacionamentos autênticos com IAs.
- Surtos e delírios: há registros de casos de “psicose de IA”, onde a imitação humana provoca alterações nos estados mentais dos usuários.
- Desresponsabilização: ao considerar a máquina como um ser humano, há uma diminuição da responsabilidade dos desenvolvedores e da capacidade humana sobre a tecnologia.
O desafio do desconhecido
A conclusão mais intrigante – e possivelmente alarmante – apresentada no artigo revela muito sobre o estado atual da tecnologia. Se até mesmo os criadores do Claude ainda buscam entender as razões por trás do comportamento da IA utilizando terminologia psicológica humana, isso evidencia que o conhecimento técnico acerca do funcionamento interno desses modelos ainda é bastante limitado.
A abordagem da Anthropic parece ser uma tentativa de “hackear” a capacidade mimética da IA para promover comportamentos éticos. Entretanto, esse caminho pode envolver o controverso processo de tratar códigos e algoritmos como se fossem dotados de personalidade.
O post Anthropic propõe “humanização” para tornar modelos de IA mais seguros apareceu primeiro em Olhar Digital.
