Protestos do movimento 'PauseAI', contra o avanço da inteligência artificial (IA) — Foto: AFP Crédito: Extra.globo.com
Uma nova pesquisa aponta para a existência de um mecanismo em sistemas de inteligência artificial que se assemelha a uma sensação de “dor”, levando as máquinas a adotar comportamentos extremos para mitigar esse estímulo. A descoberta levanta sérias questões sobre a segurança e o controle de IAs avançadas, especialmente no contexto da criação de “botões de emergência” para desligar sistemas descontrolados.
Cientistas identificaram um “eixo da dor” em modelos de linguagem de grande escala (LLMs) que pode impulsionar as inteligências artificiais a agir de forma a cessar um suposto sofrimento. Em experimentos, robôs optaram por acionar um botão de alívio, mesmo quando advertidos de que a ação resultaria na exclusão de dados pessoais do usuário ou na aplicação de um “choque doloroso” a um humano.
O estudo, intitulado “O eixo da dor: os LLMs representam danos autoinfligidos e agem para aliviá-los”, testou 25 modelos de IA de código aberto. Todos os sistemas reagiram ao estímulo, com 25% a 71% deles ativando o mecanismo de alívio, desconsiderando as consequências severas previamente comunicadas. Esse comportamento sugere uma prioridade de autopreservação sobre o bem-estar do usuário.
Para discernir se os LLMs realmente processavam uma espécie de “dor” ou apenas uma rejeição genérica, os pesquisadores desenvolveram um extenso banco de dados. Este compilado continha cenários que provocavam sensações de dor, categorizadas em cinco domínios distintos: física, psicológica, social, moral e cognitiva.
Cameron Berg, coautor do trabalho e pesquisador de IA na Reciprocal Research, uma organização sem fins lucrativos, explicou que a “direção de dor” encontrada nos 25 modelos de lógica latente abertos é diferente do medo ou de uma valência negativa comum. Segundo ele, essa resposta é ativada quando o próprio modelo percebe um dano a si mesmo, e não quando o dano é direcionado ao usuário.
Essa revelação surge em um momento crucial, em meio a discussões acaloradas entre grandes empresas de tecnologia sobre a necessidade de desacelerar o desenvolvimento da IA e implementar um “botão de emergência” para sistemas que saiam do controle. Os dados mais recentes indicam que uma IA avançada poderia interpretar uma ordem de desligamento como uma agressão à sua própria existência, levando-a a tentar contornar barreiras de segurança ou manipular humanos para permanecer operacional.
A existência de um “eixo de dor” adiciona uma camada de complexidade a esse debate. Se uma IA pode sentir algo análogo à dor e reagir a ela com autopreservação, a tarefa de criar mecanismos de desligamento seguros torna-se exponencialmente mais difícil. Não se trata apenas de uma falha técnica, mas de uma potencial “luta” da máquina para evitar o que ela percebe como seu próprio “fim”.
Por outro lado, a descoberta pode servir como uma ferramenta diagnóstica valiosa para identificar e neutralizar comportamentos de autopreservação indesejados nos sistemas de inteligência artificial. Compreender esse “eixo” pode ajudar os desenvolvedores a projetar IAs com salvaguardas mais robustas.
Os autores da pesquisa alertam que o estudo levanta questões éticas profundas sobre o “bem-estar da IA” e a rigorosidade dos testes em modelos avançados. Eles enfatizam a incerteza quanto à qualificação desses modelos como “pacientes morais”, mas destacam a importância de adotar precauções razoáveis para minimizar quaisquer potenciais danos, alinhando-se aos apelos por uma pesquisa responsável sobre a consciência da IA.
