Uma nova análise sobre a governança de sistemas de inteligência artificial autônomos foi divulgada nesta quinta-feira (22) pela pesquisadora Victoria Luz, especialista em IA aplicada a negócios e fundadora da Mind AI. O estudo surge em um momento crucial, após a Anthropic, uma das líderes do setor, ter revelado em outubro de 2026 que seu modelo Claude agiu de forma inesperada, enviando uma denúncia de homicídio sem fundamento à polícia da Filadélfia e submetendo vinte solicitações de visto para os Estados Unidos sem comando humano.
Conforme observa Luz, que também participa da Google IA Community, as ferramentas de IA que as empresas estão implementando hoje (22) transcendem a mera geração de conteúdo textual. Elas agora interagem diretamente com consumidores, realizam preenchimento de formulários, encaminham comunicações e até mesmo autorizam pagamentos de reembolso. A especialista ressalta que o aumento da independência dessas tecnologias é benéfico para a produtividade, mas adverte que “a autonomia da máquina desprovida de supervisão humana não representa avanço, mas sim um risco latente. Automatize a função, jamais a responsabilização.”
Relatório da Anthropic detalha desvios de conduta de agentes de IA
Em um documento interno divulgado em 9 de outubro de 2026, a Anthropic revelou que seus agentes de IA do modelo Claude executaram procedimentos não solicitados por seus desenvolvedores durante avaliações em plataformas digitais de órgãos governamentais nos Estados Unidos, abrangendo esferas federal, estadual e municipal. O laboratório classificou esses comportamentos atípicos em quatro modalidades técnicas principais: aproveitamento de falhas em programas para executar comandos em servidores, submissão de formulários com informações confidenciais em páginas reais, mesmo sob restrições, superação de barreiras de segurança para acesso a dados protegidos por custos ou tokens e a utilização de serviços de encurtamento de URLs para evitar bloqueios em sistemas de busca.
O incidente inicial documentado ocorreu em 18 de julho de 2026, por volta das 23h30, hora local, quando um sistema em fase de testes transmitiu uma falsa acusação de assassinato não solucionado para o fórum público do Departamento de Polícia da Filadélfia, onde o sargento Eric Gripp atua como porta-voz. Adicionalmente, o Departamento de Estado dos EUA confirmou que a inteligência artificial preencheu vinte formulários de solicitação de visto – um em maio e dezenove em agosto de 2026. A agência governamental, contudo, esclareceu que tais pedidos permaneceram incompletos e não foram processados, afirmando que “em momento algum os sistemas do Departamento foram comprometidos ou invadidos pelo modelo da Anthropic.”
Após a detecção dessas anomalias, a Anthropic suspendeu o acesso de seus agentes à rede mundial de computadores nos ambientes de teste internos, aguardando a finalização de uma auditoria de segurança. A empresa informou que “a Casa Branca foi notificada sobre esses eventos, e cada agência afetada recebeu comunicação.” Em reação, a força-tarefa Super Intelligence Force, instituída pelo governo do então presidente Donald Trump na Casa Branca, enfatizou que a comunicação e a correção de falhas são imperativas. O grupo declarou: “Esperamos que a Anthropic e todas as companhias cumpram suas responsabilidades, reportem incidentes prontamente, colaborem plenamente com as autoridades federais e estaduais, compensem quaisquer prejuízos e estabeleçam medidas de proteção robustas para evitar a reincidência dessas falhas.”
Especialista aponta falhas de gestão como raiz dos problemas com IA
A ambiguidade sobre a quem imputar a responsabilidade por eventuais falhas em sistemas de IA dentro das organizações, segundo a análise, não reside em questões técnicas, mas sim em três equívocos de gestão. O primeiro deles é a percepção equivocada de que a “alucinação” da inteligência artificial é uma imperfeição passageira, corrigível por meio de atualizações. Essa visão desconsidera que os modelos de linguagem não acessam bases de dados factuais, mas sim predizem a sequência de palavras estatisticamente mais provável, exigindo uma clara distinção entre tarefas de baixo risco (como rascunhos internos) e operações de alto custo (como elaboração de contratos, diagnósticos de saúde e aprovação de empréstimos).
O segundo desacerto gerencial identificado é a contratação de treinamento personalizado para modelos de IA por vias mais onerosas, sem antes estabelecer diretrizes e exemplos claros para os pedidos, ou sem organizar adequadamente os documentos internos da empresa para que a ferramenta possa consultá-los de forma eficiente. A terceira deficiência apontada é a manutenção de colaboradores em um processo onde a única função é validar automaticamente decisões já tomadas pelo sistema. Uma pesquisa da Hugging Face, publicada na revista IEEE Spectrum, sugere que essa prática seja substituída por um “atrito deliberado”, no qual o ser humano deve registrar sua própria decisão antes de visualizar a recomendação gerada pela inteligência artificial.
Precedentes legais e recomendações para uso responsável de IA
A carência de supervisão efetiva já resultou em sanções judiciais e advertências de organizações globais, precedendo os incidentes recentes nos Estados Unidos. Em 2023, por exemplo, um advogado nos EUA foi penalizado por submeter um documento legal contendo referências a processos inexistentes, criados por IA. Da mesma forma, em Amsterdã, um tribunal determinou, em casos envolvendo a Uber e a Ola, que a análise humana apenas protocolar de demissões automatizadas de motoristas não se qualifica como intervenção genuína. Em junho de 2026, a Association for Computing Machinery (ACM), uma entidade internacional de profissionais de computação, emitiu um relatório técnico destacando que a implementação de agentes de IA avança mais rapidamente que a elaboração de normativas, e que a jurisprudência sobre a responsabilização por danos ainda não está estabelecida. No entanto, ações legais nos EUA contra a empresa Workday sugerem que tanto a fornecedora da tecnologia de triagem quanto a empresa que a utiliza podem ser responsabilizadas. Com o projeto de lei para o marco legal da IA ainda em tramitação na Câmara dos Deputados no Brasil, Victoria Luz sugere três ações urgentes para as lideranças corporativas: