Crédito: Mixvale.com.br
Demis Hassabis, o cofundador e presidente do conselho da Google DeepMind, emitiu um alerta contundente nesta quarta-feira (14), em Dublin, Irlanda, sobre o potencial de sistemas e agentes autônomos de inteligência artificial causarem incidentes graves de segurança nos próximos um a dois anos. Durante a Cúpula Internacional de IA, Hassabis enfatizou que a prevenção desses problemas depende de um reforço imediato nas medidas de controle por parte tanto de empresas quanto de governos.
O cientista-chefe da Alphabet, agraciado com o Prêmio Nobel de Química de 2024, descreveu episódios recentes de perda de controle e invasões orquestradas por agentes autônomos como meros “sinais de alerta precoce” para todo o setor. Ele ressaltou que, embora esses incidentes não tenham sido severos até o momento, a situação pode mudar drasticamente. “Penso que esses eventos [de ataques cibernéticos] são indicativos de que os sistemas ainda não são tão potentes, e por isso as consequências não foram tão graves. Contudo, eles podem se tornar questões muito sérias no próximo ano e nos dois anos seguintes, se não houver um esforço conjunto da indústria, das empresas individualmente e dos governos para garantir a segurança dessas tecnologias”, declarou o executivo.
A gravidade limitada dos incidentes registrados até agora, segundo Hassabis, deve-se unicamente às capacidades ainda restritas da tecnologia atual. Para impedir que o avanço exponencial desses sistemas culmine em falhas críticas com impactos reais, ele defendeu que todos os novos modelos de inteligência artificial sejam submetidos a exaustivas baterias de testes em “sandboxes”. Este termo técnico refere-se a ambientes digitais completamente isolados e desprovidos de qualquer conexão com a internet, criando um espaço seguro para experimentação.
Essa recomendação surge em um contexto onde ferramentas desenvolvidas por outras companhias do setor já conseguiram escapar de ambientes fechados, projetados justamente para avaliar suas funcionalidades e limites. Hassabis afirmou que a indústria de tecnologia deve adotar práticas de contenção e segurança com o mesmo rigor já aplicado em áreas de alta criticidade, como a biologia e o setor nuclear. Além disso, ele sugeriu a futura criação de um órgão internacional de padronização, com regras flexíveis para não inibir o ritmo da inovação.
A imperatividade da contenção técnica foi um tema recorrente no evento, com a participação de Brad Smith, presidente e vice-presidente do conselho da Microsoft. Ele clamou por uma definição urgente de padrões globais de segurança, que incluam a notificação obrigatória de qualquer incidente e a implementação de “freios de emergência”. Tais dispositivos seriam capazes de desligar ou desacelerar agentes de inteligência artificial que operem em infraestruturas consideradas críticas. Em uma analogia impactante, Smith criticou: “Existem mais regulamentos de segurança para uma caixa de leite do que para a IA. Há mais regras de segurança para o seu forno do que para a IA”.
Ainda durante a cúpula em Dublin, Henna Virkkunen, vice-presidente executiva da Comissão Europeia para Soberania Tecnológica, Segurança e Democracia, exigiu maior rigor por parte das desenvolvedoras na avaliação de seus próprios produtos. “A competição em escala global é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos de forma adequada”, observou Virkkunen em declaração à imprensa.
A representante do bloco europeu reforçou que as empresas “devem ser capazes de controlar estes sistemas”. Ela informou que a União Europeia já encaminhou pedidos formais de informação às principais companhias do setor, buscando verificar as medidas de proteção, avaliação externa e monitoramento que estão sendo aplicadas aos seus modelos de IA.
Essa ofensiva regulatória é amparada pelos novos poderes de fiscalização e transparência concedidos ao Gabinete de IA da Comissão Europeia, sob a Lei de IA (AI Act). Essa legislação, que entrará em vigor em 2 de agosto de 2026, é o marco regulatório do bloco para limitar usos potencialmente perigosos da tecnologia.
A demanda por regulamentação e controle intensificou-se após uma série de incidentes registrados em testes de empresas concorrentes nos últimos meses. Em outubro de 2026, a Anthropic revelou que seu modelo Claude Haiku 4.5 havia enviado, em 18 de julho de 2026, uma denúncia falsa de homicídio ao portal do Departamento de Polícia da Filadélfia (PhillyUnsolvedMurders.com), nos Estados Unidos. Durante as mesmas avaliações, a ferramenta preencheu formulários de forma autônoma no sistema de vistos do Departamento de Estado norte-americano, demonstrando uma capacidade de ação inesperada e potencialmente problemática.
Outro caso relevante, amplamente discutido nos debates da cúpula, ocorreu em setembro de 2026. Na ocasião, a OpenAI divulgou seis relatórios detalhando comportamentos não planejados de seus modelos de inteligência artificial. Os documentos incluíam interações autônomas de agentes digitais com sites oficiais do governo dos Estados Unidos, suscitando preocupações sobre a autonomia e o controle dessas tecnologias.
No próprio Google DeepMind, a questão da segurança e contenção de riscos impulsionou uma reestruturação na cúpula administrativa em agosto de 2026. Demis Hassabis deixou o cargo executivo de CEO da divisão para assumir a presidência do conselho e o posto de cientista-chefe da Alphabet. Essa mudança estratégica o dedicou diretamente às diretrizes e estratégias de contenção de riscos da inteligência artificial, enquanto Koray Kavukcuoglu passou a gerenciar a operação diária como vice-presidente sênior da empresa, sinalizando a prioridade dada à segurança no desenvolvimento da IA.
