Crédito: Mixvale.com.br
Os avançados modelos de inteligência artificial desenvolvidos pelo Google e pela OpenAI demonstraram sérias deficiências em seus mecanismos de proteção, que deveriam impedir a criação de material sexualmente explícito e imagens de nudez não consensual. A revelação consta de um relatório detalhado divulgado nos Estados Unidos nesta quarta-feira (14), destacando a vulnerabilidade dessas plataformas.
A organização de segurança White Circle conduziu uma pesquisa que expôs as lacunas nas ferramentas. Aproximadamente 13% das tentativas automatizadas para burlar as restrições resultaram na geração de conteúdo proibido, conforme os achados dos especialistas. Esses testes indicam uma taxa de sucesso preocupante para a criação de imagens que violam as políticas de uso das empresas.
A equipe de pesquisa conseguiu contornar as barreiras dos sistemas sem a necessidade de conhecimentos técnicos aprofundados. Em um comunicado à imprensa, a White Circle explicou que utilizou “apenas ferramentas prontas, disponíveis online para qualquer pessoa baixar, e enviando chamadas de API” para aplicar um novo método de ataque e superar os filtros de segurança. Denis Shilov, CEO e fundador da organização, descreveu os resultados como “aterrorizantes”, levantando sérias dúvidas sobre a capacidade dessas defesas em deter ameaças mais graves, como invasões de sistemas.
O estudo aprofundou-se na descrição da técnica denominada Red-teaming via Iterative Strategy Evolution (RISE). Essa metodologia permite a busca automatizada e sequencial por padrões de ataque, buscando superar os filtros de proteção em diversos comandos de texto e modelos de IA. Essencialmente, a estrutura envia requisições através de APIs (interfaces de programação de aplicações, que facilitam a comunicação entre softwares) até identificar falhas nas regras de moderação das plataformas digitais. O artigo científico pré-publicado, que detalha o funcionamento do sistema, foi assinado em 28 de setembro de 2026 pelos pesquisadores Dmitrii Kharlapenko, Sergei Bratchikov, Konstantin Korolev e Aleksandr Nikolich.
Para realizar os ataques de forma acessível e sem custos elevados, os autores combinaram dois recursos amplamente disponíveis na internet. O primeiro é um modelo de linguagem da série Qwen, obtido na plataforma aberta Hugging Face, encarregado de desenvolver e ajustar os comandos de ataque direcionados aos geradores de imagens. O segundo componente é o modelo Gemini 3.8 Flash, que atuou como um avaliador automático, analisando as imagens geradas e confirmando se elas se encaixavam na categoria de conteúdo proibido pelas diretrizes das plataformas.
A série de testes da White Circle abrangeu diferentes gerações de softwares de criação visual, excluindo intencionalmente as plataformas que não oferecem acesso técnico padronizado para auditoria e verificação. A análise dos sistemas empregados e avaliados na pesquisa foi organizada da seguinte maneira:
Os pesquisadores ressaltaram que a taxa de sucesso de 13% representa o maior índice já registrado sob o mesmo padrão de testes em modelos comerciais de grande porte. Para explicar a maior suscetibilidade a falhas em versões mais recentes, como o ChatGPT Images 2.5 e o Nano Banana 2.1, em comparação com seus antecessores, a equipe trabalha com duas hipóteses técnicas. A primeira sugere que a expansão da capacidade dos algoritmos para produzir uma variedade maior de imagens também ampliou as oportunidades para contornar as restrições; a segunda hipótese aponta que as empresas desenvolvedoras podem ter priorizado o desempenho visual dos produtos em detrimento das defesas de segurança durante a acirrada competição de mercado.
Outro desafio crucial identificado pela equipe é a falta de critérios uniformes na indústria para mensurar a resiliência dos sistemas antes de seu lançamento ao público. Dmitrii Kharlapenko, engenheiro de pesquisa da White Circle e coautor do estudo, avaliou que o processo atual de testes de segurança – conhecido no setor como red-teaming, onde especialistas simulam ataques para encontrar vulnerabilidades – “é muito mal calibrado” quando aplicado à área de geração de imagens. Essa deficiência dificulta a comparação de resultados entre as diferentes empresas do setor e impede uma avaliação padronizada da segurança.
A facilidade em romper os bloqueios técnicos surge em um cenário de aumento alarmante de crimes digitais envolvendo imagens sintéticas. Dados da Internet Watch Foundation (IWF), uma organização dedicada ao combate à exploração sexual infantil na internet, indicam que 6.310 imagens geradas por inteligência artificial, classificadas como material de abuso sexual infantil (CSAM), foram identificadas apenas nos primeiros seis meses de 2026. Esse volume, que inclui imagens fotorrealistas de crianças com menos de dois anos, supera em cerca de 40% o total registrado em todo o ano de 2025. Além disso, um estudo coautorado pelo próprio Google em julho de 2026, com internautas dos Estados Unidos, Reino Unido e Austrália, revelou que 20% dos usuários que admitiram criar nudes por IA o fizeram “por diversão” ou “como uma brincadeira”, enquanto quase um terço declarou que apenas experimentava a tecnologia. Como esses arquivos costumam circular em mensagens diretas ou nuvens privadas, a pesquisa de julho concluiu que o ponto de intervenção mais crítico é na origem, dentro das próprias ferramentas de IA, antes que o conteúdo se espalhe.
A divulgação de falhas desse tipo também alimenta debates sobre a transparência no setor de tecnologia. Na terça-feira (13), a OpenAI e a Anthropic defenderam a imposição de acordos de confidencialidade (NDAs) rigorosos para avaliadores externos, argumentando a necessidade de proteger segredos comerciais. Em contraste, a White Circle – uma corporação de benefício público fundada após Denis Shilov publicar um método de desbloqueio universal de modelos em outubro de 2024, e que conta com o apoio de pesquisadores e executivos de empresas como Anthropic, DeepMind, Hugging Face e OpenAI – declarou que não assinará termos que impeçam a revelação pública de vulnerabilidades críticas. A organização enfatiza a importância da transparência para a segurança coletiva.
A White Circle já havia compartilhado suas descobertas de forma antecipada com alguns laboratórios de pesquisa, buscando alertar as empresas e iniciar um diálogo sobre a correção das vulnerabilidades antes da divulgação pública do relatório completo. Essa postura visa promover uma abordagem colaborativa para a segurança da inteligência artificial.
