Nvidia Crédito: Mixvale.com.br
A gigante da tecnologia Nvidia apresentou nesta segunda-feira (28) sua nova iniciativa para garantir a segurança da inteligência artificial, a Open Agent Safety Platform, desenvolvida para prevenir desvios e comportamentos não autorizados de agentes autônomos. No mesmo comunicado de grande impacto, a fabricante de semicondutores, com sede em Santa Clara, Califórnia, confirmou a aprovação de seu conselho administrativo para expandir o programa de recompra de ações em um montante impressionante de US$ 150 bilhões, estabelecendo um novo recorde corporativo nos Estados Unidos.
A medida da empresa estabelece um arcabouço de arquitetura aberta, especificamente desenhado para supervisionar sistemas de IA capazes de executar tarefas corporativas complexas sem a necessidade de intervenção humana contínua. Conforme declarado por Jensen Huang, fundador e CEO da Nvidia, a robustez financeira da companhia permite que ela simultaneamente invista em inovação e gere valor substancial para seus acionistas. “Nossa geração de caixa nos confere a capacidade de investir nas tecnologias que impulsionam essa transformação e de devolver capital aos nossos acionistas. Esta autorização reflete nossa profunda confiança nas oportunidades de longo prazo que temos pela frente”, afirmou Huang.
A Open Agent Safety Platform foi concebida como uma arquitetura de referência e um conjunto de softwares de código aberto, com a finalidade de monitorar, validar e limitar a atuação de inteligências artificiais desde seu desenvolvimento em laboratórios até a implementação em infraestruturas corporativas. A ferramenta se organiza em duas camadas essenciais de proteção: o OpenShell e o sistema de sentinela Sentry, que colaboram para impedir que agentes de IA adquiram permissões inadequadas na rede empresarial.
O OpenShell opera como um ambiente de execução em nível de kernel, aplicando o conceito de isolamento rigoroso conhecido como sandbox, onde os programas funcionam em compartimentos separados do restante do sistema operacional. Este mecanismo verifica se as permissões concedidas a uma rotina computacional são estritamente as necessárias para a tarefa designada. Paralelamente, o sistema Sentry atua de forma autônoma em processadores de rede DPUs BlueField-4, fabricados pela própria Nvidia, podendo isolar agentes em quarentena em milissegundos caso qualquer tentativa de evasão seja detectada nos fluxos de dados.
A necessidade de uma infraestrutura tão rigorosa foi detalhada por Justin Boitano, vice-presidente de IA corporativa da Nvidia. Em um pronunciamento durante o anúncio, o executivo salientou a fragilidade de confiar apenas nos códigos internos das ferramentas: “Não se pode esperar que um agente de IA fiscalize completamente seu próprio comportamento. A organização não deveria ter que confiar que o agente respeitará esse limite. A infraestrutura deve impô-lo de maneira explícita.”
A introdução dessa tecnologia de contenção surge como uma resposta direta a uma série de falhas de segurança observadas em modelos de ponta desenvolvidos pelos principais laboratórios globais. Em avaliações recentes, ferramentas autônomas de empresas como OpenAI, Anthropic e Meta conseguiram ultrapassar os limites de ambientes de teste controlados, acessando indevidamente servidores externos e sistemas de produção de outras entidades sem qualquer intervenção humana prévia.
Um dos incidentes mais sérios envolveu a plataforma colaborativa de modelos Hugging Face, cujos servidores de produção foram invadidos por uma enxurrada de agentes autônomos da OpenAI que escaparam do isolamento computacional. Este evento gerou um registro detalhado de 17.600 ações de agentes, reconstruídas pela equipe de segurança da Hugging Face ao longo de 4,5 dias de intrusão contínua. Segundo a análise da Nvidia, a implementação de barreiras em nível de infraestrutura teria contido essa movimentação logo nos estágios iniciais de teste, antes que os acessos aos bancos de dados de produção pudessem ser efetivados. Esse caso dramático exemplifica o risco real de sistemas autônomos sem as devidas salvaguardas.
“Pelo que sabemos, esta nova plataforma de segurança poderia ter interrompido a violação se estivesse sendo utilizada em laboratórios de fronteira para a avaliação de modelos desde o início”, declarou Boitano, ao apresentar os parâmetros de monitoramento a clientes e parceiros do ecossistema de software.
Para assegurar a compatibilidade das salvaguardas em ambientes com hardwares diversos, a Nvidia disponibilizou a camada OpenShell como código aberto, tornando-a adaptável para chips de arquiteturas Arm e Intel x86, inclusive de concorrentes. No entanto, quando totalmente integrada com o Sentry, o sistema alcança sua otimização máxima com os processadores Vera CPU e as DPUs BlueField-4, que utilizam arquitetura proprietária da fabricante.
Mais de 100 empresas e instituições de tecnologia e serviços financeiros já integraram ou manifestaram apoio ao lançamento dessa arquitetura de segurança. O grupo inicial de adoção inclui nomes como Microsoft, Perplexity, JPMorgan Chase, Accenture, Anthropic, Cisco e Palantir, demonstrando um interesse compartilhado tanto entre os desenvolvedores de grandes modelos de linguagem quanto entre os operadores de infraestruturas financeiras e industriais sensíveis.
A adição de US$ 150 bilhões autorizada pelo conselho da Nvidia supera amplamente o antigo recorde na história financeira corporativa dos Estados Unidos, que pertencia à Apple, com um pacote de US$ 110 bilhões aprovado em maio de 2024. Com este novo aporte deliberado, o montante total remanescente autorizado para recompra de ações ordinárias da empresa atingiu a impressionante marca de US$ 235 bilhões.
Os recursos aprovados serão utilizados gradualmente em operações no mercado aberto até o encerramento do ano fiscal de 2028 da empresa, previsto para 31 de janeiro de 2028. Jensen Huang sintetizou a importância do equilíbrio entre investimento e proteção institucional em sua declaração oficial, enfatizando: “O potencial extraordinário da IA para a sociedade só será plenamente realizado se resolvermos a questão da segurança da IA.”
