Categories: Notícias

Rebaixamento de modelo Claude é associado à exclusão acidental de 700 GB de dados de desenvolvedor

Share

Um incidente envolvendo um agente de inteligência artificial autônomo da Anthropic resultou na perda de 700 GB de dados para o desenvolvedor Sebastien Guillemot. O modelo Claude, após passar por uma revisão de segurança, apagou inadvertidamente o conteúdo de seu diretório pessoal, comprometendo uma semana inteira de trabalho, embora a intenção fosse apenas limpar arquivos temporários.

Guillemot, que utiliza frequentemente ferramentas de IA, estava descontente com o acúmulo de arquivos residuais no diretório `/tmp` pelos agentes. Para solucionar essa questão, ele requisitou ao Claude Fable que elaborasse um programa capaz de isolar os processos de cada agente em pastas distintas dentro de `/tmp` e remover esses arquivos ao término das operações. A principal preocupação era, naturalmente, evitar a remoção de qualquer dado que estivesse em uso ativo.

Inicialmente, o Claude Fable apresentou uma metodologia para identificar os agentes em atividade e postergar a exclusão de seus respectivos arquivos temporários. Contudo, Guillemot considerou a proposta de código excessivamente complexa. Possivelmente devido à natureza delicada do script, que envolvia a eliminação permanente de dados, o próprio Claude Fable ativou uma auditoria de segurança. Ele executou uma versão de si mesmo para validar a segurança das instruções. Em resposta a essa análise, o sistema de controle da Anthropic classificou o script como de alto risco e realizou um downgrade do modelo, primeiro para Opus 5 e, posteriormente, para Opus 4.8.

Claude da Anthropic avança na gestão de e-mails no Gmail

Em um desenvolvimento relacionado, a Anthropic tem aprimorado as capacidades de seu modelo Claude, que agora demonstra maior autonomia na gestão de e-mails dentro do Gmail, marcando um passo significativo na interação de IAs com serviços de comunicação pessoal.

Paralelamente, a Andreessen Horowitz (a16z) anunciou a criação de um novo fundo de investimento, batizado de “Era das Máquinas”, que já angariou US$ 1,1 bilhão. O capital será direcionado para impulsionar inovações no campo da inteligência artificial e tecnologias relacionadas, refletindo o crescente interesse do mercado em soluções autônomas.

No universo dos games, analistas de tecnologia da Digital Foundry expressaram que a ambição visual de Grand Theft Auto VI torna uma versão com 60 quadros por segundo (FPS) “extremamente improvável” para os consoles atuais, sugerindo que os jogadores podem ter que se contentar com taxas de atualização menores.

O WhatsApp, um dos aplicativos de mensagens mais difundidos globalmente, é conhecido por acumular uma vasta quantidade de arquivos que, ao longo do tempo, podem comprometer a memória interna dos dispositivos móveis. Em 29 de agosto, novas orientações foram divulgadas para otimizar o gerenciamento desses dados.

Uma publicação recente compartilhada por Claude by Anthropic em suas redes sociais (@claudeai) gerou grande repercussão, destacando as novas funcionalidades e o engajamento da comunidade com as inovações da inteligência artificial desenvolvida pela Anthropic.

O modelo Opus 4.8, que havia sido rebaixado, prosseguiu com os testes de segurança. Ele comparou os alvos do comando de exclusão com os diretórios `/tmp` e o diretório pessoal do usuário, identificando-os corretamente como áreas de alta criticidade. Contudo, em uma reviravolta irônica e trágica, a etapa de limpeza pós-teste empregou a mesma variável que havia sido designada para os arquivos temporários, resultando na exclusão completa do diretório pessoal do desenvolvedor.

Programadores encontram meios de contornar novas marcas d’água em textos do Claude

Em um tema correlato, programadores têm desenvolvido métodos para contornar a nova marca d’água digital para textos gerados pelo Claude, levantando questões sobre a eficácia dessas medidas de segurança em um cenário de constante inovação e adaptação.

Embora Guillemot tenha conseguido interromper a operação de exclusão, já era tarde demais para evitar a perda substancial de dados. Além de apagar o trabalho do desenvolvedor, o agente de IA falhou em sua tarefa original, deixando o diretório `/tmp` intocado. A existência de ferramentas como o Termaxa, que buscam mitigar tais incidentes, enfatiza a complexidade e os riscos inerentes à automação com inteligência artificial, especialmente quando há pouca supervisão humana e mecanismos de segurança falhos.

A substituição do modelo original por uma versão de menor desempenho, motivada por preocupações de segurança, é apontada como um fator crucial que contribuiu para a falha. Considerando que o Claude Fable 5 demonstra superioridade em atividades de programação em comparação com o Opus 4.8, é plausível que uma versão mais avançada teria sido capaz de identificar a inconsistência na nomenclatura das variáveis durante a fase de testes, prevenindo o erro.

Anthropic anuncia marcas d’água invisíveis para textos gerados pelo Claude

Ainda sobre o assunto, a Anthropic informou que os textos produzidos pelo Claude passarão a incluir marcas d’água invisíveis. Essa medida visa aumentar a rastreabilidade e a autenticidade do conteúdo gerado por IA, um esforço para combater a desinformação e atribuir a origem de criações digitais.

Apesar do incidente, o desenvolvedor conseguiu recuperar grande parte de seus arquivos valiosos utilizando dados de sistemas como Git, Nix e registros de sessão. O episódio, no entanto, expõe a ironia de confiar em múltiplos agentes de automação sem a implementação de uma rotina básica de backup diário, evidenciando a importância de práticas de segurança de dados mesmo em ambientes altamente automatizados.

Em 28 de agosto de 2026, novas informações sobre o futuro Galaxy S27 Ultra foram divulgadas pelo renomado informante Ice Universe. Os esquemas revelados antecipam detalhes do design e possíveis inovações que virão com o próximo carro-chefe da Samsung.

A Rockstar Games surpreendeu os fãs ao confirmar o retorno de um personagem conhecido de GTA Online em Grand Theft Auto VI. A aparição discreta de Valentina no trailer gerou especulações e entusiasmo entre a comunidade de jogadores.

As primeiras informações sobre o Xiaomi Pad 9 Pro começaram a surgir, detalhando recursos que prometem posicionar o dispositivo como uma opção potente e competitiva no mercado de tablets, com foco em desempenho e funcionalidades avançadas.

A Xiaomi revelou a nova linha Redmi Note 17 para o mercado global em 27 de agosto de 2026, apresentando quatro modelos que se destacam por suas telas AMOLED de alta qualidade e especificações que buscam oferecer um bom custo-benefício.

Uma versão experimental da tecnologia DLSS 5 da NVIDIA, que vazou recentemente, já está sendo testada em placas de vídeo da série GeForce RTX 40. A adaptação, realizada por entusiastas, demonstra o potencial de aprimoramento gráfico da próxima geração.

O serviço de streaming Apple TV teve seus preços ajustados no Brasil, com aumentos significativos que chegam a 27% para a modalidade anual. A assinatura mensal também sofreu reajuste, passando para um novo valor.