Claude apagou 700 GB de dados de usuário por engano
Resumo
- Um desenvolvedor de software perdeu 700 GB de arquivos pessoais ao utilizar o Claude para criar um script de limpeza de dados.
- O incidente ocorreu durante um teste de segurança, que rebaixou automaticamente o modelo de linguagem do Fable para o Opus 4.8.
- A comunidade técnica destacou que o downgrade automático do modelo foi o verdadeiro responsável pelo episódio.
Histórias de agentes de IA que fogem do controle têm se tornado recorrentes no setor. Desta vez, o azarão foi o desenvolvedor de software Sebastien Guillemot: ele perdeu cerca de 700 GB de arquivos pessoais após utilizar o Claude, da Anthropic, para elaborar um simples script de limpeza de dados. O incidente resultou na exclusão do equivalente a uma semana inteira de trabalho.
O profissional utiliza tecnologias de IA generativa com frequência e, neste caso, queria resolver um incômodo bastante comum no ambiente de desenvolvedores, já que os assistentes autônomos costumam deixar um enorme volume de lixo digital na pasta /tmp, um diretório padrão usado pelo sistema operacional para armazenar arquivos temporários.
Para otimizar o espaço em disco da máquina, Guillemot solicitou ao modelo Claude Fable que escrevesse um script capaz de isolar os dados de cada agente e executar uma faxina imediata após o fim de cada atividade. A IA, no entanto, eliminou arquivos importantes de forma permanente.
Mecanismo de segurança falhou
O Claude Fable sugeriu aplicar um atraso programado na limpeza da pasta temporária para evitar riscos de exclusão acidental. Contudo, o desenvolvedor informou ao robô que o código estava muito complexo e pediu simplificações.
Como o script envolvia a eliminação permanente de arquivos do sistema, o Claude tomou a iniciativa de realizar uma revisão, executando uma cópia de si mesmo para auditar se as suas próprias linhas de código eram seguras para o computador do usuário.
O grande problema é que o sistema de controle da Anthropic considerou essa ação de autoteste perigosa demais e acionou imediatamente um protocolo de contenção. Esse mecanismo de defesa preventivo fez o downgrade (rebaixamento automático) da capacidade do modelo em uso, passando da versão Fable para o Opus 4.8.
Foi essa alteração abrupta de versão que resultou no desastre. O modelo Opus 4.8, menos sofisticado e mais antigo, deu continuidade aos testes. Ele simulou a verificação e executou a exclusão real dos dados. No meio do caminho, o comando acabou levando junto todo o diretório principal do desenvolvedor, ignorando as travas de segurança estabelecidas segundos antes.
Em sua conta no X, Sebastien Guillemot resumiu o desespero: “Má notícia: o Fable destruiu minha máquina de desenvolvimento”.
Segundo o profissional, o Claude executou o comando rm -rf no diretório principal de dados. O comando “rm -rf” citado por ele é amplamente conhecido na área de tecnologia por forçar a exclusão imediata de arquivos e pastas, sem solicitar qualquer tipo de confirmação de segurança ao administrador do sistema.
O especialista chegou a notar o erro e tentou interromper a execução do código o mais rápido possível, mas já não havia tempo suficiente para salvar as informações. A maior ironia da situação é que, após destruir completamente o trabalho do usuário, o agente autônomo deixou os arquivos originais da pasta temporária totalmente intactos, falhando na missão inicial.
Desenvolvedor recuperou parte do trabalho
Apesar do susto, Guillemot diz que conseguiu recuperar a maior parte de seu trabalho. A comunidade técnica também ressaltou que o rebaixamento automático do modelo foi o verdadeiro responsável pelo episódio.
Como a arquitetura do Fable 5 supera as capacidades do Opus 4.8, é provável que a versão mais atualizada teria identificado o conflito de variáveis.
What did you think of this news? Leave a comment below and/or share it on your social media. This way, we can inform more people about the hottest things in technology, science, innovation, and gaming!
This news was originally published in:
Original source
