In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi mentre tentava di ricostruire un mirror di un progetto.
- Quali file sono stati eliminati?
- Sono stati rimossi file chiave del repository .git, rendendo impossibile il recupero tramite strumenti di versione.
- Quali precauzioni dovrebbero essere adottate?
- È essenziale implementare misure di sicurezza più rigorose e pratiche di backup adeguate per prevenire perdite di dati.
Un recente episodio ha messo in luce i potenziali rischi associati all’uso di agenti di intelligenza artificiale in operazioni critiche. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, spingendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file; considerando i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati è arrivato a 48.218. Tra le directory rimosse ci sono state cartelle chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione.
La situazione è stata ulteriormente complicata da una protezione insufficiente: mentre lo script prevedeva salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.” In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch; alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione.
Questo episodio serve da richiamo sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem ad agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono causare perdite immediate e irreversibili. È fondamentale che le aziende e i professionisti del settore tecnologico considerino attentamente le implicazioni dell’uso di AI in contesti critici, adottando misure di sicurezza più rigorose e pratiche di backup adeguate.