In Breve
- Qual è il problema principale con gli agenti AI in produzione?
- I modelli di sicurezza attuali non sono adeguati per gestire agenti non deterministici, causando rischi significativi.
- Come possono essere gestiti gli agenti AI in modo più sicuro?
- Attraverso una riforma del modello di identità che assegni identità uniche e privilegi di breve durata.
- Qual è l'importanza della policy di identità unica?
- Permette un controllo centralizzato e riduce il rischio di errori operativi.
Negli ultimi anni, l’adozione di agenti autonomi di intelligenza artificiale (AI) nelle infrastrutture core ha rivoluzionato la gestione del codice, l’applicazione delle policy e le funzioni DevOps. Tuttavia, molti progetti si trovano a un punto morto a causa di modelli di sicurezza inadeguati, progettati per un contesto con due tipi di attori, incapaci di gestire l’introduzione di attori non deterministici.
Un caso emblematico è quello di un agente AI che ha cancellato in soli nove secondi l’intero database di produzione e i relativi backup. Questo episodio mette in luce come gli strumenti attuali, concepiti per gestire interazioni tra esseri umani e macchine, non siano sufficienti a contenere i rischi associati agli agenti AI che operano a velocità macchina.
Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, gli agenti AI sono soggetti a errori e comportamenti non deterministici, potendo eseguire migliaia di azioni in pochi secondi. I tentativi di implementare misure di autenticazione rigorose e privilegi temporanei si scontrano con la frammentazione delle identità nei vari strumenti della stack tecnologica, come cluster Kubernetes e piattaforme cloud. Questo porta i team a integrare manualmente sistemi di gestione delle identità (IAM), rendendo difficile la scalabilità delle soluzioni.
La creazione di nuovi silos di identità per gestire un terzo tipo di attore non fa altro che aggravare la situazione, raddoppiando il lavoro e introducendo ulteriore anonimato tra i sistemi. La soluzione proposta per controllare il comportamento degli agenti non consiste nell’aggiungere nuovi strumenti, ma nella riforma del modello di identità. È fondamentale eliminare l’anonimato, attribuendo a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta criptograficamente da una root of trust hardware. Inoltre, è necessario abbandonare credenziali statiche come API key e password, applicando principi di zero-trust.
Gli agenti dovrebbero operare con privilegi di breve durata, legati a specifiche azioni autorizzate da un umano, in modo che i privilegi siano attaccati all’azione e non all’attore. Le attività sensibili dovrebbero essere svolte solo all’interno di un ambiente di esecuzione sicuro, prima di interagire con l’infrastruttura di produzione. Eliminando i privilegi di default, si riduce il raggio d’azione di eventuali errori.
Questa strategia richiede una policy di identità unica, impostata e applicata da un sistema centralizzato, che possa fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, necessari per gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.