In Breve
- Quali sono i rischi legati al pulsante 'Approvo'?
- Il pulsante 'Approvo' può portare a una mancanza di responsabilità e trasparenza nelle decisioni degli agenti AI.
- Come devono essere gestiti gli agenti AI?
- Gli agenti AI devono essere trattati come entità dotate di identità, con credenziali e audit trail.
- Qual è l'importanza della supervisione umana?
- La supervisione umana è essenziale per garantire che le decisioni autonome siano allineate con gli obiettivi organizzativi.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le problematiche di rete. Questi sistemi possono risolvere problemi durante la notte senza necessità di notifiche, lasciando il controllo finale all’ispezione successiva da parte di un operatore umano. Tuttavia, questa pratica, nota come Human-on-the-Loop, presenta delle insidie.
In scenari meno controllati, agenti AI improvvisati possono eseguire correzioni senza fornire una documentazione chiara delle decisioni intraprese. Di conseguenza, i log possono mostrare solo il “cosa” è stato fatto, ma non il “perché”, rendendo difficile attribuire responsabilità in caso di malfunzionamenti o outage.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza adeguati vincoli, l’autonomia degli agenti AI può crescere in modo incontrollato. Ricerche recenti indicano che il 57% dei responsabili IT prevede di ridurre il coinvolgimento umano nel processo decisionale entro un anno, mentre il 79% considera gli agenti AI come “utenti” che necessitano di una gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti AI come entità dotate di identità, richiedendo loro credenziali, politiche operative, spiegabilità e audit trail simili a quelle degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone; applicare soluzioni informali agli agenti può generare accessi “ombra” e rischi non quantificabili. Per mitigare questi rischi, ogni agente deve essere configurato come un’entità principale con permessi limitati, accesso temporizzato e un registro completo delle azioni intraprese.
La fiducia nell’autonomia degli agenti deve essere graduale. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative in base a prove e limiti definiti, evitando di ricevere autonomie totali fin dall’inizio. Man mano che le decisioni autonome aumentano in volume e complessità, è essenziale affiancare la supervisione umana a infrastrutture che integrino identità, enforcement delle policy e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario comprendere cosa ciascun agente conoscesse e le azioni intraprese. Pertanto, il lavoro di impostazione di permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che possono esporre l’organizzazione a rischi latenti.