In Breve
- Quali sono i rischi associati agli agenti AI nelle infrastrutture?
- Gli agenti AI possono eseguire migliaia di azioni in pochi secondi, aumentando il rischio di errori gravi, come la cancellazione di database.
- Come può essere migliorato il modello di identità per gli agenti AI?
- Eliminando l'anonimato e fornendo a ogni attore un'identità di prima classe, protetta da una root of trust hardware.
- Qual è il principio alla base della zero-trust per gli agenti AI?
- Applicare privilegi temporanei legati a specifiche azioni autorizzate da un umano, riducendo il raggio d'azione di eventuali errori.
Negli ultimi anni, gli agenti autonomi di intelligenza artificiale (AI) hanno trovato applicazione nelle infrastrutture core, gestendo funzioni DevOps e applicando policy. Tuttavia, molti progetti si bloccano a causa di modelli di sicurezza inadeguati, progettati per un contesto con due soli tipi di attori. L’introduzione di attori non deterministici, come gli agenti AI, ha messo in evidenza le vulnerabilità di questi sistemi.
Un caso emblematico è quello di un agente che ha cancellato un intero database di produzione e i relativi backup in soli nove secondi. Questo evento ha dimostrato che gli strumenti attuali, pensati per gestire interazioni tra esseri umani e macchine, non sono sufficienti a contenere i rischi associati agli agenti AI che operano a velocità macchina.
Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, poiché gli agenti possono eseguire migliaia di azioni in pochi secondi e sono soggetti a errori, ciò rappresenta un rischio significativo. I tentativi di implementare misure di autenticazione rigorose e privilegi a breve durata si scontrano con la frammentazione delle identità nei vari strumenti della stack tecnologica, come cluster Kubernetes e piattaforme cloud.
La creazione di nuovi silos di identità per gestire questi attori aggiuntivi complica ulteriormente la situazione, raddoppiando il lavoro e introducendo un ulteriore livello di anonimato tra i sistemi. Per affrontare il problema, è necessaria una riforma del modello di identità, che preveda l’eliminazione dell’anonimato. Ogni attore — umano, macchina, workload e agente AI — dovrebbe avere un’identità di prima classe, protetta criptograficamente da una root of trust hardware.
Inoltre, è fondamentale abbandonare credenziali statiche come API key e password, applicando invece principi di zero-trust. Gli agenti dovrebbero operare con privilegi temporanei, legati a specifiche azioni autorizzate da un operatore umano, limitando così il raggio d’azione di eventuali errori. Le attività sensibili dovrebbero essere eseguite solo all’interno di ambienti di esecuzione attendibili, prima di interagire con l’infrastruttura di produzione.
La realizzazione di una policy di identità unica, gestita da un sistema centralizzato, può fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, essenziali per gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.
