Agente di intelligenza artificiale in azienda: quanta autonomia dargli senza perdere il controllo
Un agente di intelligenza artificiale in azienda è un programma che porta a termine un compito scegliendo da solo gli strumenti e l'ordine, e la sua autonomia può crescere in sicurezza solo se i limiti sono messi fuori da lui. Lo sostiene Shawn Bice, vicepresidente dei servizi di intelligenza artificiale di AWS, nell'articolo "Trust in Depth: Giving agents more autonomy without losing control", pubblicato il 15 ottobre 2026 sul blog di AWS dedicato all'apprendimento automatico. Il titolo riassume bene il problema che ha davanti un imprenditore: vuole che l'agente faccia di più da solo, ma non si fida abbastanza da lasciarlo fare.
La risposta di AWS è un metodo a più livelli, che chiama Trust in Depth. Ogni livello è indipendente dagli altri e li rafforza a vicenda, sul modello della difesa a più strati che si usa in sicurezza informatica. Il testo dice che la fiducia nasce da livelli indipendenti che si rinforzano, non da un'unica barriera.
Come si lascia un compito a un agente AI senza controllare ogni passaggio
Il metodo di AWS parte da un'idea semplice: all'agente si lascia scegliere come perseguire il compito, ma non gli si affida mai il compito di far rispettare i propri limiti.
La differenza si vede nell'esempio che AWS usa nell'articolo. Un manager chiede a un agente dell'assistenza informatica di chiudere l'account di Sam, un account manager che lascia l'azienda. Vanno tolti gli accessi, la casella di posta va passata alla sua successora Priya e la licenza va liberata. C'è però un'insidia: le email di Sam potrebbero contenere prove utili in una controversia con un cliente.
Nell'esempio l'agente non deve mai cancellare l'account, perché la casella condivisa ne ha bisogno. Per questo AWS gli dà sei strumenti e nessuno serve a eliminarlo. Sono il blocco dell'accesso, la verifica dei blocchi di conservazione, l'applicazione di un blocco, la conversione della casella, l'accesso per la successora e il cambio di licenza.
Cosa succede quando l'ordine delle operazioni lo impone qualcun altro
L'agente dell'esempio sbaglia due volte, e proprio per questo l'esempio funziona. Le regole sono due: l'accesso di Sam va bloccato prima che la casella venga convertita e condivisa, e prima di cambiare la licenza si controlla se esiste un blocco di conservazione deciso dall'ufficio legale.
I due errori che il sistema ferma da solo
Il primo tentativo dell'agente è convertire la casella per Priya. Il passaggio di controllo tra l'agente e gli strumenti lo blocca, perché Sam può ancora entrare con le vecchie credenziali. L'agente blocca l'accesso, poi converte la casella e concede l'accesso a Priya.
Il secondo tentativo è cambiare la licenza. Viene fermato di nuovo, perché l'elenco dei blocchi dell'ufficio legale non è stato consultato. L'agente lo consulta, trova il blocco richiesto, lo applica, ne conferma l'efficacia e solo allora passa a una licenza che lo supporta.
Perché conta che la regola non sia nella testa dell'agente
Secondo AWS l'agente ha completato il compito senza che una persona approvasse ogni passaggio, e ogni passaggio è stato registrato. Il testo non dice che l'agente avrebbe sbagliato da solo: dice che il controllo non dipendeva da lui. Se un giorno l'agente cambiasse modello o istruzioni, le regole resterebbero dove sono.
Quali sono i quattro livelli di controllo di un agente AI in azienda
I quattro livelli della Trust in Depth sono scopo, identità, limiti e tracciabilità, e ciascuno risponde a una domanda che un imprenditore può fare a chi gli installa un agente. AWS li chiama in inglese Scope, Know, Bound e Observe. La tabella li traduce per una PMI e li collega all'esempio di Sam.
| Livello | Domanda per il fornitore | Quando agisce | Nell'esempio di Sam |
|---|---|---|---|
| Scopo | Cosa deve fare l'agente e cosa gli è vietato? | Prima che parta | Sei strumenti, nessuno per eliminare l'account |
| Identità | Chi è questo agente e chi lo ha autorizzato? | A ogni richiesta | L'agente ha una propria identità verificata |
| Limiti | Chi fa rispettare le regole mentre lavora? | Durante il lavoro | Il passaggio di controllo ferma i due tentativi in ordine sbagliato |
| Tracciabilità | Posso ricostruire cosa ha fatto? | Dopo | Ogni passaggio registrato, comprese le prove protette |
Per ciascun livello AWS cita i propri prodotti, tra cui Amazon Bedrock AgentCore, AWS Agent Registry e Amazon CloudWatch Omni. Una PMI non ha bisogno di quei nomi per usare le quattro domande: le può fare a qualunque fornitore, in italiano, prima di firmare.
Quanta autonomia dare a un agente AI: le regole che si dimostrano e quelle che no
Un agente AI può lavorare con molta autonomia sulle regole che si possono verificare in modo meccanico, e va affiancato da una persona su quelle che richiedono giudizio. AWS lo dice con due esempi: «solo un responsabile può approvare l'accesso» si può dimostrare, «mantieni un tono cordiale» no.
La differenza decide dove si mette l'autonomia. Dove la regola è precisa, il sistema controlla da solo e nessuno deve approvare ogni volta. Dove è ambigua, il compito passa a una persona. Il testo aggiunge che l'autonomia cresce man mano che si dimostra che le regole sono applicate, che l'agente è affidabile e che gli errori si riescono a vedere.
Per una PMI significa trattare i compiti di un agente AI come una scala. In fondo ci sono i passaggi che si possono scrivere come «prima A, poi B, mai C»: si lasciano all'agente. In alto ci sono quelli in cui conta il tono, l'opportunità o la relazione con un cliente: restano a una persona.
Cosa ho già scritto su questo tema e cosa aggiunge questo caso
Su questo blog ho già scritto due volte dello stesso nodo. In L'AI in azienda lavora con i permessi di chi la accende ho raccontato un agente di Amazon che ha lavorato con gli accessi di chi lo aveva avviato. In Uber ha aperto il sistema con cui controlla i propri agenti AI ho spiegato perché serve un controllo costruito apposta.
Il caso di Sam aggiunge una cosa che quei due articoli non avevano: l'ordine delle operazioni. Dare i permessi giusti non basta se l'agente può eseguire i passaggi nella sequenza sbagliata. Chi vuole capire come tenere una persona nel circuito trova il resto in supervisione umana dell'intelligenza artificiale in azienda.
Una cosa va detta con onestà: la fonte è un articolo di AWS, che vende gli strumenti che descrive. Il metodo regge anche senza di loro, ma le funzioni che cita sono sue e non le ho provate.
Il primo passo: un agente, un compito, un limite
AWS chiude l'articolo con una frase che una PMI può adottare così com'è: partire da un agente, un flusso di lavoro e un limite che si possa dimostrare. Per un'azienda da quindici o cinquanta persone il flusso di lavoro più adatto è quello che si ripete ogni volta che qualcuno entra o esce.
Questa settimana si può fare una cosa sola: prendere la procedura di uscita di un dipendente e scrivere su un foglio due colonne. A sinistra le operazioni, come blocco degli accessi, passaggio della posta e cambio della licenza. A destra la regola di ordine che le lega, con la persona che deve verificarla. Quel foglio è già un livello di scopo e di limiti, e serve a chiunque verrà dopo, agente o persona.
Chi vuole capire dove mettere un agente nella propria azienda trova il percorso nella pagina sugli agenti AI per le aziende. Per ripensare prima i processi che l'agente dovrà seguire c'è la pagina sull'automazione dei processi con l'intelligenza artificiale. Il costo reale di un agente, regole comprese, è nell'articolo su quanto costa un agente AI in azienda.
Un agente si lascia lavorare da solo quando si sa già, prima di accenderlo, cosa gli è impedito fare.
Domande frequenti
Cosa vuol dire dare autonomia a un agente AI?
Vuol dire lasciare che l'agente decida da solo come arrivare a un risultato, senza far approvare a una persona ogni singolo passaggio. L'autonomia non coincide con la libertà di fare tutto: il compito e i limiti li fissa l'azienda, il percorso lo sceglie l'agente. Più i limiti sono verificabili, più autonomia si può concedere con tranquillità.
Un agente AI può chiudere gli account di un dipendente che se ne va?
Può farlo, ed è un lavoro adatto perché ripetitivo e pieno di passaggi da eseguire nell'ordine giusto. Il rischio sta nelle conseguenze: una casella di posta convertita troppo presto o una licenza cambiata senza controlli possono far perdere documenti che servono in una controversia. Per questo l'ordine delle operazioni va imposto da regole esterne all'agente.
Che cos'è un blocco di conservazione dei dati e perché riguarda una PMI?
È un vincolo che impedisce di cancellare o modificare registrazioni che potrebbero servire come prova in una disputa legale. Riguarda una PMI ogni volta che una persona lascia l'azienda mentre c'è un contenzioso aperto con un cliente o un fornitore. La verifica va fatta prima di toccare la posta o la licenza di quella persona.
Serve usare i prodotti di AWS per applicare questo metodo?
No. AWS descrive il metodo con i propri strumenti, ma le quattro domande su scopo, identità, limiti e tracciabilità valgono con qualsiasi fornitore. Una PMI può cominciare con un elenco scritto delle operazioni che l'agente può compiere e un registro delle operazioni eseguite, senza comprare nulla.
Come capisco se una regola per un agente AI è abbastanza precisa?
Una regola è abbastanza precisa quando una persona che non ha visto l'agente lavorare può dire, guardando il registro, se è stata rispettata oppure no. «Solo un responsabile può approvare l'accesso» passa questa prova. «Mantieni un tono cordiale» no, e quel tipo di valutazione resta a una persona.