Quali sono i rischi dell'intelligenza artificiale in azienda, e quali vi stanno solo vendendo
I rischi dell'intelligenza artificiale in azienda sono i danni che uno strumento può produrre mentre lavora dentro i vostri sistemi: dati che escono, operazioni irreversibili eseguite senza che nessuno le abbia approvate, responsabilità legale che resta in capo a chi lo usa. Sono tre famiglie diverse, con probabilità molto diverse, e vengono quasi sempre vendute insieme dentro un unico spavento generico.
Vale la pena separarle, perché due di queste tre si gestiscono in un pomeriggio e la terza, nella sua forma più grave, quasi nessuna PMI italiana la incontrerà. E ne esiste una quarta, più recente delle altre, che non compare in nessuna delle presentazioni commerciali che girano in Italia: il registro di estensioni per assistenti di programmazione tech-leads-club/agent-skills dichiara nel proprio file di presentazione la ragione per cui esiste, cioè che oltre il 13 per cento delle estensioni distribuite nei marketplace pubblici contiene vulnerabilità critiche. Il numero esatto che riporta è il 13,4 per cento, e la fonte che cita è un report di Snyk Agent Scan.
Quali rischi dell'intelligenza artificiale in azienda riguardano davvero una PMI
I rischi che si materializzano in un'azienda da dieci a duecento dipendenti sono tre, e si distinguono da tutti gli altri per una caratteristica sola: dipendono da una decisione che avete preso voi, non dalla tecnologia.
| Rischio | Quando riguarda la vostra azienda | Come misurate l'esposizione |
|---|---|---|
| Dati che escono | Sempre, dal primo giorno in cui qualcuno apre un assistente | Quali dati vengono incollati, e con quale account |
| Operazioni irreversibili | Solo se uno strumento ha un accesso che permette di scrivere, non solo di leggere | Se lo strumento può cancellare, inviare o modificare da solo |
| Responsabilità legale | Se il sistema decide su persone o sulla sicurezza | Se quello che decide rientra nell'allegato III dell'AI Act |
La colonna delle misure è la parte che conta. Ognuno di questi tre rischi ha una misura concreta, e una misura concreta si può controllare in mezza giornata senza comprare niente.
I rischi AI in azienda che vi vendono e che non esistono ancora
I rischi AI in azienda su cui si costruiscono più presentazioni commerciali sono quasi sempre quelli che non riguardano una PMI. Il modello che "impara dai vostri dati e li rivela a un concorrente" non è il modo in cui funzionano i servizi aziendali a pagamento, e la questione vera sui dati è un'altra, cioè dove vengono conservati e per quanto: l'ho spiegata scrivendo di dove finiscono i dati che date all'intelligenza artificiale.
L'allucinazione presentata come rischio sistemico è l'altro spavento ricorrente. Una risposta sbagliata è un problema di processo, non di sicurezza: diventa un danno solo se nessuno la rilegge prima che esca dall'azienda, e la soluzione è un passaggio di revisione, non un software in più.
Il rischio arrivato per ultimo: le estensioni gratuite che nessuno controlla
Il rischio più nuovo riguarda le estensioni, cioè i pacchetti di istruzioni che allargano quello che un assistente AI sa fare. Il registro tech-leads-club/agent-skills, che si presenta come registro validato di estensioni per assistenti di programmazione professionali e oggi raccoglie circa settemila stelle su GitHub, supporta fra gli altri Claude Code, Cursor, GitHub Copilot, Cline e Windsurf, e dichiara di sottoporre ogni estensione a Snyk Agent Scan prima di pubblicarla, insieme ad analisi statica nella propria catena di pubblicazione e a un file di blocco con le impronte dei contenuti.
Snyk Agent Scan, lo strumento citato, cerca sulla macchina gli assistenti, i collegamenti verso gli altri programmi e le estensioni installate, e ne analizza il contenuto. Le categorie di problema che dichiara di rilevare dicono bene cosa può nascondere un pacchetto di istruzioni scaricato gratis: iniezione di istruzioni nascoste, avvelenamento degli strumenti, carichi malevoli, credenziali gestite male, segreti scritti in chiaro, scaricamenti sospetti, esposizione di dati privati e operazioni distruttive.
Questo non riguarda l'imprenditore che usa un assistente dal browser. Riguarda chi vi scrive il software, perché quelle estensioni entrano nell'ambiente dove il vostro codice viene costruito.
Cosa chiedere a chi vi sviluppa il software
La domanda da fare al fornitore è una e sta in una riga: le estensioni che installate nei vostri assistenti di programmazione da dove arrivano, e chi le ha controllate. Una risposta buona nomina un registro con una verifica dichiarata oppure una cartella interna all'azienda; una risposta vaga del tipo "le prendiamo dalla community" è l'informazione che cercavate.
È la versione aggiornata di una domanda che su questo blog ho già posto in termini più generali parlando di cosa chiedere sulla sicurezza del software dei fornitori. Vale la pena aggiungerla all'elenco, perché nel frattempo è cambiato lo strumento con cui quel software viene scritto. Chi vuole capire cosa sono queste estensioni prima di parlarne con il fornitore trova il meccanismo spiegato nell'articolo su cosa sono le agent skills e come si installano.
Dal 30 settembre il rischio legale è anche penale
Il rischio legale dell'intelligenza artificiale in Italia è cambiato il 30 settembre 2026, data di entrata in vigore del decreto legislativo 160/2026, che introduce nel codice penale l'articolo 437-bis e porta quel reato fra quelli che fanno scattare la responsabilità dell'ente. La condizione che lo fa scattare però è strettissima, e il punto l'ho già argomentato per esteso scrivendo che la nuova legge italiana sull'intelligenza artificiale quasi nessuna PMI la incontrerà.
Il rischio legale che invece tocca tutti è più noioso e più probabile: gli obblighi che il regolamento europeo mette in capo a chi usa l'intelligenza artificiale comprata, che sono pochi, sono già in vigore e nessuno li contesta mai in riunione. Li ho elencati uno per uno nell'articolo sugli obblighi dell'AI Act per le PMI.
Il tono di questa sezione è volutamente basso, e c'è una ragione. Chi vi vende l'urgenza normativa conta sul fatto che non leggerete il testo. Il testo, letto, dice molto meno di quello che vi raccontano.
Come mettere in ordine la vostra esposizione in un pomeriggio
Il modo di ordinare i tre rischi è una domanda sola, da porre per ogni strumento AI che entra in azienda: questo strumento può agire da solo, e su che cosa. Dalla risposta discende tutto il resto.
Gli strumenti che possono soltanto proporre un testo restano nel primo rischio, quello sui dati, e la regola per loro è una: niente dentro la finestra di conversazione che non uscirebbe dall'azienda per email. Per capire cosa dice il Garante su questo punto c'è l'articolo sui dati aziendali dentro ChatGPT.
Gli strumenti che hanno un accesso per scrivere passano al secondo rischio, e lì la decisione da prendere riguarda i permessi, non la fiducia: quale account usano, e se possono cancellare o inviare da soli. Il percorso completo sta nell'articolo su quali permessi dare agli strumenti AI in azienda.
Se vi serve fare questa mappatura con qualcuno che l'ha già fatta altrove, è una delle cose che facciamo nel lavoro sui dati aziendali e l'intelligenza artificiale, partendo da dove sono i dati e da chi li tocca.
Le skill di questo blog stanno nel repository, non in un marketplace
Gli articoli di questo blog li scrive una routine automatica, e le istruzioni che la guidano stanno dentro .claude/skills/articolo/ nel repository del sito: cinque file di testo che ho scritto io, versionati insieme al resto del codice. Nessuno di quei file arriva da un registro pubblico.
Non è stata una scelta di sicurezza, all'inizio: le ho scritte a mano perché le mie regole di scrittura non le trova nessun registro pubblico. Il risultato però è che davanti al numero sul 13,4 per cento non ho avuto niente da controllare, e questo è il vantaggio di tenere dentro casa le poche istruzioni che contano davvero.
Dei tre rischi dell'intelligenza artificiale in azienda, quello che vedo ignorato più spesso non è il più spettacolare: è il secondo, i permessi, perché costa una decisione e non un acquisto. Il primo si risolve con una frase detta alle persone, il terzo con mezz'ora di lettura. Il secondo richiede di decidere chi comanda su cosa, e per questo resta lì.
Domande frequenti
I rischi AI in azienda cambiano se usiamo soltanto ChatGPT e nessun agente?
Sì, e si riducono di molto. Un assistente come ChatGPT propone un testo e una persona decide cosa farne, quindi il rischio di operazioni irreversibili non esiste: resta soltanto quello sui dati, cioè cosa viene incollato dentro la finestra di conversazione. Il rischio di esecuzione compare quando lo strumento riceve un accesso ai sistemi aziendali e può agire da solo, ed è lì che serve una decisione su chi può fare cosa.
Chi risponde in azienda se l'intelligenza artificiale produce un danno?
Risponde l'azienda che usa il sistema, non quella che lo ha costruito, per la parte che riguarda l'uso. Il regolamento europeo mette in capo all'utilizzatore professionale obblighi propri, fra cui usare il sistema seguendo le istruzioni del fornitore, e in Italia dal 30 settembre 2026 esiste anche un binario penale per l'omessa sorveglianza umana sui sistemi ad alto rischio. La sede del fornitore non sposta questi doveri.
Come si capisce se uno strumento che usiamo è ad alto rischio secondo l'AI Act?
Si confronta quello che lo strumento decide con l'allegato III del regolamento (UE) 2024/1689, che elenca gli ambiti ad alto rischio, fra cui la selezione del personale e la valutazione delle persone. Un sistema che si limita a un compito preparatorio e non influenza materialmente l'esito può restare fuori, per l'articolo 6 paragrafo 3, ma la via d'uscita si chiude se il sistema profila persone fisiche.
Conviene vietare ai dipendenti gli strumenti AI gratuiti?
Il divieto generale non funziona, perché gli strumenti gratuiti entrano comunque dal telefono personale e il risultato è che nessuno vi dice più quali usa. Funziona meglio la regola opposta: una lista corta di strumenti consentiti con un account aziendale, e il divieto preciso di incollare dentro qualunque strumento i dati che non uscirebbero dall'azienda per email.