Intelligenza artificiale generativa: cos'è e dove regge davvero

L'intelligenza artificiale generativa è la parte dell'intelligenza artificiale che produce contenuto nuovo, testo, immagini, audio o codice, invece di scegliere una risposta dentro un insieme deciso prima. La definizione sta in una riga e sembra innocua, ma si porta dietro l'unica cosa che conta davvero quando ci costruisci sopra qualcosa: non esiste una risposta giusta con cui confrontare quello che esce.

L'intelligenza artificiale generativa viene trattata quasi sempre come un pezzo di software normale, con un input, un output e un collaudo che verifica se i due coincidono, ed è l'equivoco che vedo saltare fuori più spesso nelle conversazioni con chi sta valutando un progetto. Quel collaudo non si può scrivere, e non perché manchi lo strumento giusto: perché la domanda "l'output è quello atteso" non ha senso su un sistema costruito apposta per produrne uno diverso ogni volta.

Intelligenza artificiale generativa e AI predittiva: dove passa il confine

La differenza fra intelligenza artificiale generativa e intelligenza artificiale predittiva è che la seconda ha una risposta giusta e la prima no. Un modello predittivo classifica una fattura come pagata o non pagata, stima un consumo, riconosce un pezzo difettoso: da qualche parte esiste l'etichetta vera, la si confronta con quello che il modello ha detto e si conta quante volte ha sbagliato. Un modello generativo scrive il preventivo o riassume la riunione, e non c'è nessuna etichetta da mettergli accanto.

Le due famiglie stanno dentro lo stesso insieme più grande, ed è utile sapere dove: la differenza tra machine learning e intelligenza artificiale riguarda il livello, questa riguarda invece che tipo di uscita produce il sistema.

Perché il confine decide come si collauda

Il collaudo di un sistema generativo si fa su un insieme di casi, non su un caso. La documentazione di Anthropic sulle valutazioni è esplicita nel dire che conviene privilegiare il volume sulla qualità, cioè più domande con una correzione automatica dal segnale un po' più debole invece di poche domande corrette a mano, e gli ordini di grandezza che porta come esempio sono di quel tipo: mille messaggi etichettati per un'analisi del sentimento, duecento articoli con il riassunto di riferimento per una sintesi, cinquecento richieste simulate per un assistente in ambito medico.

Quella stessa pagina insiste su una cosa che di solito viene tagliata per prima, i casi limite: errori di battitura, sarcasmo, input lunghi e sconclusionati, informazioni di contesto irrilevanti. Sono esattamente gli ingressi che un collaudo scritto a tavolino non contiene mai e che la realtà produce il primo giorno.

Che cosa vuol dire che l'AI generativa non è deterministica

L'AI generativa non è deterministica per costruzione, e questo va messo in conto prima di scrivere il primo test automatico. La documentazione dell'API di Anthropic lo scrive senza giri di parole sul parametro temperature, quello che regola quanto il modello si allontana dalla scelta più probabile: anche impostandolo a 0.0 i risultati non sono pienamente deterministici. Il parametro parte da 1.0 come valore predefinito e si muove fra 0.0 e 1.0.

La conseguenza pratica per chi scrive test automatici è secca. Un test che confronta l'uscita del modello con una stringa attesa fallirà prima o poi anche se il sistema funziona benissimo, e quel fallimento farà perdere mezza giornata a cercare un difetto che non c'è. Si verifica che l'uscita contenga i dati giusti, che rispetti il formato richiesto, che non contraddica la fonte: non che sia identica a una frase decisa in anticipo.

Il parametro che Anthropic ha appena tolto di mezzo

La stessa documentazione dell'API di Anthropic segna oggi temperature come deprecato, e la nota è netta: i modelli rilasciati dopo Claude Opus 4.6 non ne supportano più l'impostazione, il valore 1.0 resta accettato per compatibilità e qualsiasi altro valore viene rifiutato con un errore 400.

Chi aveva costruito la propria riproducibilità su quella manopola scopre che non esiste più. Era una difesa illusoria già prima, visto che a zero il risultato non era comunque garantito, ma adesso è anche formalmente chiusa: la variabilità dell'AI generativa si gestisce attorno al modello, con controlli sull'uscita, non dentro al modello con un parametro.

Dove l'intelligenza artificiale generativa regge e dove conviene un'automazione normale

L'intelligenza artificiale generativa regge dove l'output finisce sotto gli occhi di qualcuno prima di produrre effetti, e regge male dove chiude un processo da sola. Scrivere una bozza, riassumere, riformulare, estrarre campi da un documento disordinato, proporre una classificazione che poi qualcuno conferma: sono tutti casi in cui un errore costa una correzione. Calcolare un totale, applicare uno scaglione fiscale, decidere se una pratica rientra in una soglia: sono casi in cui la risposta è una sola, esiste già una regola che la produce, e infilarci dentro un modello aggiunge soltanto un modo nuovo di sbagliare.

La domanda concreta da farsi davanti a ogni passaggio è una: se questo output è sbagliato e nessuno se ne accorge, cosa succede? Se la risposta è "parte una fattura sbagliata" o "un cliente riceve un impegno che non possiamo mantenere", quel passaggio va scritto come regola deterministica dentro l'automazione dei processi e non affidato a un modello. Se la risposta è "qualcuno riscrive un paragrafo", il modello ci sta benissimo.

Vale la pena aggiungere una cosa che riguarda i testi e le immagini pubblicati: quando il contenuto generato esce dall'azienda, ci sono anche obblighi di trasparenza previsti dall'AI Act da tenere presenti.

Come tengo insieme le due cose su questo sito

Il blog che stai leggendo è l'esempio più vicino che ho. Gli articoli li scrive una routine automatica, quindi è un sistema generativo in produzione a nome mio, e il modo in cui provo a non farlo sbagliare non è chiedere al modello di stare attento: è togliergli di mano tutto quello che una regola può decidere meglio.

Le regole di scrittura stanno in file versionati dentro .claude/skills/articolo/, non nella memoria del modello. La scelta di quale domanda coprire non la fa il modello a sensazione, la fa un archivio di misure che sta in data/seo/: 3.589 righe di volumi di ricerca e 138 domande di imbuto, tutte rilevate il primo agosto 2026. I controlli finali sono meccanici e contano cose, parole con wc -w, caratteri dell'excerpt, percorsi dei link verificati con ls, e se uno di quei conti non torna l'articolo non esce. Al modello resta la parte che solo lui può fare, scrivere.

Il perimetro deterministico conta più della scelta del modello

Il perimetro deterministico attorno al modello è la parte che tiene in piedi un sistema generativo, e vale per chiunque ci costruisca sopra. Il prompt engineering e la scelta del modello contano, ma spostano la qualità media: sono i controlli fissi attorno al modello a decidere cosa succede nel caso peggiore, che è l'unico che fa danni. Se vuoi capire il meccanismo un livello più sotto, ho scritto come funziona un modello di linguaggio e cosa ne discende per chi ci costruisce sopra.

L'intelligenza artificiale generativa non è né il motore di ricerca preciso che qualcuno si aspetta né il giocattolo inaffidabile di cui si lamenta qualcun altro. È uno strumento che produce output plausibili, e plausibile è una categoria diversa da corretto. Progettare tenendo ferma quella distinzione è quasi tutto il mestiere.