Allucinazioni dell’AI sul lavoro: riconoscere gli errori sicuri di sé

La risposta dell’AI più pericolosa è quella che suona esattamente giusta. Le allucinazioni dell’AI sono output fluidi, sicuri di sé e sbagliati: citazioni inventate, statistiche inesistenti e affermazioni su regole interne consegnate in una prosa impeccabile. Accadono perché strumenti come ChatGPT prevedono testo plausibile invece di cercare fatti verificati, e una manciata di abitudini di verifica ne intercetta la maggior parte prima che costino denaro alla vostra azienda.

Che cosa sono le allucinazioni dell’AI, in parole semplici?

Le allucinazioni dell’AI sono risposte che suonano fluide e sicure ma che sono factualmente sbagliate. Il termine comprende citazioni inventate, numeri che non compaiono in nessun rapporto reale, frasi che nessuno ha mai detto e regole che non esistono. Ciò che rende pericolosa un’allucinazione non è l’errore in sé ma la consegna: la risposta sbagliata arriva con lo stesso tono curato e sicuro di quella giusta. Un esperto umano che ha dubbi tende a smorzare. Un modello linguistico non segnala l’incertezza in modo affidabile, quindi una sentenza inventata e una reale si leggono allo stesso modo. Per questo «l’AI si inventa le cose» è un modello mentale più utile per i dipendenti di «l’AI a volte è imprecisa». L’imprecisione suggerisce piccoli scostamenti. L’invenzione è ciò che accade davvero: il modello produce una risposta completa, plausibile, coerente al suo interno e senza alcun legame con la realtà. Quando un team interiorizza che gli errori dell’AI sul lavoro sembrano identici alle risposte corrette, la verifica smette di sembrare facoltativa e diventa parte del lavoro.

Perché l’AI si inventa le cose?

L’AI si inventa le cose perché i grandi modelli linguistici prevedono la parola plausibile successiva; non cercano i fatti in un database. Quando chiedete a ChatGPT il fatturato di un’azienda o il testo di una norma, il modello non recupera alcun record. Genera testo che somiglia statisticamente alle risposte date a domande simili nei suoi dati di addestramento. Il più delle volte quella somiglianza coincide con la verità. Quando non accade, il modello riempie il vuoto con qualcosa che si adatta allo schema: una citazione formattata alla perfezione, una statistica con un decimale credibile, un numero di articolo di legge che segue la convenzione giusta. Nulla nel processo distingue il ricordo dall’invenzione, ed è per questo che il modello non può avvertirvi. Gli strumenti che aggiungono la ricerca web o l’accesso ai documenti riducono il problema ma non lo eliminano: il modello può ancora leggere male una fonte, mescolare due fonti o citare una pagina che dice qualcosa di diverso dal suo riassunto. La previsione è il motore. La verifica deve venire dalla persona.

Dove fanno più male le allucinazioni dell’AI sul lavoro?

Le allucinazioni dell’AI fanno più danni sul lavoro in tre punti: citazioni inventate, cifre sbagliate e affermazioni false su regole o norme di legge. Le citazioni inventate compaiono in report, proposte e documenti legali come rimandi a studi, sentenze o standard che non esistono, e vengono a galla nel momento in cui un cliente o un revisore va a controllare. Le cifre sbagliate sono più silenziose: la dimensione di un mercato, un tasso di conversione o una soglia fiscale spostata quanto basta per distorcere una decisione, incollata in una slide che venti persone tratteranno poi come un dato di fatto. Le affermazioni false sulle regole sono le più corrosive, perché i dipendenti chiedono all’AI cose come «posso farlo» oppure «che cosa richiede la legge», e una risposta sbagliata ma sicura diventa la base di comportamenti reali. In ogni caso lo schema del fallimento è lo stesso: una persona si è fidata di un output non verificato e l’organizzazione lo ha amplificato. Il costo raramente sta nel primo errore; sta nell’inoltro, nella citazione e nelle decisioni che seguono. Questa è anche la buona notizia, perché una sola abitudine di verifica al primo passaggio spezza l’intera catena.

Quali attività con l’AI sono a basso rischio e quali ad alto rischio?

Le attività il cui risultato potete giudicare da soli sono a basso rischio; quelle in cui dipendete dal risultato per i fatti sono ad alto rischio. Scrivere una e mail è a basso rischio perché leggete ogni parola prima di inviarla e il contenuto viene dalla vostra testa. Chiedere una statistica è ad alto rischio perché non potete distinguere a occhio un numero reale da uno inventato. La tabella qui sotto è una regola di smistamento che qualsiasi team può adottare.

La regola pratica: più il valore del risultato dipende da fatti che non avete fornito voi, più alto è il rischio e più verifica serve prima che lo veda qualcun altro.

Quali abitudini di verifica intercettano le allucinazioni prima che si diffondano?

Tre abitudini intercettano quasi tutte le allucinazioni dell’AI: controllare la fonte, fare una seconda lettura e non inoltrare mai senza aver letto. Primo, il controllo della fonte: per ogni affermazione di fatto chiedete da dove viene, poi aprite il link, trovate il punto e confermate che la fonte esista e dica ciò che l’AI sostiene. Se l’AI non riesce a indicare una fonte che potete aprire, trattate l’affermazione come una bozza, non come un fatto. Secondo, la seconda lettura: rileggete l’output con una domanda in mente, «quali frasi qui mi metterebbero in imbarazzo se fossero sbagliate», e verificate esattamente quelle. È più rapido che controllare tutto e intercetta le affermazioni che contano. Terzo, non inoltrare mai senza aver letto: nessun output dell’AI va a un collega, a un cliente o dentro una presentazione senza che una persona ne abbia letto ogni riga. Questa sola regola blocca il problema di amplificazione descritto sopra. Queste abitudini si sposano naturalmente con la disciplina sugli input, cioè con il sapere che cosa non condividere con ChatGPT fin dall’inizio. L’uso sicuro funziona in entrambe le direzioni: attenti a ciò che entra, scettici su ciò che esce.

Ci si può fidare delle risposte di ChatGPT sul lavoro?

Potete fidarvi delle risposte di ChatGPT per la struttura e la lingua, e non dovete fidarvi per fatti che non avete verificato. Questa divisione è la risposta onesta ed è più utile sia della fiducia cieca sia del divieto totale. Per scrivere bozze, riscrivere, riassumere materiale vostro e generare opzioni, lo strumento è affidabile proprio dove conta: giudicate il risultato direttamente. Per nomi, numeri, date, citazioni e regole, trattate ogni risposta come una prima ipotesi scritta bene. Uno standard pratico adottato da molti team: fidatevi dell’output dell’AI come vi fidereste del lavoro di uno stagista sveglio appena arrivato, utile subito, controllato prima che esca dal team. Le aziende che la impostano così ottengono entrambi i risultati che vogliono. I dipendenti continuano a usare l’AI per il guadagno di velocità e gli errori dell’AI sul lavoro smettono di viaggiare oltre la prima bozza.

Come trasforma la formazione AI per i dipendenti la verifica in un’abitudine?

Una formazione AI strutturata funziona perché la verifica è un’abilità che si pratica, non una circolare che si legge. Una policy di una pagina che dice «verificate gli output dell’AI» cambia poco; una sessione in cui i dipendenti vedono un modello fabbricare una citazione e poi si esercitano a smascherarla cambia i comportamenti. Learnery è una piattaforma di formazione AI che funziona nel browser e certifica i dipendenti in circa otto ore a 39 euro a postazione, con pagamento una tantum. Il suo seminario in cinque tappe copre i fondamenti dell’AI, l’uso sicuro sul lavoro e il prompting quotidiano, poi si adatta al vostro settore e al vostro ruolo, così le lezioni sull’uso sicuro arrivano nel contesto in cui le persone lavorano davvero. Chi impara si esercita su AI dal vivo in un laboratorio di prompt, quindi vede le sciocchezze dette con sicurezza di persona invece di sentirne solo parlare, e alla fine ottiene un certificato con un codice verificabile online da chiunque. Per una visione più ampia delle opzioni di introduzione, leggete la nostra guida alla formazione AI per i dipendenti nel 2026, stimate il ritorno con il calcolatore di ROI gratuito oppure registratevi per iniziare con una sola postazione.