Le risposte dell’IA sembravano così naturali che non sapevo da dove iniziare a dubitare.
Nel mio lavoro di supporto all’introduzione dell’IA generativa ho sentito spesso osservazioni simili. È quanto è accaduto, per esempio, in un’azienda a un addetto alla pianificazione commerciale che aveva iniziato a utilizzare l’IA generativa insieme ai team IT, legale e di trasformazione digitale. Affidare all’IA la preparazione di bozze di e-mail, i riepiloghi delle riunioni o una prima traccia per le ricerche rendeva il lavoro più rapido. Allo stesso tempo, però, l’IA poteva presentare come attendibili procedure inesistenti o dati numerici non verificati. Per i reparti operativi era «utile, ma inquietante»; per l’IT era «difficile stabilire fino a che punto autorizzarne l’uso»; per l’ufficio legale c’era «il rischio che informazioni errate finissero nei documenti destinati all’esterno».
Ho maturato esperienza in questi ambiti a partire dal lavoro come ingegnere nello sviluppo di prodotti, per poi occuparmi di vendite, marketing, direzione aziendale e miglioramento dei processi. Questa esperienza mi ha insegnato che le risposte errate dell’IA non sono «un problema che riguarda soltanto gli esperti di tecnologia». Al contrario, il rischio diventa particolarmente concreto proprio quando l’IA entra nelle attività quotidiane del personale operativo.
Oggi sempre più aziende stanno passando a un modello operativo in cui le risposte dell’IA non vengono trattate come corrette a priori, ma usate come bozze, sintesi o strumenti per organizzare i punti da esaminare, mentre le persone verificano fonti, numeri e nomi propri. Questo articolo chiarisce che cosa sono le allucinazioni dell’IA, perché si verificano risposte errate, in quali attività aziendali si presentano più facilmente e come contrastarle. L’obiettivo non è fermare l’IA, ma poterla usare in sicurezza partendo dal presupposto che possa sbagliare. Una checklist, tuttavia, non elimina da sola il rischio: occorre considerarla insieme a regole interne, formazione e revisioni periodiche.
Che cosa sono le allucinazioni dell’IA?
Si parla di allucinazione quando l’IA generativa produce un contenuto non corrispondente ai fatti, presentandolo come se fosse corretto.
Rientrano in questo fenomeno, per esempio, i casi seguenti:
- descrivere una procedura aziendale inesistente come se esistesse;
- indicare come fonti nomi di documenti o URL che non sono stati consultati;
- riportare dati non verificati come risultati concreti;
- integrare il contenuto di contratti o regolamenti con considerazioni generali;
- inserire nel verbale decisioni che non sono state discusse durante la riunione.
Il problema è che un’allucinazione non si presenta necessariamente come una risposta palesemente assurda. Al contrario, il testo può apparire naturale, preciso e perfettamente logico. Nei casi che ho verificato sul campo, spesso il problema non emergeva alla prima lettura: soltanto tornando alla fonte originale si scopriva che «questa procedura non esiste» oppure che «questo dato non compare nel documento».
Le risposte dell’IA generativa non sono citazioni dirette dei risultati di ricerca o dei database aziendali. Il sistema genera una risposta dall’aspetto naturale sulla base delle istruzioni e del contesto ricevuti. Per questo, anche quando mancano informazioni, può evitare di rispondere “non lo so” e colmare le lacune con informazioni non verificate.
Per usare l’IA generativa in azienda occorre partire da un presupposto semplice: «l’IA può sbagliare». Non significa rifiutare questa tecnologia, ma creare le condizioni per utilizzarla in modo sicuro e sostenibile nel lavoro quotidiano.
Perché l’IA produce risposte errate
Le risposte errate dell’IA generativa possono avere diverse cause. Comprenderle aiuta a non temere le allucinazioni più del necessario e a individuare con maggiore facilità gli aspetti che richiedono attenzione.
Cerca di rispondere anche su informazioni che non ha appreso
L’IA può tentare di costruire una risposta anche quando non conosce l’argomento o non dispone di elementi sufficienti per valutarlo.
Supponiamo, per esempio, di chiederle: “Mi spieghi la politica aziendale sul congedo parentale?”. Anche senza consultare il regolamento interno, l’IA potrebbe rispondere sulla base di una descrizione generale dell’istituto. Per chi legge, il testo può sembrare naturale, ma non è detto che coincida con le regole di quell’azienda.
In domande di questo tipo occorre chiarire se si sta chiedendo all’IA una spiegazione generale oppure una risposta fondata sul regolamento aziendale. Nelle prime fasi di adozione, questa distinzione tende facilmente a rimanere implicita. Per questo la esplicito sempre durante la formazione iniziale: dopo aver sperimentato l’utilità dell’IA, infatti, è naturale iniziare a fidarsi più facilmente delle sue risposte.
Se la domanda è ambigua, integra i presupposti mancanti
“Riassumi bene questo contenuto”, “indicami i rischi”, “trasformalo in un testo adatto ai clienti”. Richieste simili sono comode, ma lasciano all’IA un ampio margine di interpretazione. Non specificano a chi è destinato il testo, quale documento debba costituire il riferimento o fino a che punto sia lecito formulare affermazioni nette; si crea così lo spazio perché l’IA aggiunga presupposti mancanti.
Anche la formulazione del prompt è importante per contrastare le allucinazioni. Definire con chiarezza obiettivo, destinatari, informazioni di riferimento, formato dell’output e vincoli aiuta a ridurre le integrazioni non necessarie.
Per esperienza, le aziende che adottano l’IA in modo più efficace non trattano i prompt come semplici «accorgimenti individuali», ma come parte della progettazione del lavoro. Non lasciano che soltanto le persone più esperte sappiano formulare richieste efficaci: condividono all’interno del team criteri e modelli comuni, così da ottenere risultati più uniformi e ripetibili.
Può essere debole sulle informazioni recenti o specifiche dell’azienda
L’IA può essere poco affidabile rispetto a modifiche normative recenti, dati di mercato aggiornati, nomi di procedure utilizzati soltanto in azienda o regole operative proprie dei singoli reparti.
Occorre prestare particolare attenzione alle informazioni seguenti:
- leggi e regolamenti aggiornati;
- sviluppi recenti delle aziende concorrenti;
- strutture tariffarie proprie dell’azienda;
- regolamenti interni e flussi di approvazione;
- condizioni contrattuali dei singoli clienti;
- informazioni su campagne non ancora pubbliche.
Questi contenuti non devono essere affidati interamente all’IA: è necessario tornare sempre alle fonti primarie per verificarli.
In molte situazioni l’IA è molto più veloce di una persona nel produrre un testo. Conoscere le regole effettivamente in vigore in azienda, interpretare uno specifico contratto con un cliente o tenere conto dell’ultimo flusso di approvazione è però un’altra cosa. Proprio perché l’IA è veloce, è necessario prevedere consapevolmente dei punti di controllo.
Può creare riferimenti che sembrano fonti
Se si chiede all’IA di “aggiungere anche le fonti”, può fornire una risposta nel formato di una citazione. Non è però detto che la fonte esista davvero.
Potrebbe, per esempio, indicare il titolo di un documento inesistente, il numero di una pagina inesistente o un URL non verificabile. La presenza di una fonte non rende corretta una risposta: bisogna controllare che la fonte esista realmente e che il suo contenuto corrisponda a quanto riportato.
Nella pratica, questo aspetto viene trascurato più facilmente di quanto si pensi. La presenza di un titolo o di un URL fa apparire il contenuto più affidabile. Proprio per questo, quando l’IA indica una fonte, consiglio di fermarsi e porsi una domanda molto semplice: «Esiste davvero?».
Le attività aziendali in cui le allucinazioni si verificano più facilmente
Le allucinazioni non hanno lo stesso impatto in ogni attività. Occorre prestare particolare attenzione quando informazioni errate possono influire sulle decisioni interne o esterne e sui rapporti con i clienti.
Richieste relative a regolamenti e procedure interne
Nei reparti risorse umane, affari generali, amministrazione e sistemi informativi può essere utile usare l’IA per rispondere alle domande dei dipendenti.
Per esempio:
- Posso chiedere il rimborso di questa spesa di trasporto?
- A quale reparto devo inviare la richiesta per svolgere un secondo lavoro?
- Qual è il termine per presentare la domanda di congedo parentale?
- Quali beni aziendali devo restituire quando lascio l’azienda?
A prima vista, queste domande sembrano adatte all’IA. In effetti, organizzare regolamenti e FAQ interni affinché i dipendenti possano trovare autonomamente le informazioni è un valido ambito di applicazione.
Se però la risposta non si basa sul regolamento interno, può indurre il dipendente ad agire in modo errato. Se, per esempio, una procedura richiede una domanda preventiva ma l’IA risponde che “è possibile presentarla anche in seguito”, si crea confusione nel lavoro quotidiano.
Per le domande sui regolamenti interni è importante impedire all’IA di rispondere in termini generali. Occorre introdurre vincoli come “se non vi è un fondamento nel regolamento, rispondi che non è possibile stabilirlo” oppure “indica il nome del regolamento e l’articolo pertinente”.
Prima revisione di contratti e questioni legali
L’IA comincia a essere utilizzata anche per una prima revisione dei contratti. Può essere utile per individuare clausole mancanti o organizzare i punti da esaminare.
È tuttavia rischioso trattare il suo output come una valutazione legale definitiva.
In un contratto, il significato può cambiare in base a una parte della formulazione o al contesto. Contano anche la storia delle trattative con la controparte e la propensione al rischio dell’azienda. Anche se l’IA conclude che “non ci sono problemi”, non si tratta di una decisione finale.
Anche quando si usa l’IA per contratti e regolamenti, raccomando di considerarla non come un «soggetto che decide», ma come un «assistente che aiuta a individuare i punti da valutare». Qualsiasi output di natura legale deve comunque essere verificato dal reparto competente o da un consulente.
Ricerche di mercato, analisi dei concorrenti e citazioni di dati
Nel marketing e nella pianificazione commerciale si può usare l’IA per predisporre una prima traccia di una ricerca di mercato o di un confronto tra concorrenti.
In questo ambito, le allucinazioni sono particolarmente difficili da individuare, perché le risposte possono includere “dimensioni di mercato plausibili”, “tassi di crescita plausibili” e “confronti plausibili tra concorrenti”.
Quello che segue è un esempio ipotetico:
Nel 2025, il mercato nazionale di XX vale circa 100 miliardi di yen e cresce del 10% all’anno.
Una frase simile sembra plausibile. Tuttavia, in assenza della fonte, dell’anno della ricerca, della definizione del mercato considerato e del perimetro dei dati, non dovrebbe essere utilizzata nel lavoro.
Quando si usa l’IA per una ricerca di mercato, è più sicuro affidarle l’organizzazione degli «aspetti da indagare», delle «fonti da verificare» e dei «criteri di confronto», anziché prendere per buoni i dati numerici che produce. Nelle prime fasi di una ricerca, anch’io le chiedo spesso non una «risposta», ma una «mappa di ciò che occorre verificare».
Sintesi dei verbali e organizzazione degli appunti commerciali
La sintesi tramite IA è utile per organizzare il contenuto di riunioni e incontri commerciali. Se registrazioni, appunti e materiali possono essere riassunti in un formato prestabilito, si riduce il carico legato alla redazione dei verbali e alla condivisione delle informazioni.
Nei verbali e negli appunti commerciali occorre però fare attenzione agli errori seguenti:
- presentare come “decisione” qualcosa che non è stato deciso;
- attribuire un’attività a una persona quando il responsabile non è ancora stato designato;
- riassumere un’ipotesi ancora in discussione come se fosse una linea ormai approvata;
- riformulare eccessivamente le parole del cliente secondo l’interpretazione interna.
Il riepilogo tramite IA può aiutare a ridurre il tempo di verifica dopo una riunione. Prima di condividerlo come verbale definitivo, una persona deve però confrontarlo con la registrazione, gli appunti e la percezione dei partecipanti.
Una riunione non è soltanto un elenco di interventi. Occorre capire con quale atteggiamento una persona si è espressa, fino a che punto sia stato raggiunto un accordo e quali questioni siano rimaste in sospeso. In questo ambito, la lettura del contesto resta in larga misura un compito umano.
E-mail ai clienti, proposte e risposte alle FAQ
Nei testi inviati ai clienti, una risposta errata dell’IA può tradursi direttamente in una perdita di fiducia.
Occorre prestare particolare attenzione alle espressioni seguenti:
- Possiamo garantire un miglioramento.
- Possiamo gestire qualsiasi richiesta.
- Siamo migliori della concorrenza.
- Completeremo il lavoro entro XX giorni.
- Non vi sono problemi legali.
Affermazioni così nette non devono essere usate senza una verifica dei fatti e un’approvazione interna.
Un testo creato dall’IA è utile come bozza. Prima di inviarlo al cliente, però, bisogna sempre verificare numeri, condizioni, contenuto del contratto e limiti di ciò che è possibile promettere.
Anche nelle attività di supporto a vendite e marketing evito che l’IA formuli affermazioni eccessivamente categoriche. Il confine tra un testo persuasivo e una promessa eccessiva è sottile. Soprattutto nel B2B, preservare la fiducia conta più di ottenere un vantaggio promozionale nel breve periodo.
Non cercare di azzerare le risposte errate dell’IA
Nel contrastare le allucinazioni, l’aspetto più importante non è tentare di eliminare completamente le risposte errate dell’IA.
Naturalmente, occorre adottare misure per ridurle. Ma se si usa l’IA nel lavoro, è più realistico progettare l’operatività partendo dal presupposto che possa sbagliare.
Quando affianco un’azienda nell’introduzione dell’IA, la domanda che pongo non è «come fare in modo che l’IA non sbagli mai», ma «come progettare il processo affinché un errore non si trasformi in un incidente operativo». È un approccio simile a quello adottato nello sviluppo dei sistemi: non si presume che un sistema sia privo di bug, ma si progettano anche meccanismi di rilevamento, revisione, autorizzazione, registrazione e ripristino. L’uso aziendale dell’IA generativa richiede lo stesso tipo di impostazione.
Non trattare l’IA come uno strumento che fornisce la risposta corretta
L’IA non è uno strumento che garantisce la risposta corretta. In particolare, non è adatta alla verifica dei fatti, alle valutazioni legali, alle decisioni finali o agli impegni assunti verso i clienti.
È invece adatta ad attività come:
- preparare una bozza;
- riassumere verbali e documenti;
- organizzare i punti da esaminare;
- generare idee;
- predisporre una prima versione di una tabella comparativa;
- elencare gli aspetti da controllare;
- creare prompt e modelli.
In altre parole, l’IA è efficace quando viene usata per costruire una base da cui iniziare a ragionare.
Le persone si occupano della verifica dei fatti, delle decisioni finali e delle conversazioni in cui conta il rapporto con l’interlocutore; all’IA si affidano bozze, sintesi, formattazione e impostazione iniziale di una ricerca. Definire chiaramente questa divisione dei ruoli facilita l’equilibrio tra velocità e sicurezza.
Distinguere le attività a basso rischio da quelle ad alto rischio
Applicare le stesse restrizioni a ogni uso dell’IA rende lo strumento poco pratico per i reparti operativi. Lasciare tutto completamente libero, d’altra parte, aumenta il rischio.
Per questo, è utile iniziare classificando le attività in base al rischio.
| Categoria | Esempi di attività | Criterio per l’uso dell’IA |
|---|---|---|
| Basso rischio | Appunti personali, bozze di testi interni, generazione di idee | Uso relativamente semplice, prestando comunque attenzione alle informazioni riservate |
| Rischio medio | Verbali, FAQ interne, bozze di materiali commerciali | Uso subordinato alla verifica da parte di una persona |
| Alto rischio | Contratti, questioni legali, dati personali, risposte ufficiali ai clienti | Verifica obbligatoria da parte del reparto competente |
| Ambiti vietati o da trattare con cautela | Dati sensibili, informazioni finanziarie non pubbliche, informazioni altamente riservate dei clienti | In linea di principio, non inserire questi dati |
Questa suddivisione aiuta i reparti operativi a capire non che “tutto è vietato”, ma “fino a che punto è possibile usare l’IA”.
Nelle aziende in cui l’adozione si blocca, il confronto tende spesso a polarizzarsi tra due estremi: «non usarla perché è pericolosa» oppure «usarla liberamente perché è utile». È invece più efficace progettare un modello operativo realistico che definisca con chiarezza dove, come e a quali condizioni l’IA può essere utilizzata.
Inserire la verifica umana nel flusso di lavoro
Un processo di controllo degli output dell’IA non è sostenibile se dipende soltanto dall’attenzione del singolo addetto.
È importante integrare punti di controllo nel flusso di lavoro.
Per un documento destinato ai clienti, per esempio, il processo può essere il seguente:
- l’addetto prepara con l’IA una bozza della struttura;
- l’addetto verifica numeri, nomi propri ed esempi;
- il responsabile controlla le espressioni e l’ambito degli impegni assunti;
- se necessario, l’ufficio legale o l’IT effettuano una verifica;
- il documento viene presentato al cliente.
Integrare l’uso dell’IA nei processi di revisione già esistenti consente di contenere i rischi senza rallentare eccessivamente il lavoro.
Dire soltanto che “una persona deve controllare” non costituisce un processo operativo. Chi controlla, in quale momento e che cosa verifica? Solo quando questi elementi sono definiti, l’uso dell’IA può radicarsi nel lavoro quotidiano.
Le misure fondamentali contro le allucinazioni
Vediamo ora le misure applicabili nella pratica.
Indicare chiaramente obiettivo, presupposti e formato dell’output
Se le istruzioni date all’IA sono ambigue, aumenta lo spazio per risposte errate.
Un cattivo esempio è una richiesta come questa:
Riassumi bene questo documento.
Per migliorarla, si può scrivere:
Riassumi il documento seguente per condividerlo durante la riunione commerciale interna.
# Obiettivo
Consentire al team commerciale di decidere le azioni successive
# Formato dell'output
- Punti principali: non più di 5
- Decisioni: elenco puntato
- Questioni non definite: indicare "da verificare"
- Numeri, date e nomi propri: usare soltanto quelli presenti nel testo originale
# Attenzione
Non aggiungere informazioni che non compaiono nel documento.
È quindi importante indicare all’IA non soltanto “che cosa deve fare”, ma anche “che cosa non deve fare”.
Consiglio di considerare il prompt per l’IA generativa non come una semplice «richiesta», ma come un’istruzione operativa. Una buona istruzione definisce obiettivo, presupposti, risultato atteso, vincoli e aspetti da verificare. Lo stesso principio vale quando si impartiscono indicazioni all’IA.
Chiedere di rispondere “da verificare” in caso di incertezza
L’IA può cercare di rispondere anche quando non conosce la risposta. Occorre quindi specificare fin dall’inizio: “Se l’informazione non è nota, scrivi da verificare”.
Esempio:
Per i contenuti non espressamente indicati nel regolamento interno, non formulare ipotesi e scrivi "Da verificare, perché manca un fondamento nel regolamento".
Anche questa sola frase può contribuire a ridurre il rischio che l’IA presenti come certe informazioni che non può verificare.
Soprattutto per FAQ interne, verifiche dei regolamenti e risposte ai clienti, è importante fare in modo che l’IA sappia dire di non sapere. Non è un’istruzione che ne riduce le capacità, ma che aumenta l’affidabilità nel contesto aziendale.
Tornare alle fonti primarie per numeri, date e nomi propri
Numeri, date e nomi propri sono gli elementi per cui le allucinazioni possono più facilmente diventare un problema operativo.
Gli elementi da controllare sono:
- importi;
- percentuali;
- numero di persone;
- date;
- nomi di aziende;
- nomi di reparti;
- nomi dei responsabili;
- nomi di prodotti;
- condizioni contrattuali;
- nomi di leggi;
- titoli di documenti.
I numeri e i nomi propri prodotti dall’IA devono sempre essere verificati tornando alle fonti primarie. Se non è possibile confermare la fonte originale, è opportuno eliminare l’informazione oppure indicarla come “da verificare”.
I numeri rendono un testo più convincente e, proprio per questo, possono essere particolarmente insidiosi. A volte è meglio omettere un dato piuttosto che inserirne uno privo di fondamento. Quando, durante la revisione di un documento, incontro un numero, la prima domanda che mi pongo è: «Da dove proviene questo dato?».
Verificare la presenza delle fonti primarie
Chiedere all’IA di indicare fonti primarie è utile, ma il fatto che siano riportate non è sufficiente.
Occorre controllare tre aspetti:
- la fonte primaria esiste realmente;
- il contenuto della fonte primaria coincide con il riepilogo dell’IA;
- la fonte primaria è ancora valida.
Per i documenti interni bisogna anche verificare che si tratti della versione più recente. Se la risposta si basa su un vecchio regolamento o su una proposta precedente, potrebbe non coincidere con l’operatività attuale.
Chiedere all’IA di aggiungere una fonte può essere il punto di partenza della verifica. Il controllo, però, non termina quando compare una citazione: è proprio da quel momento che inizia la verifica umana.
Prevedere una revisione umana prima dell’invio all’esterno
Ogni testo destinato all’esterno deve essere controllato da una persona.
Anche quando la bozza è stata creata dall’IA, prima di presentarla a clienti o partner commerciali una persona deve verificarla assumendosene la responsabilità. La revisione deve considerare:
- se fatti e ipotesi sono mescolati;
- se numeri e nomi propri sono corretti;
- se gli impegni espressi nel testo possono essere assunti verso il cliente;
- se vi sono affermazioni eccessivamente categoriche;
- se il testo è coerente con il tono aziendale;
- se contiene elementi che richiedono il controllo dell’ufficio legale, dell’IT o di un responsabile.
Anche se un testo è stato creato dall’IA, la responsabilità di presentarlo resta umana. È un aspetto che difficilmente cambierà, per quanto l’IA possa evolversi.
Affidare gli ambiti ad alto rischio ai reparti competenti
Negli ambiti seguenti, l’output dell’IA non deve essere usato così com’è:
- diritto;
- contratti;
- fiscalità;
- diritto del lavoro e gestione del personale;
- sicurezza;
- dati personali;
- medicina e salute;
- decisioni finanziarie;
- risposte ufficiali ai clienti.
In questi ambiti l’IA può essere utilizzata per “organizzare i punti da valutare” o “elencare gli aspetti da controllare”. La decisione finale deve però spettare al reparto competente o al responsabile.
Alle aziende che stanno ampliando l’uso dell’IA raccomando di dedicare alla definizione degli «ambiti in cui l’IA non deve decidere da sola» la stessa attenzione riservata ai nuovi casi d’uso. Stabilire quando non usarla non significa essere contrari all’IA: al contrario, è una condizione necessaria per adottarla in modo serio e sostenibile a livello organizzativo.
Checklist per verificare gli output dell’IA
Quando si riceve una risposta dall’IA, è possibile controllarla con la checklist seguente.
Controllo dei fatti
- I numeri hanno una fonte, un periodo di riferimento, un’unità di misura e una popolazione di riferimento?
- I nomi propri sono corretti?
- Le date sono corrette?
- La fonte della citazione esiste?
- Il documento consultato è la versione più recente?
- L’IA ha aggiunto informazioni assenti dal documento?
Controllo delle espressioni
- Le affermazioni sono troppo categoriche?
- Compaiono espressioni come “sempre”, “assolutamente” o “completamente”?
- Il testo formula promesse che è possibile fare al cliente?
- Il tono è coerente con quello dell’azienda?
- Il lettore potrebbe fraintendere?
Controllo dei rischi
- Il contenuto include dati personali o informazioni riservate?
- Comprende elementi che richiedono una verifica legale?
- Vi sono criticità di sicurezza?
- È in contrasto con le condizioni contrattuali?
- Può arrecare uno svantaggio a clienti o dipendenti?
Controllo delle decisioni
- La conclusione dell’IA è stata adottata senza modifiche?
- Sono state affidate all’IA anche parti che richiedono una decisione umana?
- Sono state consultate le persone interessate?
- Restano punti indicati come “da verificare”?
Adattate questa checklist al reparto e all’attività. L’importante non è ricominciare il controllo da zero ogni volta, ma disporre di criteri di verifica comuni a tutta l’azienda.
Per esperienza, nelle aziende in cui l’uso dell’IA si consolida davvero, la checklist non viene trattata come un semplice «documento per l’audit», ma come uno strumento operativo di tutela. Non serve a limitare chi usa l’IA, bensì ad ampliare in modo controllato l’ambito in cui può essere impiegata. È questa la prospettiva che la rende realmente utile.
Le regole interne da definire per l’uso dell’IA generativa
Le misure contro le allucinazioni non possono dipendere soltanto dall’attenzione individuale. Se l’organizzazione utilizza l’IA, deve stabilire almeno alcune regole di base.
Distinguere le informazioni che si possono inserire da quelle vietate
La prima decisione riguarda l’ambito delle informazioni che è consentito inserire nell’IA.
Si può, per esempio, adottare la classificazione seguente:
| Categoria di informazioni | Esempi | Trattamento |
|---|---|---|
| Informazioni pubbliche | Sito ufficiale, documenti pubblici, comunicati stampa | Facilmente utilizzabili |
| Informazioni aziendali generali | Manuali, FAQ interne, materiali formativi | Utilizzo conforme alle regole interne |
| Informazioni sui clienti | Appunti commerciali, condizioni contrattuali, proposte | Verificare contratto, autorizzazioni e mascheramento |
| Dati personali | Nome, indirizzo, recapiti, matricola del dipendente | In linea di principio, mascherare |
| Informazioni sensibili | Dati sanitari, dati bancari, informazioni finanziarie non pubbliche e simili | In linea di principio, non inserire |
In particolare, dati personali, informazioni sensibili e informazioni finanziarie non pubbliche richiedono una gestione prudente: può essere necessario escluderli dagli input o mascherarli prima dell’uso. Il profilo NIST sui rischi dell’IA generativa tratta, tra gli altri, i rischi legati alle informazioni false ma plausibili e alla privacy. Le regole aziendali devono tenere conto di entrambi.
Definire i responsabili della revisione
Occorre anche stabilire chi debba controllare gli output dell’IA.
La ripartizione può essere, per esempio, la seguente:
| Output | Principali revisori |
|---|---|
| Testi a uso interno | Autore, responsabile |
| E-mail ai clienti | Autore, responsabile e, se necessario, responsabile commerciale |
| Testi relativi a contratti e regolamenti | Reparti competenti, come legale, risorse umane e affari generali |
| Testi relativi alla sicurezza | IT, responsabile della sicurezza |
| Articoli web e testi pubblicitari | Responsabile marketing e, quando richiesta una verifica legale, ufficio legale |
Se non si stabilisce chi debba effettuare la revisione, il contenuto potrebbe essere pubblicato all’esterno senza che nessuno lo abbia controllato.
Dal punto di vista operativo, dire «qualcuno lo controllerà» equivale spesso a non assegnare il controllo a nessuno. L’obiettivo non è attribuire colpe, ma stabilire in anticipo chi sarà responsabile della revisione, così da poter utilizzare l’IA con criteri chiari.
Non copiare direttamente le risposte dell’IA
Può essere utile specificare nelle regole interne che “le risposte dell’IA non devono essere copiate così come sono”.
In particolare, è più sicuro non utilizzare direttamente i contenuti seguenti:
- risposte ai clienti;
- commenti sui contratti;
- spiegazioni su questioni legali o di lavoro;
- ricerche di mercato contenenti dati numerici;
- documenti destinati alla direzione;
- comunicazioni ai candidati;
- comunicati stampa e testi pubblicitari.
L’output dell’IA va considerato una bozza, controllato da una persona e riscritto con le parole dell’azienda prima dell’uso.
Per certi aspetti, questo passaggio ricorda la cucina: l’IA accelera la preparazione degli ingredienti, ma spetta a una persona regolare il sapore e decidere se il piatto è pronto per essere servito. Se si salta questa fase, la comodità può trasformarsi direttamente in rischio.
Rivedere periodicamente le regole
Il modo in cui l’IA viene utilizzata cambia gradualmente all’interno dell’azienda. Le regole definite all’inizio non sono necessariamente ottimali anche sei mesi dopo.
Una volta al mese o circa una volta a trimestre, è opportuno rivedere:
- gli scenari di utilizzo dell’IA più frequenti;
- i casi in cui si sono verificate risposte errate;
- dubbi e domande dei reparti operativi;
- l’ambito delle informazioni che è consentito inserire;
- le procedure di revisione;
- prompt e modelli;
- i contenuti della formazione.
Le misure contro le allucinazioni non sono qualcosa da definire una volta per tutte: vanno aggiornate man mano che cambia l’uso dell’IA. È lo stesso principio che guida lo sviluppo dei prodotti e il miglioramento dei processi. Invece di cercare fin dall’inizio un sistema perfetto, è più efficace partire in piccolo e adattarlo sulla base dell’esperienza concreta dei reparti operativi.
Che cosa considerare quando si utilizza Kanata
Per usare l’IA generativa nel lavoro sono disponibili diverse opzioni, tra cui strumenti di chat generalisti, piattaforme di IA interne, integrazioni con strumenti collaborativi e soluzioni per la ricerca nella conoscenza aziendale. Qualunque sia la scelta, è importante decidere prima “per quale attività utilizzarla”, “quali informazioni trattare” e “chi effettuerà la verifica”.
In questo contesto, Kanata è una piattaforma di supporto al lavoro che riunisce in un unico ambiente chat con IA, sintesi tramite IA, e-learning e altre funzioni, consentendo di organizzare utenti, dati e applicazioni per progetto. Può essere utilizzata per porre domande e chiedere assistenza all’IA, redigere testi, generare idee, svolgere ricerche, riassumere registrazioni di riunioni o appunti e distribuire contenuti formativi basati su video.
Per esempio, suddividere i progetti per reparto, salvare come prompt le istruzioni utilizzate più spesso e organizzare i documenti interni come dati di apprendimento aiuta a rendere l’adozione dell’IA meno dipendente dalle abitudini dei singoli. Kanata può essere particolarmente utile quando si vogliono gestire nello stesso ambiente sia il processo operativo sia il flusso di verifica, per attività come la sintesi dei verbali, le FAQ interne, i contenuti formativi e la preparazione di bozze di materiali commerciali.
Questo, tuttavia, non significa che l’uso di Kanata elimini completamente le allucinazioni.
La chat e la sintesi tramite IA sono utili per preparare bozze, organizzare informazioni e strutturare i punti da esaminare. Spetta però alle persone decidere se utilizzare gli output nel lavoro. In particolare, per documenti esterni, numeri, citazioni, regolamenti, contratti e contenuti relativi ad aspetti legali o di sicurezza, è importante non adottare direttamente l’output dell’IA.
Quando affianco le aziende nell’introduzione dell’IA, non mi limito alla scelta dello strumento. Per quali attività verrà utilizzato? Chi verificherà gli output? Quali informazioni potranno essere inserite? In che modo verranno riutilizzati i risultati? È solo progettando anche questi aspetti che l’IA può entrare stabilmente nei processi operativi.
Prompt pronti all’uso per contrastare le allucinazioni
Di seguito sono riportati alcuni prompt facili da usare direttamente nel lavoro. Adattateli ai regolamenti e ai flussi di verifica della vostra azienda.
Per prevenire le risposte errate
Rispondi alla domanda seguente.
# Regole importanti
- Non integrare con ipotesi ciò che non sai; scrivi "non noto" o "da verificare"
- Non aggiungere informazioni assenti dal documento
- Per numeri, date e nomi propri, usa soltanto quelli presenti nel testo di input
- Distingui i fatti dalle ipotesi
# Domanda
{Contenuto della domanda}
Per ottenere una risposta basata sui regolamenti interni
Sei un assistente che risponde sulla base dei regolamenti interni.
# Regole per la risposta
- Rispondi soltanto con contenuti espressamente indicati nei regolamenti
- Indica il nome, il capitolo e l'articolo del regolamento su cui si basa la risposta
- Se nel regolamento non è possibile individuare un fondamento, scrivi: "Occorre consultare il reparto competente, perché non è possibile verificare un fondamento nel regolamento"
- Non aggiungere considerazioni generali
# Domanda
{Domanda del dipendente}
Per preparare una prima traccia di una ricerca di mercato
Prepara una prima traccia di ricerca sul tema seguente.
# Tema
{Tema della ricerca}
# Contenuti richiesti
1. Aspetti da verificare
2. Possibili fonti primarie da consultare
3. Definizioni a cui prestare attenzione durante la ricerca
4. Presupposti necessari per verificare i dati numerici
5. Elementi sui quali non è ancora possibile formulare affermazioni definitive
# Attenzione
Non formulare affermazioni definitive su dimensioni o tassi di crescita del mercato.
Nei punti che richiedono dati numerici, scrivi "fonte necessaria".
Per ridurre gli errori nella sintesi dei verbali
Organizza gli appunti della riunione seguente in un verbale da condividere internamente.
# Formato dell'output
- Obiettivo della riunione
- Decisioni
- Questioni non definite
- Attività da svolgere
- Aspetti da verificare nella prossima riunione
# Attenzione
- Non aggiungere decisioni che non compaiono negli appunti
- Per le attività il cui responsabile non è noto, scrivi "responsabile da definire"
- Indica chiaramente come "da verificare" i contenuti incerti
- Non stabilire arbitrariamente le intenzioni di chi ha parlato
# Appunti della riunione
{Appunti della riunione}
Per rivedere un documento destinato all’esterno
Esamina il testo seguente in vista dell'invio all'esterno.
# Aspetti da controllare
1. Fatti e ipotesi sono mescolati?
2. Vi sono numeri, date o nomi propri che richiedono una verifica?
3. Vi sono affermazioni eccessivamente categoriche?
4. Vi sono espressioni che sembrano formulare una promessa al cliente?
5. Vi sono punti da sottoporre all'ufficio legale, all'IT o a un responsabile?
# Formato dell'output
Presenta una tabella con tre categorie:
- Nessun problema
- Da correggere
- Da verificare
# Testo
{Testo da esaminare}
In sintesi: progettare l’uso dell’IA partendo dal presupposto che possa sbagliare
Le allucinazioni sono il fenomeno per cui l’IA generativa produce in modo plausibile contenuti non corrispondenti ai fatti.
Nel lavoro, il problema non è soltanto che l’IA possa sbagliare, ma che l’errore venga ripreso senza essere individuato in documenti esterni, regolamenti interni, contratti, materiali contenenti dati numerici o rapporti con i clienti.
Per usare l’IA generativa in sicurezza sono quindi indispensabili i principi seguenti:
- non trattare l’IA come uno strumento che fornisce la risposta corretta;
- usarla per bozze, sintesi e organizzazione dei punti da esaminare;
- verificare numeri, date e nomi propri nelle fonti originali;
- controllare che le fonti esistano davvero;
- prevedere una revisione umana prima dell’invio all’esterno;
- affidare gli ambiti ad alto rischio ai reparti competenti;
- rivedere periodicamente regole interne e formazione.
L’uso dell’IA non si riduce a una scelta tra vietarla e lasciarla completamente libera. Se si parte dal presupposto che possa sbagliare e si definiscono chiaramente i momenti in cui deve intervenire la verifica umana, è possibile conciliare meglio velocità operativa e sicurezza.
In azienda è più utile considerare l’IA non come una «fonte infallibile di risposte», ma come un «collaboratore capace che richiede verifiche». Affidarle alcuni compiti può alleggerire il lavoro delle persone, senza però delegare le decisioni di cui restano responsabili. Saper definire con chiarezza questo confine diventerà probabilmente una competenza pratica essenziale per l’uso futuro dell’IA.
Domande e risposte frequenti sulle allucinazioni e sulle risposte errate dell’IA
Che cosa sono le allucinazioni dell’IA?Le allucinazioni sono il fenomeno per cui l’IA generativa produce contenuti non corrispondenti ai fatti sotto forma di un testo plausibile. Può presentare con naturalezza procedure inesistenti, dati non verificati o fonti che non esistono.
È possibile prevenire completamente le risposte errate dell’IA?Non è realistico organizzare il lavoro partendo dal presupposto che possano essere prevenute completamente. È importante considerare la possibilità di risposte errate e predisporre la verifica delle fonti, la revisione, le regole per l’inserimento dei dati e il flusso di consultazione dei reparti competenti.
Quali elementi vanno controllati in particolare quando si usa l’IA nel lavoro?Occorre sempre controllare numeri, date, nomi propri, fonti, condizioni contrattuali, regolamenti interni e formulazioni che implicano promesse ai clienti. Se errati, questi elementi possono influire sulle decisioni e sulla fiducia sia all’interno sia all’esterno dell’azienda.
È sufficiente chiedere all’IA di aggiungere le fonti?Chiedere di aggiungere le fonti è utile, ma non garantisce da solo la sicurezza. Una persona deve verificare che le fonti esistano, che il contenuto corrisponda e che si tratti della versione più recente.
Kanata elimina le allucinazioni?Kanata è una piattaforma di supporto al lavoro con chat tramite IA, sintesi tramite IA, e-learning e organizzazione delle informazioni per progetto. Poiché utilizza l’IA, gli output devono comunque essere verificati. Per contrastare le allucinazioni è importante progettare, insieme alle funzioni dello strumento, anche la revisione umana e le regole interne.