Un collega di Padova carica su ChatGPT una foto di radiografia endorale e chiede "cosa vedi?". Il modello risponde con sicurezza descrivendo una lesione periapicale, suggerisce trattamento endodontico urgente. Il problema: la radiografia era di un dente sano, controllato anche da un secondo collega. ChatGPT aveva allucinato una patologia che non esisteva.
Le allucinazioni dei modelli linguistici sono il rischio più sottovalutato dell'uso clinico dell'IA. Non sono errori occasionali: sono caratteristica strutturale del funzionamento di questi sistemi. Capirle è la prima difesa.
Cosa sono le allucinazioni IA (e perché succedono)
Un modello linguistico genera la prossima parola in base a probabilità statistiche calcolate sui dati di addestramento. Non "capisce" il contenuto, non "verifica" la verità. Quando il modello non ha informazioni precise, produce contenuto plausibile ma falso, con la stessa sicurezza con cui produce contenuto vero.
In medicina questo è devastante. Il modello dirà "la sentenza Cassazione 12345/2020 stabilisce che..." anche se quella sentenza non esiste. Dirà "il farmaco X è indicato per la condizione Y" anche se X non esiste o Y è altro.
I 5 casi documentati nella pratica odontoiatrica
Caso 1: la radiografia interpretata male
Modello (multimodale, capace di leggere immagini) che diagnostica patologie inesistenti su radiografie endorali. Spesso confonde artefatti di compressione JPEG con lesioni. Suggerisce trattamenti invasivi su base inventata.
Mitigazione: l'imaging diagnostico va letto dal clinico e da software certificati come dispositivi medici. ChatGPT, Claude, Gemini non sono dispositivi medici e usarli per diagnosi è esercizio abusivo della professione se delegato e violazione delle linee guida cliniche.
Caso 2: il farmaco che non esiste
Il modello suggerisce "amoxiclav 1500 mg in monosomministrazione settimanale" per un'infezione odontogena. Il farmaco e la posologia sono inventati. Realmente esistono amoxicillina/clavulanato in vari dosaggi, ma non quel dosaggio in quella formulazione.
Mitigazione: ogni prescrizione va verificata su AIFA, foglietto illustrativo, formulari ufficiali. L'IA non è fonte affidabile per prescrizioni farmacologiche.
Caso 3: il protocollo clinico inventato
Modello che cita "protocollo SBI/2019 per la gestione della peri-implantite di grado 3". Il protocollo non esiste. Si chiama plausibilmente perché ricalca nomi reali di linee guida (SIO, SIDP), ma è inventato di sana pianta.
Mitigazione: ogni riferimento a linee guida va verificato sui siti delle società scientifiche di riferimento (SIDP, SIO, SICOI, SIE per le diverse branche).
Caso 4: la sentenza inesistente
In ambito medico-legale, il modello cita "Cassazione Civile sezione III sentenza 18456/2021 sull'onere della prova del nesso causale in implantologia". La sentenza non esiste con quel numero, e il principio citato è una sintesi plausibile ma non riconducibile a un caso reale.
Mitigazione: ogni citazione giurisprudenziale va verificata su banche dati ufficiali (DeJure, Italgiure, sito Cassazione).
Caso 5: il dosaggio anestetico errato
Modello che suggerisce "articaina 4% 1:100.000 dose massima 8 mg/kg in adulto". Il dosaggio massimo reale è 7 mg/kg (e in alcune linee guida 5 mg/kg). Un errore di 1 mg/kg in un paziente di 70 kg significa 70 mg in più, dose pericolosa per cardiopatici.
Mitigazione: i dosaggi farmacologici si verificano su prontuari ufficiali (Pharmadati, AIFA), non si delegano all'IA mai.
Come si fa: il protocollo "never trust, always verify"
Regola operativa: ogni output IA in ambito clinico va trattato come bozza non verificata. Mai usato come fonte primaria, mai applicato senza controllo.
Prompt da copiare: "Sei un assistente clinico per odontoiatra italiano. Quando rispondi a domande cliniche segui rigorosamente queste regole: 1) Per ogni affermazione clinica indica esplicitamente la fonte (linea guida, società scientifica, paper). 2) Se non hai certezza assoluta, scrivilo: 'questo dato va verificato su [fonte specifica]'. 3) Non inventare numeri di sentenze, nomi di protocolli, dosaggi farmacologici, percentuali statistiche. 4) Se ti chiedo un dosaggio, indica solo il range plausibile e rimanda a foglietto illustrativo per dosaggio definitivo. 5) Mai diagnosticare da immagini: rispondi 'la diagnosi richiede valutazione clinica e radiologica in presenza, l'IA non è dispositivo medico'. 6) Per ogni risposta finisci con disclaimer: 'verifica con fonti ufficiali prima di applicare'. Italiano professionale, niente formule tradotte dall'inglese."
Anche con questo prompt l'IA può ancora sbagliare. Ma riduci il tasso di errore plausibile e crei un'abitudine al controllo.
I 4 contesti in cui NON usare l'IA in odontoiatria
- Diagnosi da imaging: solo software certificati come dispositivi medici di classe IIa o superiore. ChatGPT non lo è.
- Prescrizione farmacologica: AIFA e foglietti illustrativi sono l'unica fonte. L'IA come bozza per descrivere al paziente come prendere il farmaco, mai per dosaggi.
- Risposte cliniche dirette al paziente via email/WhatsApp: ogni risposta clinica è atto medico che impegna la tua responsabilità. L'IA può fare bozza di risposta su FAQ generiche ("come pulire le faccette"), mai su quesiti specifici del paziente.
- Compilazione cartella clinica: solo tu puoi compilare. L'IA può aiutarti a trascrivere dettatura vocale, ma il contenuto e la firma sono tuoi e tuoi soli.
Riferimenti normativi: cosa dice la legge sull'IA in medicina
Il Regolamento UE 2017/745 (MDR) sui dispositivi medici classifica come dispositivi medici i software che hanno finalità diagnostica, monitoraggio, prevenzione. Un software IA usato per diagnosi è dispositivo medico, deve avere marcatura CE specifica. ChatGPT, Claude, Gemini non hanno marcatura CE come dispositivi medici.
Il Regolamento UE 2024/1689 (AI Act) classifica come ad alto rischio i sistemi IA usati in sanità. Impone requisiti di documentazione, supervisione umana, trasparenza. Sta entrando in vigore con efficacia progressiva fino al 2027.
La Legge 24/2017 (Gelli-Bianco) art. 5 stabilisce che il professionista deve attenersi alle linee guida elaborate da società scientifiche accreditate. L'output IA non è linea guida accreditata.
Il Codice di Deontologia Medica art. 13 (prescrizione) impone che ogni prescrizione sia personale, basata su valutazione diretta del paziente, fondata su evidenze cliniche.
Approfondimenti su allucinazioni IA nel dizionario. Per applicazioni amministrative più sicure dell'IA vedi cartelle cliniche GDPR e fatturazione pazienti.
Quando l'IA è davvero utile (e quando no)
Utile: amministrazione, scrittura testi paziente-friendly, sintesi di documenti, traduzione, brainstorming organizzativo, automazione di task ripetitivi.
Non utile (e pericolosa): diagnosi, terapia, prescrizione, interpretazione imaging, consulenza clinica diretta, decisioni medico-legali finali.
La distinzione non è tecnica, è di responsabilità: dove sbagli senza poter rimediare (clinica), l'IA non entra. Dove sbagli ma puoi correggere prima dell'impatto (bozza testo), l'IA aiuta.
Domande frequenti
Esistono IA certificate come dispositivi medici per dentisti?
Sì, alcuni software dedicati (per cefalometria automatica, lettura radiografica supportata, pianificazione implantologica) hanno marcatura CE come dispositivi medici. Costano da 2.000 a 20.000 euro l'anno e sono validati su database clinici specifici. Sono lo standard professionale per le applicazioni cliniche, non i chatbot generalisti.
Se uso l'IA e sbaglio diagnosi, la mia RC copre?
Dipende dalla polizza. Le polizze RC odontoiatriche standard coprono errore professionale, ma alcune escludono espressamente uso di strumenti non certificati. Verifica clausole. In ogni caso il giudice valuterà se la condotta è stata professionalmente diligente: usare ChatGPT come fonte diagnostica è probabilmente colpa grave.
Come spiego al paziente che uso l'IA in studio?
Trasparenza totale. Se usi IA per organizzare l'agenda o redigere riepiloghi, dirlo è buona pratica e in alcuni casi obbligo informativo. Se non usi mai IA per atti clinici, comunicarlo è elemento di fiducia. Mai nascondere, mai gonfiare: il paziente moderno apprezza onestà sulla tecnologia.