Settembre 2024. Un notaio (non dico chi) sta preparando una clausola per un atto di donazione complesso. Chiede a ChatGPT. ChatGPT risponde citando "art. 769-ter c.c.". Articolo bellissimo, perfetto per il caso. Peccato che NON ESISTA. Il Codice Civile arriva all'art. 769, non c'e' nessun 769-ter.
Il notaio quel giorno se n'e' accorto. Per fortuna. Ma quante volte succede e non te ne accorgi?
Le allucinazioni degli LLM sono il rischio numero uno per chi usa l'IA in ambito giuridico. Ti spiego 5 casi reali e come difenderti.
Cos'e' un'allucinazione e perche' ti riguarda
Un LLM (Large Language Model) come ChatGPT, Claude, Gemini non "sa" il diritto. Genera testo statisticamente plausibile. Quando gli chiedi un riferimento normativo, ti restituisce qualcosa che SUONA come una citazione corretta. Spesso lo e'. A volte no.
Il problema: non c'e' modo di distinguere a vista. Un articolo inventato sembra reale come uno vero. Solo verifica diretta sulla fonte ti salva.
Caso 1: l'articolo del codice civile che non esiste
Prompt: "Quale articolo del Codice Civile disciplina la donazione con riserva di abitazione vitalizia?".
Risposta IA: "L'art. 796-bis c.c. disciplina la possibilita' per il donante di riservarsi il diritto di abitazione...".
Verifica: l'art. 796-bis NON esiste. La materia e' trattata dagli artt. 769 e seguenti, e dall'art. 1022 sul diritto di abitazione. L'IA ha mescolato concetti corretti con una numerazione inventata.
Come ti difendi: apri sempre il Codice (cartaceo, Brocardi, Normattiva, Altalex) e verifichi l'articolo citato PRIMA di inserirlo in atto.
Caso 2: la sentenza di Cassazione mai pronunciata
Prompt: "Esiste una sentenza recente di Cassazione sulla rinuncia all'eredita' tacita per pagamento debito ereditario?".
Risposta IA: "Cass. civ., Sez. II, 14 marzo 2023, n. 7842, ha stabilito che...".
Verifica su DeJure, Italgiure, o piattaforme ufficiali: quella sentenza NON ESISTE. Numero, sezione, data: tutto inventato in modo verosimile.
Come ti difendi: mai citare giurisprudenza in atti o pareri senza verifica sulla banca dati ufficiale. Italgiure (Corte di Cassazione) e' gratuita e autoritativa.
Caso 3: la legge abrogata da 5 anni
Prompt: "Quale e' la disciplina vigente per la trascrizione del verbale di mediazione obbligatoria immobiliare?".
Risposta IA cita: "D.lgs. 28/2010 art. 12, modificato dal D.lgs. 4/2014".
Verifica: il D.lgs. 28/2010 esiste, ma il quadro normativo e' stato significativamente modificato (esempio: D.lgs. 149/2022 - Riforma Cartabia, in vigore dal 2023). L'IA conosce una versione vecchia.
Come ti difendi: il "taglio temporale" di addestramento degli LLM e' sempre un problema. Verifica vigore norme su Normattiva.it (gratuito, ufficiale).
Caso 4: l'imposta calcolata sulla normativa sbagliata
Prompt: "Quanto e' l'imposta di registro per la prima casa nel 2025?".
Risposta IA: "2% con minimo 1.000 euro".
Verifica: il 2% e' giusto per cessione tra privati prima casa, ma con condizioni specifiche, e con eventuali esenzioni o riduzioni che dipendono dalla situazione. L'IA semplifica e perde il contesto. Se basi il preventivo solo sull'output IA, sbagli il calcolo al cliente.
Come ti difendi: il calcolo delle imposte richiede sempre il quadro completo del caso. Software tributari dedicati o verifica diretta su Agenzia delle Entrate.
Caso 5: la clausola illegittima ma elegante
Prompt: "Scrivimi una clausola di esonero responsabilita' del venditore per vizi occulti in compravendita immobiliare".
Risposta IA: clausola formalmente perfetta che pero' violerebbe l'art. 1490 c.c. e potrebbe essere nulla per dolo del venditore (art. 1490 c.c. ammette pattuizione contraria, ma ci sono limiti).
Se firmi l'atto con quella clausola e poi salta fuori il dolo, l'atto e' impugnabile. Tu sei responsabile.
Come ti difendi: ogni clausola "creativa" suggerita dall'IA va validata contro Codice Civile, dottrina, giurisprudenza. Il sospetto deve scattare ogni volta che la clausola "comoda" ti tira fuori dalla regola generale.
Il prompt difensivo: come ridurre le allucinazioni
Istruzioni di sistema permanenti per uso giuridico:
1) Per ogni riferimento normativo citato, indica la fonte specifica (codice, legge, articolo) e segnala se hai certezza al 100%.
2) Se non sei certo dell'esistenza di un articolo o di una sentenza, scrivi esplicitamente "DA VERIFICARE" prima della citazione.
3) Non inventare numeri di sentenza, date, articoli inesistenti. Se non sai, dichiara di non sapere.
4) Per ogni norma citata indica anno di entrata in vigore originaria e segnala se sei consapevole di possibili abrogazioni o modifiche.
5) Mai presentare come certa una informazione di cui non sei certo.
Questo prompt riduce le allucinazioni ma NON le elimina. Il principio resta: verifica sempre.
I 4 errori che amplificano il rischio allucinazioni
- Usare LLM consumer per ricerca giuridica: ChatGPT free e' bravo a sembrare giurista, malissimo a esserlo. Per uso serio servono strumenti specializzati o LLM enterprise con accesso a database giuridici (RAG su fonti verificate).
- Fidarsi della prima risposta senza chiedere fonti: chiedi sempre "da quale fonte arriva questa informazione?"
- Copiare la citazione nell'atto senza aprire la fonte: peccato mortale del notaio digitale
- Pensare che ChatGPT-5 o Claude Opus 4 "non sbaglino piu'": sbagliano di meno, ma sbagliano. Soprattutto su normativa italiana di nicchia
Il quadro normativo
- Legge 89/1913 (Legge Notarile), art. 28: nullita' degli atti contrari a norme imperative. Se l'atto contiene clausole illegittime suggerite dall'IA, sei responsabile
- Codice Deontologico CNN: dovere di competenza e diligenza professionale
- Art. 2236 Codice Civile: responsabilita' del professionista per colpa grave
- Regolamento UE 2024/1689 (AI Act): classifica i sistemi IA usati in ambito giuridico-amministrativo come potenzialmente "alto rischio", con obblighi di supervisione umana
Domande frequenti
Come riconosco una citazione inventata dall'IA?
Non puoi a vista. Devi sempre verificare alla fonte: Normattiva (leggi), Italgiure (Cassazione), Brocardi (codici annotati). Se non riesci a trovare la fonte, la citazione e' falsa al 95%. Vedi anche deontologia notaio e IA.
I sistemi RAG specializzati per giuristi risolvono il problema?
Lo riducono molto. Un RAG ben costruito su database giuridici verificati (Cassazione, Normattiva, dottrina specialistica) restituisce risposte ancorate a fonti reali. Restano comunque possibili errori interpretativi e necessita di verifica umana. Costo: significativamente piu' alto di ChatGPT base, ma necessario per uso professionale serio.
Posso difendermi da una sanzione disciplinare dicendo "colpa dell'IA"?
No. Tu sei il notaio, tu firmi, tu rispondi. L'art. 28 Legge Notarile e i principi generali di responsabilita' professionale non ammettono come scusante la delega a un sistema automatico. Per ulteriori implicazioni vedi cosa dice il CNN sull'IA.
Chiudo
L'IA non e' un giurista. E' un generatore di testo plausibile. Per il 70% del lavoro va benissimo. Per il 30% restante, il restante che riguarda atti, clausole, citazioni normative, devi sempre verificare alla fonte. Sempre.
Chi ti dice "l'IA scrive gli atti per te" o non capisce cos'e' un LLM o ti sta vendendo fuffa. O entrambe le cose. Soprattutto se ti chiede 5mila euro per il "corso IA per notai". Quel corso te lo sostituisce questo articolo. Gratis.
Sul canale Telegram Squalogruppo condividiamo casi reali di allucinazioni IA su materia giuridica italiana e tecniche di verifica. Ti aspetto.