ChatGPT inventa testimoni in caso omicidio: avvocato multato

La storia dei legali che si fidano ciecamente dell’AI e finiscono nei guai non è nuova, ma ogni nuovo capitolo riesce comunque a sorprendere. Questa volta siamo nel New Mexico, dove la Corte Suprema statale ha appena multato un avvocato di 5.000 dollari e lo ha dichiarato in oltraggio alla corte per aver presentato un appello in un caso di omicidio farcito di testimoni completamente inventati da ChatGPT.

Preferisci ascoltare il riassunto audio? Abbiamo scelto una voce realizzata con strumenti avanzati IA per rendere rendere i nostri testi subito accessibili a tutti

Il legale in questione si chiama Stephen Aarons, e durante un’udienza di agosto ha ammesso di aver usato ChatGPT pensando che avrebbe prodotto un “riassunto blindato” del processo. Ecco, non è andata così: il documento conteneva testimonianze false attribuite a persone mai esistite, oltre a dettagli inventati sull’aspetto e sull’abbigliamento del presunto sparatore.

La reazione della giudice C. Shannon Bacon dice tutto. Durante l’udienza ha chiesto ad Aarons:

Avvocato, lei guarda il telegiornale? Ascolta la radio? Legge qualcosa su quello che succede nel mondo? Perché il problema degli avvocati che si affidano alle allucinazioni dell’intelligenza artificiale è una notizia che salta subito all’occhio ogni singolo giorno.

Il termine “allucinazione” indica la tendenza dei modelli linguistici come ChatGPT a inventare informazioni plausibili ma false, come citazioni, nomi, date, fatti. Non è un bug raro, è una caratteristica strutturale di questi strumenti, e usarli senza verificare ogni singola affermazione in un contesto legale è semplicemente pericoloso. Aarons ha dichiarato di essere “dispiaciuto ma speranzoso che il consiglio disciplinare tenga conto del fatto che è stato un errore onesto”.

Il problema è che non è il primo caso di questo tipo. L’anno scorso un giudice aveva già sanzionato due studi legali per aver presentato atti con “numerose citazioni legali false, imprecise e fuorvianti” generate dall’AI. Anche i legali di Mike Lindell, il fondatore di MyPillow, erano stati multati per citazioni inventate di sana pianta da un modello linguistico.

Chiaramente ChatGPT e strumenti simili possono essere utili per fare brainstorming o per strutturare un testo, ma fidarsi ciecamente dell’AI in contesti dove i fatti devono essere verificabili e documentati è una scelta che può avere conseguenze serie.

Vale per gli avvocati, ma anche per chiunque altro.