Vero, verosimile, falso: una nuova frontiera dell’IA
Molti anni fa, durante un master, ebbi modo di conoscere un giovane matematico di rara intelligenza, uno di quei profili eclettici che sembrano abitare il confine tra rigore scientifico e brillante irriverenza. Tempo dopo seppi che, nella sua tesi di laurea, aveva inserito alcuni riferimenti bibliografici completamente inventati: autori inesistenti, titoli plausibili, riviste mai esistite. Una piccola provocazione intellettuale, forse persino una burla. Il dato interessante è che quei riferimenti passarono inosservati.
L’episodio, allora, poteva essere letto come una presa in giro dell’establishment accademico, una dimostrazione quasi sperimentale di quanto il formalismo della citazione rischi talvolta di sostituirsi alla sua sostanza. Oggi, a distanza di anni, quella stessa storia assume un significato diverso. Non più una provocazione, ma il sintomo anticipatore di un problema che riguarda l’intero ecosistema della conoscenza scientifica.
Citazioni inesistenti
Un recente articolo di Nature ha richiamato l’attenzione sul crescente numero di citazioni inesistenti che stanno comparendo nella letteratura accademica, generate da sistemi di IA generativa. Non si tratta solo di errori materiali. Il punto è più sottile: questi sistemi non producono necessariamente il vero, ma il verosimile.
È qui, probabilmente, una delle frontiere più interessanti – e insieme più insidiose – dell’IA contemporanea.
Un linguaggio coerente
Il linguaggio generato dai grandi modelli linguistici non è costruito per aderire al mondo, ma per risultare coerente con le regolarità statistiche del testo. In altre parole, non “sa” se una fonte esista davvero; sa però molto bene come dovrebbe apparire una fonte credibile. Titolo, autore, anno, rivista, DOI: tutto può risultare plausibile. È il trionfo del verosimile.
Non si tratta solo di errore
Ma la scienza, per sua natura, vive di un equilibrio delicato tra vero e verificabile. La citazione non è un semplice apparato ornamentale: è la traccia che consente di risalire al percorso della conoscenza, di controllarlo, contestarlo, eventualmente correggerlo. Quando questo tessuto si contamina di riferimenti fittizi, non siamo di fronte a un banale errore editoriale, ma a una forma di erosione del principio di verificabilità.
Il plausibile e il vero
In fondo, la vicenda del giovane matematico e quella delle bibliografie “allucinate” prodotte dall’IA condividono un elemento comune: entrambe mettono alla prova la nostra fiducia nella forma.
Forse la domanda più interessante non riguarda la macchina, ma noi. Quanto spesso scambiamo il plausibile per il vero? Quanto siamo disposti a fidarci di un testo che “suona bene” senza interrogarne le fonti? L’IA non inventa questa debolezza; semmai la rende visibile, la amplifica e la restituisce su scala industriale.
La nuova frontiera, allora, non è solo tecnologica. È epistemologica. In un’epoca in cui il falso può assumere perfettamente la forma del vero, la distinzione decisiva non è più tra vero e falso, ma tra vero e verosimile.
Immagine di copertina: Mohamed Hassan – PxHere
Luciano Celi
