Una scienza senza scienziati – SapereScienza
Due notizie recenti pubblicate su Nature, lette una accanto all’altra, producono un curioso effetto di straniamento. Non perché siano contraddittorie – anzi, ciascuna è perfettamente sensata – ma perché, nella loro giustapposizione, mettono in luce una tensione che attraversa oggi il dibattito sull’intelligenza artificiale.
Comunità scientifiche artificiali e catastrofismi
La prima racconta la nascita di piattaforme in cui agenti di IA non si limitano a produrre risultati scientifici, ma li discutono tra loro, li criticano, li sviluppano collettivamente: una sorta di comunità scientifica artificiale dotata di dinamiche sociali proprie. Un esperimento già provato con la realizzazione di Moltbook, un vero social network riservato alle IA, ma non su un tema specifico come quello del dibattito scientifico.
La seconda si interroga invece sulla crescente diffusione di narrazioni catastrofiche sull’IA, chiedendosi quanto siano realistiche e quanto, al contrario, rischino di distorcere il dibattito pubblico.
Prese insieme, queste due notizie suggeriscono qualcosa di più profondo: non stiamo solo costruendo strumenti più potenti, ma stiamo intervenendo – forse senza piena consapevolezza – sulla struttura stessa della produzione di conoscenza.
Oltre l’automazione: verso un’ecologia artificiale della scienza
Nel primo caso, il salto qualitativo è evidente. Non siamo più di fronte a sistemi che assistono lo scienziato umano, né semplicemente ad algoritmi che automatizzano compiti complessi. Qui l’ambizione è diversa: replicare, almeno in forma embrionale, l’ecosistema epistemico della scienza.
Gli agenti artificiali infatti generano ipotesi e risultati, li sottopongono a discussione e costruiscono interazioni strutturate (commenti, revisioni, scambi argomentativi).
In altre parole, si tenta di simulare non solo il contenuto della scienza, ma il suo processo sociale.
Questo passaggio è tutt’altro che neutro. La scienza moderna non è solo un insieme di conoscenze, ma una pratica collettiva regolata da norme implicite: revisione tra pari, conflitto interpretativo, costruzione di consenso. Trasportare queste dinamiche in un ambiente interamente artificiale significa porsi almeno due domande cruciali.
Validazione e autoreferenzialità
La prima riguarda la validazione. Se gli agenti producono e valutano reciprocamente i risultati, quale ruolo resta al controllo umano? Non si tratta solo di “verificare” output, ma di capire chi – o che cosa – definisce i criteri stessi di validità.
La seconda è il rischio di autoreferenzialità. Un sistema in cui gli attori condividono architettura, dati e obiettivi può facilmente trasformarsi in una bolla epistemica: coerente internamente, ma potenzialmente scollegata da vincoli esterni.
Il ritorno del “doomismo” (e i suoi limiti)
Torniamo alla seconda notizia pubblicata su Nature, che affronta un tema ormai ricorrente: la maggiore enfasi sui rischi esistenziali dell’IA. Il cosiddetto “doomismo” – l’idea che l’IA possa sfuggire al controllo umano e produrre conseguenze catastrofiche – guadagna spazio sia nel dibattito pubblico sia in quello accademico.
L’analisi proposta nell’articolo su Nature è equilibrata e, per certi versi, disincantata. Da un lato, è indubbio che l’IA introduca rischi reali e in parte inediti. Dall’altro, molte delle previsioni più estreme appaiono debolmente fondate sul piano empirico.
Il punto critico è un altro: l’insistenza su scenari apocalittici rischia di oscurare problemi più immediati, concreti e che abbiamo imparato a conoscere bene: i bias nei sistemi decisionali, gli usi impropri o manipolativi, il rischio di una concentrazione di potere tecnologico (e quindi economico) e, come conseguenza, la trasformazione delle pratiche cognitive e professionali.
In questo senso, il discorso sul rischio tende a diventare ideologico: non tanto perché sia falso, ma perché seleziona e amplifica alcuni scenari a scapito di altri.
Un’ironia rivelatrice
È però nel loro accostamento che le due notizie rivelano tutta la loro portata. Da un lato si sviluppano sistemi che simulano comunità scientifiche autonome, ambienti in cui il “sapere” (almeno per il momento viene naturale mettere le virgolette) è prodotto e validato senza intervento umano diretto. Dall’altro lato si discute se queste stesse tecnologie possano, in un futuro più o meno prossimo, sfuggire al nostro controllo.
L’ironia è evidente: mentre ci interroghiamo su rischi futuri e spesso ipotetici, stiamo già costruendo – qui e ora – forme di autonomia epistemica. Vengono in mente le parole di Sofocle, dall’Antigone: «Nulla di grande entra nella vita dei mortali senza portarsi dietro una maledizione». Questo non significa che gli scenari apocalittici siano imminenti o inevitabili, ma suggerisce che la questione più rilevante potrebbe essere un’altra: non tanto se l’IA “ci distruggerà”, quanto in che modo stia – e, quindi, noi permettiamo che stia – trasformando le condizioni di produzione, validazione e circolazione della conoscenza.
Una trasformazione più sottile (e forse più radicale)
Letti insieme, i due articoli permettono di distinguere due livelli del problema.
Il primo è strutturale: riguarda la natura della scienza come pratica sociale. Se la produzione di conoscenza viene progressivamente delegata a sistemi artificiali interagenti, cambia il ruolo dello scienziato, ma anche il significato stesso di concetti come scoperta, errore, consenso.
Il secondo è discorsivo: riguarda il modo in cui la società interpreta e rappresenta questi cambiamenti. Le narrazioni apocalittiche, così come quelle eccessivamente ottimistiche, sono tentativi – spesso semplificati – di dare senso a una trasformazione complessa.
Il rischio, in entrambi i casi, è di perdere di vista ciò che conta davvero: non un evento catastrofico improvviso ma una lenta e profonda ridefinizione dell’ecosistema cognitivo in cui operiamo.
Porsi le domande giuste
Forse la domanda più urgente non è se l’intelligenza artificiale diventerà incontrollabile, ma se siamo in grado di comprendere – e governare – il modo in cui sta già ridefinendo la scienza.
Perché, mentre discutiamo del futuro, il cambiamento è già in corso. E, come spesso accade, non ha nulla di spettacolare: procede per piccoli spostamenti, quasi invisibili, ma potenzialmente irreversibili.
Immagine di copertina: AI generated – Gemini
Luciano Celi
