Il paradosso dell’intelligenza artificiale: l’ascoltiamo, ma non ci fidiamo. Ecco perché il nostro cervello ci tradisce. La ricerca

Chiedere un parere a un software o a un’intelligenza artificiale è diventato pane quotidiano, ma saper usare bene quel suggerimento è tutta un’altra storia.

Un team di ricercatori delle Università di Milano-Bicocca e Pavia ha indagato proprio su questo: come integriamo i consigli che arrivano da agenti artificiali? I risultati mostrano che, nonostante l’IA sia sempre più accessibile, il nostro cervello fatica a fidarsi davvero delle macchine, finendo per sprecare gran parte del potenziale aiuto ricevuto.

L’esperimento: 89 umani contro 7 agenti artificiali

Per capire dove si inceppa il meccanismo, gli studiosi hanno coinvolto 89 partecipanti in un compito di precisione visiva. Non erano soli: a ogni passo, ricevevano il suggerimento di uno dei sette agenti artificiali creati appositamente, ognuno con un diverso livello di competenza e sicurezza.

Per misurare quanto i volontari fossero “bravi” ad ascoltare, i ricercatori hanno usato un modello bayesiano, una sorta di arbitro matematico capace di calcolare la decisione perfetta unendo il parere dell’uomo e quello dell’algoritmo. Lo scarto è stato evidente: sebbene l’aiuto dell’IA abbia migliorato le prestazioni del 9%, siamo rimasti molto lontani dal traguardo che avremmo potuto raggiungere se avessimo integrato i dati in modo ottimale.

I due ostacoli: l’ego e la “miopia” verso l’IA

Perché non riusciamo a sfruttare appieno l’intelligenza artificiale? Lo studio individua due colpevoli principali. Il primo è il bias egocentrico: istintivamente, tendiamo a dare più peso alle nostre intuizioni rispetto a quelle del partner artificiale, anche quando sappiamo che l’algoritmo è più accurato di noi. In pratica, “scontiamo” il consiglio dell’IA a prescindere, solo perché non è farina del nostro sacco.

Il secondo problema è un deficit globale-locale. Spesso sappiamo che un’IA è esperta in un certo campo (una conoscenza “globale”) ma non riusciamo a tradurre questa fiducia in una scelta concreta nel singolo momento della decisione, il livello “locale”. Questo accade anche se veniamo informati esplicitamente delle capacità del software: il limite che tracciamo è il modo in cui il nostro cervello processa le informazioni.

Il “triplo fardello” di chi ha meno competenze

La ricerca fa anche luce su una dinamica interessante quanto subdola: chi ha meno abilità nel compito iniziale è anche chi fatica di più a farsi aiutare dall’intelligenza artificiale. Queste persone mostrano spesso una bassa sensibilità metacognitiva, ovvero non sanno valutare bene quanto sia corretta la propria risposta.

Si crea così un vero e proprio triplo fardello: l’utente è meno preciso, non si accorge dei propri errori e, proprio per questo, non riesce a calibrare bene quanto peso dare al consiglio dell’IA. Al contrario, chi è già competente è anche più capace di capire quando è il momento di lasciare il timone all’algoritmo, migliorando ancora di più le proprie performance.

Oltre la tecnologia: formare l’umano per collaborare con l’IA

Questi dati hanno riflessi pesanti sulla vita reale, specialmente in settori delicati come la diagnostica medica assistita dall’IA. Non basta avere l’algoritmo più preciso del mondo se il medico o l’operatore non sanno come “pesare” quel consiglio.

Joshua Zonca, tra gli autori dello studio, ha chiarito: “L’integrazione del consiglio rimane significativamente subottimale, portando a una perdita sostanziale di accuratezza potenziale”.

La ricerca