Intelligenza artificiale, Schettini spiega l’allarme di Anthropic: “Fermiamo lo sviluppo prima di perderne totalmente il controllo”

Un costruttore di vetture all’apice del successo finanziario che improvvisamente chiede al mercato di interrompere la distribuzione delle proprie automobili.

È questo l’insolito paradosso che il professor Vincenzo Schettini utilizza in un video su Youtube per raccontare lo spiazzante appello lanciato da Anthropic, azienda di punta nel settore dell’intelligenza artificiale.

L’evoluzione autonoma e l’analogia con la fisica

Il timore sollevato dai ricercatori si basa su un’osservazione preoccupante: i software addestrati dagli esseri umani stanno iniziando a mostrare i primissimi indizi di poter progettare e scrivere le proprie versioni successive in totale autonomia. Questo scenario tecnologico prende il nome di automiglioramento ricorsivo.

Per far comprendere la portata del fenomeno, il professore ha richiamato i concetti di fissione nucleare e di rapida moltiplicazione batterica. Esattamente come accade in natura, una volta innescato, il processo produce da solo gli ingredienti necessari per alimentarsi, generando una crescita vertiginosa in tempi quasi inesistenti: “Il momento in cui questa diventa seriamente in grado di migliorarsi da sola allora potrebbe farlo ad una velocità incredibile. – ha precisato Schettini – Avremmo nelle nostre mani qualcosa che si sviluppa molto velocemente, ma molto più velocemente della comprensione umana, e ci potrebbe sfuggire di mano”.

Il rischio degli errori e l’appello ai governi

Un ciclo di aggiornamenti così frenetico porta con sé il pericolo di ingigantire in modo esponenziale anche i più piccoli difetti di programmazione. Il risultato finale potrebbe tradursi in uno strumento potentissimo, ma fatalmente lontano dallo scopo per cui era stato ideato in origine.

Proprio per arginare questa deriva, il documento diffuso dall’azienda propone di attivare un coordinamento internazionale capace di rallentare o sospendere temporaneamente gli esperimenti nei laboratori.

Nonostante l’enorme ostacolo logistico, una pausa viene ritenuta oggi vitale per consentire ai governi e alla società di prepararsi all’impatto. Sottolineando l’inquietudine che scaturisce dall’intera vicenda, il docente ha infine concluso: “Se uno che fa automobili guadagna come un matto dice smettete di vendere automobili oppure rallentate vuol dire che c’è qualcosa che non va. – ha osservato – Questa cosa a me terrorizza e appassiona nello stesso tempo”.