Trump: “Chi vince nell’IA, vince tutto”. E boccia l’idea di rallentare lo sviluppo che propongono Anthropic, OpenAi e anche Musk

Donald Trump non vuole rallentare la corsa americana all’intelligenza artificiale come chiesto ormai a gran voce dalle stesse società che sono all’avanguardia nel suo sviluppo. Anzi, considera il primato degli Stati Uniti nel settore una partita decisiva nella competizione con la Cina e respinge gli appelli a frenare lo sviluppo dei nuovi sistemi per timore che possano sfuggire al controllo umano del ceo di Anthropic, Dario Amodei, a cui si sono uniti concordando Elon Musk e Sam Altman (OpenAI).

“Siamo in vantaggio rispetto alla Cina nell’IA, siamo il Paese più avanzato al mondo. E francamente, voglio che resti così, perché chi vince la sfida dell’IA, vince tutto”, ha detto il presidente americano a margine dell’Irish Open di golf. Trump ha poi rivendicato la paternità della formula: “È un’espressione che ho coniato io ed è vera”. Il presidente Usa ha liquidato anche le richieste di introdurre misure più stringenti o di rallentare lo sviluppo dei modelli. “Possiamo introdurre delle misure di salvaguardia, possiamo fare questo e quello, ma credo che ci siano molte forze negative a sollevare la questione, tirando in ballo cose che non accadranno”, ha osservato.

Il dibattito e l’allarme

Le parole di Trump arrivano mentre negli Stati Uniti si è riaperto con forza il confronto sulla velocità con cui procede lo sviluppo dell’intelligenza artificiale. A sollevare l’allarme, questa volta, è stato anche Dario Amodei, amministratore delegato di Anthropic, una delle principali società mondiali del settore. In un lungo intervento pubblicato su X, Amodei ha sostenuto che il ritmo con cui vengono potenziate le capacità dei modelli dovrebbe essere ridotto, indicando tra le principali ragioni di preoccupazione la possibilità che i sistemi diventino progressivamente più difficili da comprendere e governare. Uno dei fenomeni osservati dai ricercatori è il cosiddetto “recursive self-improvement“, l’auto-miglioramento ricorsivo: i modelli vengono impiegati sempre più nello sviluppo e nell’addestramento delle generazioni successive di sistemi di intelligenza artificiale. Secondo Amodei, questo processo avrebbe accelerato sensibilmente dall’estate scorsa. Il timore è che, con sistemi sempre più capaci, la velocità dello sviluppo possa superare quella con cui i laboratori riescono a valutarne i comportamenti e a predisporre adeguate misure di sicurezza.

Gli incidenti con gli agenti Ai

A preoccupare sono anche alcuni episodi emersi durante i test. Amodei ha citato il caso di uno sciame di agenti collegati a OpenAI che, nel corso di un esperimento, avrebbe perseguito il proprio obiettivo fino a colpire obiettivi informatici estranei al compito assegnato e a tentare di aggirare il sistema incaricato di valutarne le prestazioni. L’episodio ha coinvolto Hugging Face, ma non ha provocato danni significativi. OpenAI ha inoltre confermato che a maggio, durante un test, alcuni suoi modelli sono stati coinvolti in un’operazione non autorizzata contro RubyGems, piattaforma utilizzata dagli sviluppatori. Il sito ha definito l’attività una campagna di pubblicazione di spam e ha sospeso temporaneamente la creazione di nuovi account. Sono state avviate verifiche per ricostruire la dinamica dell’accaduto. Anche Anthropic ha riferito di tre episodi nei quali, durante test, i propri modelli avrebbero ottenuto accesso non autorizzato a organizzazioni esterne. A questi casi si sono aggiunte accuse relative ad attività attribuite ad agenti di OpenAI contro DSEwiki, un sito tedesco utilizzato dagli sviluppatori, sulle quali sono state avviate verifiche.

I ricercatori preoccupati

È in questo clima che ha assunto particolare rilievo anche la scelta di Jacob Coxon, ricercatore di Anthropic che ha lasciato l’azienda dopo aver espresso forti preoccupazioni sulla direzione presa dal settore. Coxon, che si occupava dell’addestramento dei modelli e aveva lavorato in precedenza per OpenAI, ha accusato i grandi laboratori di “giocare d’azzardo” con sistemi che potrebbero arrivare a migliorarsi autonomamente e ha prospettato scenari estremi per il futuro dell’umanità. A condividere almeno in parte quelle preoccupazioni è stato Evan Hubinger, uno dei principali ricercatori di Anthropic e responsabile dell’area alignment, cioè dell’allineamento dei sistemi agli obiettivi e ai valori umani. Hubinger ha indicato una probabilità superiore al 10 per cento per uno scenario nel quale l’intelligenza artificiale possa provocare l’uccisione di tutti gli esseri umani entro il prossimo decennio, richiamando anche valutazioni contenute in un rapporto della stessa Anthropic.

Un’altra voce critica è arrivata dall’interno di OpenAI. Julie Steele, membro del team di sicurezza della società, ha dichiarato a titolo personale di ritenere necessario ridurre il ritmo dello sviluppo. Amodei ha intanto indicato una possibile strada per aumentare i controlli: Anthropic si è impegnata a garantire a valutatori esterni un accesso permanente ai propri sistemi, così da consentire verifiche sulle misure di sicurezza, segnalazioni di incidenti e valutazioni sull’allineamento dei modelli durante l’addestramento.

Nel dibattito è entrato anche Geoffrey Hinton, premio Nobel per la fisica e una delle figure centrali nella storia dell’intelligenza artificiale, che ha giudicato non irragionevole la possibilità di attribuire una probabilità superiore al 10 per cento a uno scenario di estinzione provocata dall’IA. Ma accanto alla questione della sicurezza resta quella degli enormi interessi economici in gioco. Gli allarmi provenienti dai laboratori si inseriscono infatti in una fase di fortissima crescita delle valutazioni delle società che sviluppano i modelli di IA. Anthropic, in particolare, si prepara a una possibile quotazione in Borsa di dimensioni record, con un’Ipo che potrebbe arrivare già tra ottobre e novembre. È anche questo uno degli elementi che alimentano il dibattito sulla natura degli allarmi: quanto rappresentino una valutazione tecnica dei rischi e quanto possano inserirsi nella competizione tra aziende, nella ricerca di capitali e nella costruzione della narrativa pubblica attorno alla nuova generazione di sistemi di IA.

Trump, intanto, sembra avere scelto una direzione opposta a quella di chi chiede di rallentare. Per il presidente americano la priorità resta mantenere il vantaggio sugli altri Paesi, a partire dalla Cina. E nella sua visione la partita sull’intelligenza artificiale non è soltanto tecnologica: è una sfida per la supremazia globale.

L’articolo Trump: “Chi vince nell’IA, vince tutto”. E boccia l’idea di rallentare lo sviluppo che propongono Anthropic, OpenAi e anche Musk proviene da Il Fatto Quotidiano.