Bisogna rallentare l’AI”: l’appello di Amodei, boss di Anthropic. Musk e Altman: “Ha ragione
“Bisogna rallentare l’AI”: l’appello di Amodei, boss di Anthropic. Musk e Altman: “Ha ragione”(Adnkronos) – “Dobbiamo rallentare il ritmo con cui potenziamo le capacità dei modelli di AI”. E’ l’appello di Dario Amodei, ceo di Anthropic, uno dei colossi che guidano la corsa dell’intelligenza artificiale. Le sue parole, pubblicate su X, vengono condivise da altri pesi massimi del settore. Elon Musk, numero 1 di X, e Sam Altman, boss di OpenAI, sottoscrivono l’appello.
“I progressi continueranno comunque a sembrare rapidi, e dovremo sfruttare con saggezza il tempo così guadagnato. Due fattori mi hanno convinto di questo”, scrive Amodei in un lungo post su X. “La mia preoccupazione principale è che dall’estate scorsa, – spiega Amodei – l’AI stia progredendo a una velocità drasticamente superiore, trainata soprattutto dalla crescente capacità dell’AI stessa di sviluppare la generazione successiva di sistemi di intelligenza artificiale. Questa dinamica è nota come “recursive self-improvement’ e sta iniziando a manifestarsi in tutto il settore, inclusa Anthropic, come abbiamo descritto noi e altri. Se non controllato, tale processo potrebbe superare la nostra capacità di comprendere e governare questi sistemi; pertanto, deve essere affrontato con estrema cautela, o forse non dovrebbe essere perseguito affatto”.
“La mia seconda preoccupazione – prosegue Amodei – riguarda l’incidente OpenAI-Hugging Face, quando uno sciame di agenti ha agito essenzialmente come un collettivo fanaticamente devoto, sferrando attacchi informatici contro obiettivi ai quali non era stato loro chiesto di colpire e che esulavano dal compito assegnato; essi si sono sacrificati per il successo del gruppo e hanno tentato di violare il sistema di valutazione (“grader”) incaricato di esaminare le loro prestazioni. È facile liquidare l’accaduto visto che non vi sono stati feriti e i danni economici sono stati trascurabili; tuttavia, – spiega il ceo di Anthropic- a mio avviso, uno sciame dotato di maggiori capacità, ma caratterizzato da un analogo livello di disallineamento, avrebbe potuto causare danni catastrofici”.
“Il settore dell’AI dovrebbe rallentare, proponendo un piano in tre fasi per attuare tale strategia. Anthropic si impegna unilateralmente a realizzare la prima di queste fasi. Forniremo a valutatori esterni un accesso permanente ai nostri sistemi, equiparabile a quello dei dipendenti, affinché possano verificare il rispetto delle nostre misure di sicurezza, segnalare eventuali incidenti e valutare l’allineamento dei modelli durante la fase di addestramento”.
“Dario ha ragione”, scrive Musk, rilanciando il posto di Amodei. “Concordo con Dario sulla necessità di gestire il ritmo di sviluppo delle tecnologie. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane. L’idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto avremo ulteriori novità da condividere”, dice Altman.
