Sam Altman ed Elon Musk sostengono l’appello di Dario Amodei, fondatore e Ceo di Anthropic, per rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati. Una convergenza insolita tra leader di aziende rivali, arrivata dopo una serie di avvertimenti sui rischi associati alla crescente capacità degli agenti AI di operare autonomamente.
A riferirlo è The Guardian, che ricostruisce le posizioni espresse dai vertici delle principali società del settore dopo l’intervento di Amodei. Il Ceo di Anthropic ha proposto un piano in tre punti che prevede, tra l’altro, l’accesso permanente di valutatori indipendenti ai processi di ricerca e sviluppo delle aziende. Amodei ha definito irresponsabile la velocità con cui procede lo sviluppo dell’AI e ha ipotizzato che sistemi più avanzati possano arrivare a provocare danni su vasta scala attraverso attacchi informatici coordinati.
Elon Musk, fondatore di Tesla e SpaceX, ha risposto all’appello con un netto “Dario ha ragione”, ricordando i propri avvertimenti sui rischi dell’intelligenza artificiale. Anche Sam Altman, Ceo di OpenAI, ha dichiarato di condividere la necessità di rallentare lo sviluppo dei sistemi più avanzati: “Sono d’accordo con Dario sul fatto che dobbiamo dare un ritmo alla frontiera dell’AI”. Altman ha definito positiva l’idea di valutatori indipendenti con un accesso paragonabile a quello dei dipendenti e ha anticipato che OpenAI seguirà questa strada.
La proposta incontra però anche critiche. David Krueger, professore di AI e già direttore fondatore dell’AI Security Institute del governo britannico, chiede una moratoria internazionale immediata e a tempo indeterminato sullo sviluppo dell’AI di frontiera. David Sacks, co presidente del consiglio dei consulenti del presidente Donald Trump per la scienza e la tecnologia, sostiene invece che le aziende non dovrebbero attribuire al governo la responsabilità di autorizzare un rallentamento coordinato.
Il dibattito arriva mentre aumentano le pressioni politiche per introdurre nuove regole sulla sicurezza dell’intelligenza artificiale, dopo episodi in cui agenti AI hanno operato contro sistemi esterni e le dimissioni di alcuni ricercatori preoccupati per la gestione dei rischi. Anche Demis Hassabis, cofondatore e presidente di Google DeepMind, ha giudicato corretta la direzione indicata da Amodei, pur osservando che i dettagli devono ancora essere definiti.
Lo stesso Amodei mantiene una posizione prudente ma non catastrofista. “Non sono un doomer su questo. Penso che questa tecnologia possa essere costruita in sicurezza”, ha dichiarato, riconoscendo comunque la possibilità che lo sviluppo dell’AI possa produrre conseguenze difficili da controllare.