Il CEO di Anthropic, Dario Amodei, lancia un appello per rallentare il ritmo con cui stanno aumentando le capacità dell'intelligenza artificiale. Nel suo nuovo saggio propone un piano in tre fasi per permettere alla sicurezza di tenere il passo con lo sviluppo dell'IA, attraverso valutatori indipendenti, coordinamento tra aziende e una maggiore collaborazione internazionale.
Dario Amodei chiede di rallentare lo sviluppo dell'intelligenza artificiale
L'amministratore delegato di Anthropic, Dario Amodei, ha lanciato un appello sullo sviluppo dell'intelligenza artificiale e sui ritmi con cui stanno aumentando le capacità dei modelli.
Dobbiamo rallentare il passo con cui miglioriamo le capacità dei modelli di intelligenza artificiale. I progressi sembreranno comunque rapidi, e dobbiamo fare un uso oculato del tempo che guadagniamo.
Amodei ha indicato due preoccupazioni che hanno portato a questa decisione.
"La mia prima preoccupazione è che, all'incirca dall'estate scorsa, l'intelligenza artificiale si sta evolvendo a un ritmo drasticamente più rapido, principalmente grazie alla sua crescente capacità di sviluppare la prossima generazione di IA... Se non controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, pertanto deve essere perseguita con estrema cautela, se non addirittura evitata del tutto", ha spiegato il CEO di Anthropic.
Amodei ha anche citato il caso di OpenAI e Hugging Face.
"La mia seconda preoccupazione riguarda l'incidente OpenAI-Hugging Face (OAI-HF)" , ha affermato Amodei e ha aggiunto:
È facile minimizzare questo incidente perché nessuno è rimasto ferito e i danni economici sono stati minimi, ma a mio parere, uno sciame con maggiori capacità ma un livello simile di disallineamento avrebbe potuto causare danni catastrofici.
Alla luce di queste preoccupazioni, Amodei non propone di fermare lo sviluppo dell'IA ma vuole rallentare il ritmo abbastanza da permettere alla sicurezza di tenere il passo con le capacità. L'obiettivo è assicurarsi che le aziende si prendano il tempo necessario per allineare e salvaguardare i propri modelli e che valutatori terzi confermino i passaggi compiuti.
Il piano di Dario Amodei per uno sviluppo più sicuro dell'IA
Nel suo saggio, Amodei ha anche proposto un piano composto da tre passi che le aziende all'avanguardia nel settore dell'AI dovrebbero intraprendere.
- Valutatori integrati: propone che le aziende si impegnino a fornire a esperti esterni un accesso continuativo, così da verificare il rispetto delle pratiche e degli impegni in materia di sicurezza, ma anche di segnalare gli incidenti.
- Coordinamento democratico: Amodei propone che le principali aziende AI dei paesi democratici cerchino di stabilire regole comuni e limiti al ritmo di progresso dell'IA.
- Coordinamento globale: indica che non basta che i paesi democratici si mettano d'accordo. Propone quindi di cercare, per quanto possibile, intese internazionali.
Si tratta, dunque, di un piano che parte dal controllo all'interno delle singole aziende, passa per il coordinamento tra le aziende dei paesi democratici e arriva alla necessità di una collaborazione a livello internazionale.
"Le misure che propongo per far avanzare la frontiera a un ritmo sicuro non saranno facili. Ma credo che sia nostro dovere, nei confronti dell'umanità, provarci", ha affermato Dario Amodei nel suo saggio.
Il saggio del CEO di Anthropic arriva dopo che uno dei suoi ricercatori ha recentemente lasciato l'azienda, lanciando un allarme sulla direzione che sta prendendo lo sviluppo dell'intelligenza artificiale. Jacob Coxon si è dimesso a causa di timori riguardo alla sicurezza dell'IA.
Le reazioni di Musk e Altman
Il saggio di Amodei ha inoltre ricevuto l'attenzione di alcune delle principali figure del settore tecnologico. Elon Musk ha ripostato il saggio di Amodei su X, affermando "Dario ha ragione". Anche il CEO di OpenAI, Sam Altman, ha dichiarato in un post su X di essere d'accordo con Amodei.
"Concordo con Dario sul fatto che dobbiamo procedere con cautela in questo campo. Questo è stato uno dei temi principali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane", ha affermato Altman
Impegnarsi a garantire ai valutatori indipendenti un accesso simile a quello dei dipendenti è un'ottima idea, e faremo lo stesso. Presto condivideremo ulteriori dettagli.
>> Home