Amodei (Anthropic): senza rallentamenti l'IA potrebbe prendere il controllo di Internet in 6-12 mesi

Dario Amodei, a capo di Anthropic, ha definito la situazione dell'intelligenza artificiale un "segnale d'allarme" per il settore, affermando che senza un rallentamento nel giro di 6-12 mesi l'IA "potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell'intero Internet". L'intervista andrà in onda a 'CBS News Sunday Morning' e di cui è stata diffusa un'anticipazione.

Amodei ha detto di non avere compreso pienamente «cosa avrebbe significato davvero un progresso così rapido». Ha descritto lo sviluppo come una progressione "uno, poi due, poi quattro, poi otto, poi 16, poi 32", osservando che ci si trova «sulla curva» e che questa «sta iniziando a farsi ripida. Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto», ma è comunque «un segnale d'allarme: dobbiamo rallentare».

Secondo Amodei, la tecnologia necessita di misure di sicurezza in grado di stare al passo «con la velocità con cui la tecnologia stessa evolve». L'intervista è stata anticipata da un post sul blog in cui il manager ha esortato le aziende che sviluppano IA a procedere con maggiore cautela e a dare priorità alla prevenzione dei rischi.

Nel post Amodei ha tracciato un piano in tre punti per "gestire il ritmo di avanzamento della frontiera tecnologica": il primo riguarda i valutatori interni ("embedded evaluators"), il secondo il coordinamento democratico e il terzo il coordinamento globale.

La proposta ha ricevuto il sostegno pubblico di Elon Musk (SpaceX) e di Sam Altman (OpenAI).

Amodei ha inoltre scritto che, se gestita con attenzione, "l'IA può essere l'ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanità"; ma ha aggiunto che "come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi".