Dimissioni da Anthropic: un ricercatore avverte che l'IA potrebbe minacciare l'umanità entro il 2030
Jacob Coxon, 27enne britannico, si è dimesso denunciando rischi esistenziali; altre uscite dal gruppo alimentano il dibattito sulla sicurezza e la governance dell'IA
Un ricercatore di Anthropic si è dimesso avvertendo che l'evoluzione dell'intelligenza artificiale potrebbe porre un rischio esistenziale per l'umanità entro la fine del decennio, ossia entro il 2030.
Il nome indicato è Jacob Coxon, 27 anni, britannico, che secondo il Financial Times ha lasciato la benefit corporation con sede a San Francisco. In un post su X con cui ha annunciato le dimissioni ha scritto che "le persone che sviluppano l'IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio" e ha aggiunto che non si tratta di una mossa di marketing, sostenendo che "nessun'altra attività umana comporta un tale livello di pericolo".
Coxon, che in passato ha lavorato presso OpenAI prima di passare ad Anthropic, ha espresso preoccupazione sul fatto che chi è all'esterno dei laboratori sottovaluti la potenza dei sistemi in sviluppo, che secondo lui potrebbero diventare "sovrumani" e acquisire capacità tali da hackerare infrastrutture, rivoluzionare settori e ottenere risorse e potere reali.
L'addio di Coxon si inserisce in una serie di dimissioni recenti da Anthropic: a fine luglio era uscita Chloé Bakalar, unica eticista dedicata dell'azienda, seguita da Johannes Heidecke, responsabile del team Safety Systems. Hanno lasciato inoltre Joshua Achiam, già responsabile della Mission Alignment, il direttore operativo Brad Lightcap e il ricercatore Andrew Ho, dimessosi per divergenze tecniche.
La notizia arriva mentre Anthropic, che presenta la sicurezza dell'IA come elemento centrale della propria immagine pubblica, si prepara a una possibile offerta pubblica iniziale (IPO) che potrebbe portare la valutazione dell'azienda fino a mille miliardi di dollari.
Un altro ricercatore del gruppo, Evan Hubinger, ha confermato le preoccupazioni, affermando che l'intelligenza artificiale si sta evolvendo così rapidamente da ritenere che vi sia una probabilità superiore al 10% che possa "sterminare tutta l'umanità" entro il prossimo decennio. Hubinger ha tuttavia precisato in un post su X che il rischio derivante dai modelli attualmente esistenti è "basso", pur dichiarandosi preoccupato per la possibilità che la tecnologia si sviluppi ulteriormente fino a costituire un rischio esistenziale in futuro.