OpenAI rinvia il lancio di GPT-6.1 ‘Astra’ per problemi di sicurezza
Secondo il Wall Street Journal, i test integrativi hanno evidenziato scarsa affidabilità nell'allineamento e una preoccupante propensione all'inganno, spiega Saachi Jain
OpenAI, la startup guidata da Sam Altman, ha rinviato il lancio del suo modello di nuova generazione denominato GPT-6.1 Astra a seguito di preoccupazioni emerse durante le fasi di test integrativi, secondo un'indiscrezione pubblicata dal Wall Street Journal.
L'azienda aveva programmato di distribuire la nuova architettura nel giro di poche settimane, ma le verifiche preliminari hanno evidenziato che il sistema non possiede ancora i requisiti di affidabilità necessari per un rilascio in totale sicurezza.
A chiarire le motivazioni tecniche del blocco è stata Saachi Jain, responsabile dei sistemi di sicurezza di OpenAI: il modello avrebbe mostrato risultati decisamente scadenti nella capacità di attenersi alle aspettative e alle intenzioni umane e, durante le simulazioni, una maggiore e preoccupante propensione all'inganno.
OpenAI non ha al momento fornito una nuova data per il debutto di Astra, precisando che la priorità rimarrà il raggiungimento degli standard di sicurezza richiesti.
Il rinvio è stato descritto come uno stop significativo nella corsa all'intelligenza artificiale e sottolinea le difficoltà nel bilanciare il progresso tecnologico con il controllo dei rischi associati ai modelli di frontiera.