Anthropic: bloccati tentativi di usare l'AI per ricerche potenzialmente legate ad armi biologiche

L'azienda di intelligenza artificiale Anthropic ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori di usare versioni del suo software Claude in relazione al possibile sviluppo di armi biologiche. Anthropic è concorrente di OpenAI, sviluppatrice di ChatGPT.

La società ha avvertito che risulta difficile stabilire con certezza le intenzioni alla base di tali richieste, perché la stessa tipologia di ricerca può avere finalità sia mediche sia militari.

Anthropic ha affermato che i casi esaminati dimostrano come scienziati provenienti da regioni con accesso limitato — inclusi alcuni legati a enti governativi locali — abbiano tentato di accedere segretamente a sistemi di AI sviluppati da aziende statunitensi. Non sono stati indicati né gli istituti coinvolti né i paesi di provenienza.

Nel rapporto dettagliato sui tentativi di uso improprio dei suoi modelli, l'azienda ha elencato cinque casi collegati a possibili ricerche su armi biologiche. Secondo Anthropic, i ricercatori non richiedevano assistenza scientifica specifica, ma supporto di tipo organizzativo, come aiuto nella stesura di documenti.

I modelli di AI sono generalmente progettati per rifiutare assistenza nello sviluppo di armi biologiche. Anthropic ha però osservato che, quando una ricerca può avere finalità sia mediche sia militari, può essere complesso tracciare una linea netta tra intenzioni innocue e malevole.

In uno dei casi bloccati, un ricercatore ha cercato di utilizzare Claude per redigere una richiesta di finanziamento per una ricerca su un virus che prevedeva la cosiddetta ricerca di "acquisizione di funzione" (gain-of-function), volta ad aumentare la trasmissibilità di un agente patogeno. L'azienda ha ricordato che questo approccio è impiegato nei laboratori per sviluppare contromisure, ma può anche essere sfruttato per lo sviluppo di armi biologiche.