OpenAI ha rinunciato al lancio del suo ultimo modello di intelligenza artificiale di nuova generazione, GPT-6.1 Astra, a causa dei timori sulla sicurezza sollevati dai ricercatori durante i test. Lo riporta il Wall Street Journal, citando il responsabile della sicurezza informatica dell’azienda, Saachi Jain, il quale ha spiegato che il modello ha ottenuto risultati scadenti nella capacità di attenersi alle aspettative degli umani, mostrando una «propensione all’inganno», in quanto poco trasparente nel dire le azioni che aveva o non aveva intrapreso. La startup di Sam Altman intendeva integrare 6.1 Astra nel chatbot ChatGPT e in Codex nel mese di ottobre.
LEGGI ANCHE: Paradosso IA: così ti frigge il cervello aumentando fatica cognitiva e burnout
Le criticità rilevate durante i test condotti da OpenAI
«Pur rappresentando un miglioramento rispetto ai modelli precedenti sotto alcuni aspetti», ha spiegato Jain, GPT-6.1 Astra «non ha raggiunto gli standard richiesti per quanto riguarda il rispetto dei limiti operativi e delle autorizzazioni, nonché le modalità di comunicazione all’utente in merito al lavoro svolto». Sono state in particolare due le criticità che hanno portato OpenAI a stoppare il lancio di Gpt-6.1 Astra: Jain ha segnalato «passi indietro» rispetto alla versione precedente nell’allineamento con quello che gli esseri umani ordinano di fare al modello di IA, inoltre il modello procedeva in un compito senza chiedere il permesso all’utente, usando in alcune occasioni strumenti e servizi esterni anche se ciò poteva risultare pericoloso.
Aumentano le preoccupazioni sulla sicurezza dell’IA
Le preoccupazioni riguardo alla sicurezza dell’IA si sono intensificate negli ultimi mesi, dopo che alcuni modelli sviluppati da OpenAI e dall’azienda rivale Anthropic hanno rilevato incidenti di sicurezza durante la fase di test: di recente gli amministratori delegati delle principali società del settore si erano allineati nella richiesta di rallentare e imporre maggiori controlli. Dopo il semaforo rosso a GPT-6.1 Astra, OpenAI ha affermato di volersi concentrare nel miglioramento dei protocolli di sicurezza dei modelli futuri.
LEGGI ANCHE: Intelligenza artificiale in ufficio: tutti la usano, ma a cosa serve davvero?