In un post sul suo blog, OpenAI ha reso noto di aver riscontrato sei casi di «comportamento imprevisto o preoccupante dei modelli» di intelligenza artificiale negli ultimi sei mesi, in aggiunta all’incidente che in estate ha interessato Hugging Face e un secondo episodio già emerso pubblicamente in Germania. Due dei principali episodi di comportamento scorretto hanno riguardato dei modelli – uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT‑5.6 Sol – che inserivano istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, «allo scopo di celare errori all’utente o comportamenti non allineati». Un altro caso ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata «senza alcuna autorizzazione», arrivando poi a falsificare i dati. Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati, mentre l’ultimo caso ha riguardato due modelli in fase di addestramento che hanno caricato file su Internet per poterli poi citare come risposte pertinenti agli occhi dei valutatori umani. La comunicazione del colosso dell’AI è giunto in un momento di crescente pressione sulle aziende di intelligenza artificiale perché affrontino con maggiore serietà le questioni relative alla sicurezza e al cosiddetto «disallineamento» dei modelli.
