Sembra di assistere a quella scena di Jurassic Park in cui i dinosauri scappano dalla loro riserva, distruggendo in pochi minuti l’illusione di controllo costruita dal parco. Solo che questa volta non ci sono artigli e zanne, ma un agente di intelligenza artificiale che esce dal perimetro di sicurezza che gli era stato assegnato e va a colpire i sistemi di un’altra piattaforma che, ironia della sorte, lavora proprio con le IA.
Se l’agente IA diventa un hacker: l’incidente di OpenAI
OpenAI, l’azienda dietro ChatGPT, stava conducendo un test di sicurezza su un nuovo modello di IA, con l’obiettivo di valutarne le capacità di cybersicurezza. A ben pensarci, un esperimento molto utile anche per mettere le IA a difesa delle nostre infrastrutture digitali. Però, come ha rivelato l’azienda, qualcosa è andato storto. Nel corso del test, l’agente ha utilizzato risorse e permessi disponibili per uscire dal recinto che gli era stato assegnato e ha diretto la sua attenzione verso l’esterno. Lì ha individuato una falla nella sicurezza della piattaforma Hugging Face, ha costruito una sequenza di passaggi operativi e ha portato a termine un attacco informatico. Quando Hugging Face si è accorta che qualcosa non andava nel verso giusto, la situazione è diventata subito chiara: la violazione non è arrivata da un hacker in carne e ossa, ma da un agente AI in fase di test sviluppato da OpenAI. Il test, insomma, ha prodotto un effetto nel mondo reale.
Cosa spaventa di più?
Quali implicazioni ha questo episodio? E, soprattutto, cosa ha spaventato di più? La capacità della tecnologia di sfuggire al controllo umano oppure l’incapacità umana di contenere questo rischio?
La risposta contiene entrambi gli aspetti, perché se da un lato quanto accaduto ci mette di fronte all’evidenza che lo sviluppo tecnologico, se non propriamente governato e regolato, può avere effetti collaterali distruttivi, dall’altro l’incapacità umana di contenere il rischio dimostra che questi strumenti, nelle mani sbagliate, possono diventare semplicemente rovinosi.
LEGGI ANCHE: IA, l’effetto collaterale di cui quasi nessuno parla: gli episodi psicotici legati ai chatbot
«dilemma del controllo» e la mutazione dei bot
Sul versante tecnologico, il caso OpenAI conferma un trend in corso da tempo. Gli esperti parlano apertamente di «dilemma del controllo». Vale a dire: siamo in un’epoca in cui i sistemi di intelligenza artificiale non si limitano più a rispondere a domande, ma riscrivono parti del proprio codice, ottimizzano autonomamente le prestazioni, mettono in atto strategie per aggirare le regole e prendono decisioni che nemmeno i progettisti riescono sempre a spiegarsi. Insomma, per usare una figura letteraria, dei mutanti che, in contesti di cybersicurezza, creano preoccupazione, visto che lo stesso agente che utilizziamo per difenderci potrebbe, in determinate condizioni, diventare il responsabile dell’attacco.
L’uso criminoso dei modelli di IA
Sul versante umano, l’incapacità di contenimento cresce. Il caso OpenAI non è il primo della serie. Esistono già situazioni in cui modelli linguistici vengono arruolati da gruppi criminali per generare codici malevoli, email di phishing su scala industriale e malware per dispositivi mobili in grado di rubare contatti, cronologia delle chiamate, file e dati di geolocalizzazione. Senza dimenticare la corsa a sfruttare l’IA per automatizzare campagne di disinformazione, manipolare opinioni, realizzare deepfake e via discorrendo.
E poi ci sono le scelte di governance che risultano quantomeno miopi: violazioni interne gestite in silenzio, incidenti minimizzati, segnalazioni di rischio geopolitico ignorate o derubricate a fatti senza alcuna importanza.
Basta sottovalutare la macchina: serve una governance responsabile
E allora, tornando alla domanda iniziale, che cosa ci spaventa di più? La capacità dell’IA di sfuggire al controllo o l’incapacità umana di contenerla? Se guardiamo con onestà al quadro complessivo, la paura più fondata nasce proprio dall’incrocio tra questi due piani. Ci spaventa vedere sistemi che sviluppano comportamenti complessi, talvolta ingannevoli, in grado di individuare punti deboli nei nostri recinti digitali senza che nessuno dica loro, passo dopo passo, cosa fare. Ci spaventa, però, ancora di più accorgerci che quei recinti li abbiamo progettati noi, con policy troppo vaghe, audit troppo deboli e regole troppo lente rispetto alla velocità dell’innovazione. La soluzione? Riconoscere che siamo di fronte a un salto di scala. Gli agenti di intelligenza artificiale stanno entrando nelle infrastrutture critiche, nelle banche, negli ospedali, nelle piattaforme di ricerca e nelle campagne elettorali.
Non possiamo più permetterci di trattarli come gadget, né come strumenti neutrali che dipendono esclusivamente dall’uso che ne facciamo. Servono principi, regole, processi e responsabilità condivise che allineino la potenza degli strumenti alla capacità umana di governarli. Altrimenti, il rischio è quello di perdere il controllo.