Una lavatrice ha una vita piuttosto tranquilla. Deve lavare, non allagare casa e, possibilmente, non prendere fuoco. Se succede, sappiamo come intervenire. Ci sono standard da rispettare, controlli da superare e qualcuno a cui chiedere conto. L’intelligenza artificiale, invece, ambisce a rivoluzionare l’umanità, ma quando sbaglia o causa un danno non è sempre chiaro chi debba risponderne.
L’IA oggi è considerata uno strumento e un’arma insieme
È il problema sollevato da Brad Smith, presidente di Microsoft, che in alcune recenti interviste all’emittente britannica Itv News e alla Bbc ha chiesto regole globali. «Oggi l’IA è meno regolamentata di una lavatrice, meno regolamentata di un cartone di latte», ha osservato. Smith ha descritto l’IA come uno strumento e un’arma insieme, sottolineando come il suo sviluppo proceda più velocemente delle misure di sicurezza. Una situazione che, a suo giudizio, non fa bene né al pubblico né al settore.
Con gli agenti autonomi il sistema può agire direttamente
Prendiamo un agente di IA che accede a un sistema informatico, esegue un’operazione non autorizzata e compromette dati sensibili. Chi deve risponderne? L’azienda che ha sviluppato il modello? Quella che lo ha integrato nei propri processi? O l’organizzazione che gli ha affidato il compito? Finché l’intelligenza artificiale produceva testi e immagini, una persona decideva se utilizzarli. Con gli agenti autonomi, invece, il sistema può agire direttamente. Diventa così più difficile individuare chi ha preso la decisione e chi avrebbe dovuto impedirla.
Gli sviluppatori dovrebbero rispondere per legge
Smith ha sostenuto che gli sviluppatori dovrebbero rispondere per legge se agiscono con negligenza e la loro IA provoca danni catastrofici. I governi dovrebbero inoltre poter ordinare lo spegnimento di un sistema, come possono tenere a terra un aereo. In gioco c’è la possibilità di controllare la tecnologia e di attribuire le responsabilità quando qualcosa va storto.
I modelli più avanzati vanno valutati e approvati
La proposta di Smith si articola in tre misure. Prima del rilascio, i modelli più avanzati dovrebbero essere valutati e approvati da esperti governativi, come succede per gli aerei di linea e per il latte. Durante il funzionamento, dovrebbe esserci un freno d’emergenza, il cosiddetto kill switch, per fermare un sistema che esce dai binari, soprattutto quando controlla dispositivi autonomi o infrastrutture critiche. Dopo un incidente, chi gestisce il sistema dovrebbe redigere un rapporto e avvisare le persone coinvolte, come già avviene in caso di violazione dei dati. Insomma, bisogna poter ricostruire che cosa è successo e stabilire chi ne risponde.
Microsoft non ha firmato l’accordo con le altre aziende del settore
Smith non esclude l’autoregolamentazione. Considera un passo avanti l’accordo definito moralmente vincolante, firmato a fine settembre alla Casa Bianca dai vertici di OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google. Ma ritiene che non sia sufficiente, perché il problema riguarda anche le aziende meno responsabili. Microsoft non ha firmato l’accordo, anche se Smith si è detto disponibile a farlo.
L’Unione europea ha scelto una legge vincolante
Sul piano politico, le posizioni restano distanti. Donald Trump sostiene che il settore debba regolarsi da solo per non perdere terreno rispetto alla Cina. L’Unione europea ha scelto invece una legge vincolante, l’AI Act, entrato in vigore nel 2024. Una modifica datata 27 luglio 2026 ha rinviato alcune disposizioni sui sistemi ad alto rischio. Per quelli utilizzati in ambiti sensibili, come la selezione del personale e la valutazione del credito, gli obblighi scatteranno il 2 dicembre 2027. Per l’IA integrata in prodotti disciplinati dalla normativa europea di sicurezza, come i dispositivi medici, la scadenza è invece il 2 agosto 2028.
Smith vorrebbe che fosse il Regno Unito a guidare la definizione di regole globali, facendo leva sull’AI Security Institute, che considera il migliore al mondo nel testare i modelli. A suo giudizio, Londra gode a Washington di una considerazione diversa da Bruxelles, un vantaggio per promuovere la cooperazione internazionale.
Chi sbaglia? Una questione concreta, oltre che giuridica
Il problema, infatti, è che l’intelligenza artificiale non si ferma ai confini nazionali e le responsabilità possono distribuirsi fra chi sviluppa un sistema, chi lo fornisce e chi lo utilizza. Per le imprese, sapere chi risponde di un errore diventa quindi una questione concreta, oltre che giuridica. Le prestazioni di un algoritmo non bastano a garantire affidabilità. Servono controlli verificabili e una catena di responsabilità definita. E finché le regole non chiariranno chi deve intervenire e chi deve rispondere, ogni impresa farebbe bene a porsi la domanda prima che sia a farlo un incidente.