Cosa hanno in comune un piccolo brand di snack, due team di avvocati americani e 150 matematici provenienti da tutto il mondo? Ho chiesto ad alcune intelligenze artificiali di risolvere l’indovinello. Secondo Gemini il mondo dei giochi logici e della didattica. Perplexity mi ha chiesto più contesto per poter dare una risposta. Mentre ChatGPT mi ha detto che la risposta più probabile è che siano tutti finiti dentro contenuti generati dall’IA. Quando ho chiesto come facesse a inferirlo, ha replicato che si trattava della risposta più plausibile rispetto ai testi cui la macchina ha avuto accesso in fase di addestramento. In parole semplici: «Produco la risposta che suona giusta, non necessariamente quella verificata.» Ed è qui che casca l’asino, questo è in effetti il problema. Perché se c’è una cosa che unisce un piccolo brand di snack, un team di avvocati americani e 150 matematici provenienti da tutto il mondo è proprio il fatto che tutti hanno avuto un problema di fiducia nell’intelligenza artificiale.
Il processo annullato negli Usa perché gli avvocati avevano fatto ricerche con l’IA
Nell’ambito di un recente processo negli Stati Uniti, un giudice distrettuale del Mississippi ha scoperto che gli avvocati di entrambe le parti in causa avevano condotto le proprie ricerche usando l’intelligenza artificiale. Nessuno aveva controllato cosa ci fosse scritto, finché non sono state presentate le rispettive memorie e l’ha fatto qualcun altro per loro. Risultato? Imbarazzo, scuse alla corte, multe, processo annullato e il divieto di comparire nel tribunale distrettuale per due anni per alcuni di loro. Niente male.
Lo spot del brand di snack, “bocciato” dalla fanbase
Il brand degli snack citato all’inizio di questo articolo si chiama Chookie. È americano e ultimamente aveva fatto un uso massiccio dell’IA per le proprie pubblicità, fino a toccare con mano il malcontento della fanbase e correre ai ripari girando uno spot i cui protagonisti sarebbero poi diventati un aereo di cartone e dei pupazzi animati. «È costato lo stesso in termini di tempo e soldi», ha tagliato corto uno dei suoi manager, ma alla fine la risposta è stata nettamente più positiva rispetto agli spot girati con l’IA. Motivo? Le pubblicità costruite con l’intelligenza artificiale suonavano artefatte, piene di errori e poco oneste.
I matematici: «Non cedete alle sirene dell’intelligenza artificiale»
Dal canto loro, 150 matematici provenienti da tutto il mondo e firmatari della Dichiarazione di Leiden su IA e Matematica avevano avvisato di fare attenzione e di non cedere alle sirene dell’IA. Nel loro caso ovviamente il riferimento è alla capacità dell’intelligenza artificiale di risolvere problemi complessi. Ma poco cambia. Leslie Ann Goldberg, firmataria e responsabile del dipartimento di informatica all’Università di Oxford, ha infatti spiegato che «le tecniche automatizzate attuali possono produrre argomentazioni plausibili ma inaffidabili, o addirittura errate, che sono difficili da distinguere da dimostrazioni matematiche corrette». Insomma, l’intelligenza artificiale potrebbe produrre soluzioni convincenti, che in realtà non resistono a un esame approfondito.
Manca un vero dibattito su come l’IA dovrebbe essere governata
Questi tre diversi casi ci raccontano qualcosa di preciso. Ovvero che al momento in giro c’è mancanza di lucidità. E questo stato delle cose fa gioco a quei pochi che lucidi lo sono per davvero, vale a dire quelli che la nuova tecnologia la spingono a prescindere e meglio se tutto resta così com’è, senza regole. A denunciarlo sul New York Times è stato John O’Farrell, uno degli ex soci di A16Z, fondo d’investimento della Silicon Valley e tra i principali protagonisti di questa corsa tecnologica. Che ha scritto: «Alcuni dei protagonisti più potenti dell’IA – guidati da alcuni miei amici e ex partner, con grande tristezza – hanno raccolto centinaia di milioni di dollari per evitare un dibattito più serio e significativo su come l’IA dovrebbe essere governata». Concludendo poi: «Credo che sia un enorme errore».
Al momento l’intelligenza artificiale resta un’enorme scommessa narrativa
Viviamo in una grande allucinazione, noi e l’IA. Siamo in hype, in quel punto esatto in cui la narrazione precede ciò che realmente è, e cioè che la macchina funziona meno di quello che ci vogliono far credere. Al momento, infatti, l’IA resta un’enorme scommessa narrativa la cui promessa è l’eliminazione della mediazione umana e quindi della fatica. Tradotto: velocità senza errore, conoscenza senza studio, creatività senza conoscenza, decisioni senza conflitto, assenza di responsabilità. Insomma, scorciatoie per il paradiso. O se preferite come in Pinocchio il Gatto e la Volpe e il Campo dei Miracoli. Basta fidarsi. Solo che la fiducia segue percorsi diversi, si costruisce nel tempo e dall’errore e con regole precise, tipo la trasparenza radicale. Forse è meglio stare in campana. Qualcuno, in un modo o nell’altro, ha cominciato a capirlo.