C’è una nuova specie umana che si aggira nelle sale riunioni: il Ceo innamorato dell’intelligenza artificiale. Non si limita a usarla: la venera. Le chiede consigli strategici, le sottopone organigrammi e arriva persino a porle la domanda delle domande: «Lo licenzio questo?». Non è uno scherzo. È quanto emerge da una recente inchiesta che ha raccolto le testimonianze di diversi lavoratori americani i cui capi, ormai ossessionati dai chatbot, avevano cominciato a prendere decisioni aziendali, comprese assunzioni e licenziamenti, basandosi quasi esclusivamente sui consigli del bot. «Bot delle mie brame, dimmi…».
Quando in azienda le direttive dell’IA diventano la Bibbia
C’è, per esempio, l’avvocato impiegato in una startup che racconta di un capo arrivato a imporre a tutto lo staff di consultare l’intelligenza artificiale prima di ogni riunione. Aveva persino fatto costruire un documento di centinaia di pagine, ribattezzato internamente la Bibbia, che i dipendenti avrebbero dovuto interrogare al posto dei colleghi per capire come svolgere il proprio lavoro. E che dire dello specialista IT che descrive un supervisore intento a copiare quasi ogni conversazione avuta con colleghi e collaboratori dentro ChatGPT, chiedendo al chatbot se si fosse comportato correttamente? La risposta era quasi sempre rassicurante e finiva puntualmente per confermare qualunque decisione avesse già preso. Un altro caso riguarda una piattaforma software per l’industria manifatturiera. Qui il fondatore ignorava sistematicamente le analisi di mercato del team commerciale, preferendo fidarsi di ciò che gli suggeriva il chatbot, anche quando contraddiceva l’esperienza diretta di chi lavorava sul campo ogni giorno. In altre parole, ignorava il contesto. Che è esattamente ciò che fa tutta la differenza del mondo. E giù novantadue minuti di applausi per questa pantomima fantozziana.
La fiducia cieca nel bot crea caos e instabilità
Il paradosso, notato da molti, è che questa fiducia cieca nell’intelligenza artificiale, presentata come uno strumento di efficienza, produceva ambienti di lavoro sorprendentemente più caotici e instabili, con ruoli che cambiavano di settimana in settimana in base all’ultima conversazione con il bot. Ci sarebbe da ridere, se non ci fosse da piangere. Umanità varia in cerca disperata di leadership, di qualcuno capace di assumersi dei rischi e prendere decisioni. Il risultato? Un capo sempre meno disposto ad ascoltare le persone e sempre meno capace di entrare in sintonia con loro (empatia, la chiamano quelli bravi) perché l’intelligenza artificiale gli restituisce costantemente l’immagine di sé che desidera vedere.
Gli esseri umani diventano numeri e statistiche
È un’immagine che fa sorridere e insieme inquieta, perché racconta un fenomeno reale. L’IA non entra più soltanto nelle vite private delle persone, nei loro rapporti e nelle loro solitudini; si insedia sempre più a fondo anche nelle stanze dove si decide chi lavora e chi no. In un recente libro scritto da un gruppo di professori della Duke University e della Carnegie Mellon University, Moral AI and How We Get There, il tema della disumanizzazione mediata dall’intelligenza artificiale viene spiegato con grande precisione. Il meccanismo è semplice: meno si percepisce l’altro come essere umano, meno si prova empatia; e meno empatia si prova, meno ci si interroga sulle conseguenze che le proprie decisioni possono avere sulle persone. L’IA può contribuire ad amplificare questa distanza in molti modi, a partire dalla tendenza a trattare gli esseri umani come numeri, dati o statistiche, anziché come persone in carne e ossa, con un vissuto imperfetto e inserite in uno specifico contesto.
L’amplificazione dei bias e la produzione di false certezze
Non è l’intelligenza artificiale, di per sé, a essere crudele. È uno strumento e, come tutti gli strumenti, amplifica le tendenze di chi lo utilizza. Proprio perché restituisce risposte apparentemente oggettive, rischia però di conferire una patina di razionalità a decisioni che meriterebbero più dubbi, non meno. Il rischio non è tanto che l’intelligenza artificiale prenda il sopravvento sulle persone, quanto che siano le persone a smettere di sentirsi responsabili delle proprie scelte. Il problema principale non è l’autonomia dell’IA, bensì l’abdicazione della responsabilità da parte degli esseri umani. I sistemi di intelligenza artificiale amplificano infatti i bias già esistenti e producono una falsa certezza che finisce per erodere la responsabilità nei processi decisionali organizzativi, marginalizzando l’esperienza e il giudizio umano.
Dopo le attività ripetitive, si automatizza il giudizio
Per anni si è immaginato che l’intelligenza artificiale avrebbe automatizzato soprattutto le attività ripetitive. Quello che invece emerge da questi racconti è qualcosa di diverso: l’automazione del giudizio. Non perché i manager rinuncino formalmente a decidere, ma perché iniziano a cercare nella macchina ciò che fino a poco tempo fa cercavano nei colleghi: conferma, legittimazione e, forse soprattutto, la rassicurante sensazione di non essere soli nel peso delle proprie decisioni.