Lavori su una presentazione. Poi un’altra, un’altra ancora e ancora, come accade ogni giorno nella vita professionale di molti di noi. Solo che, a un certo punto, non ricordi più come si fa. Dubiti delle tue capacità, ma allo stesso tempo cerchi di capire cosa sta succedendo, visto che il lavoro non è cambiato. Eppure, qualcosa non quadra. Niente che ti riguardi. Le tue skill sono lì, intatte, ma il trucco è semplice quanto diabolico. Lo strumento che usi è stato progettato esattamente per questo.
Scout, un agente IA sempre attivo
Intendiamoci: niente che già non sapessimo, solo che stavolta è tutto scritto nero su bianco ed è il primo punto di un documento interno di Microsoft ottenuto da 404 Media, una testata giornalistica indipendente specializzata in tecnologia, cybersicurezza e cultura digitale, rimbalzato poi in giro per il mondo. Si tratta della strategia ufficiale per Scout, il nuovo assistente IA integrato in Microsoft 365. Il documento si intitola “ClawPilot: Overview and Plan with Project Lobster“. Scout, internamente, era ClawPilot. Si tratta di un agente IA sempre attivo, capace di girare direttamente sul dispositivo senza passare dal cloud, automatizzando email, documenti e flussi di lavoro.
L’ecosistema che rende le persone dipendenti
Il titolo della prima sezione è Make people addicted (cioè rendi le persone dipendenti). La roadmap si fa subito chiara. È un po’ come per i social media e lo scroll infinito, il legame emotivo che chiamano engagement e che rende difficile staccarsi dallo schermo. Ma questa volta è diverso, seppure sempre di dipendenza si tratti. L’obiettivo, infatti, è costruire un ecosistema di strumenti che renda le persone dipendenti dall’assistente su base quotidiana. E si legge, con una soddisfazione che fa pensare, che il processo sta già avvenendo in modo spontaneo. Infatti, i lavoratori Microsoft che lo usano mostrano tassi di abbandono bassissimi. Insomma, funziona.
Così viene erosa la tua autonomia
Morale della favola, ed è il punto più insidioso, non riesci più a farne a meno perché hai delegato abbastanza funzioni da non riuscire più a liberarti da quell’ecosistema in cui il tuo agente è integrato. Una dipendenza che non si sente, si struttura un’operazione alla volta. E quando si struttura nelle pratiche lavorative quotidiane smette di sembrare un problema, diventando semplicemente il modo in cui si lavora, un’abitudine. Così, svelata l’ipocrisia, oggi sappiamo dare un nome preciso a un assistente che, invece di renderti più capace, erode la tua autonomia, la tua agency direbbero quelli bravi. La risposta ufficiale dell’azienda? Nessuna smentita. E già questa è una risposta.
Dipendenza comportamentale, rinforzo intermittente…
Sembra di stare in un laboratorio della manipolazione con tanto di istruzioni per l’uso. Altro che intelligenza artificiale inevitabile. Nulla a che vedere con i laboratori scientifici dove i ricercatori di psicologia comportamentale, per decenni, ci hanno costruito sopra carriere accademiche, spiegando dall’esterno quello che le aziende facevano, senza mai ammetterlo davvero. Tutto adesso ha non solo un nome preciso, ma anche una firma in calce. Dipendenza comportamentale. Rinforzo intermittente. Costi di switching. Lock-in.
Una volta si partiva dal problema reale e si cercava la soluzione
Sono ormai andati i tempi dei grandi studiosi che teorizzavano come, prima, occorresse capire il problema reale che il cliente vuole risolvere e poi costruire qualcosa che lo risolva meglio di qualsiasi alternativa, lasciando infine che il mercato premiasse il prodotto. La fedeltà, a quel punto, era solo una conseguenza della qualità del servizio offerto e il cliente tornava perché voleva farlo.
Quello che invece descrive il documento Microsoft è l’esatto opposto. Non si parte dal problema dell’utente, ma dal comportamento che si vuole produrre nell’utente. La funzione d’uso, quindi, non è più del cliente, ma dell’azienda. E il prodotto non è più lo strumento per soddisfare il cliente. È il cliente stesso a diventare il prodotto. Fine dell’innocenza.
La pratica successiva appare già meno scandalosa…
Ogni pratica che supera il limite senza produrre conseguenze reali sposta la finestra di ciò che è accettabile. La pratica successiva, leggermente più estrema, appare già meno scandalosa. E non perché sia meno grave, ma solo perché viene confrontata con la precedente, che non rappresenta mai un criterio indipendente. Così, tra qualche anno, questo modus operandi potrebbe diventare il benchmark normale, lo standard del settore, semplicemente perché nessuno ha deciso di fermarlo. Il re è nudo, anche se non da oggi. La differenza, questa volta, l’ha fatta la sfrontatezza di scrivere un documento aziendale di uno dei gruppi tech più influenti al mondo, i cui prodotti utilizziamo ogni giorno. Il problema è che ormai lo sa anche lui. E sembra andargli benissimo.