La teoria di Cory Doctorow sull’”enshittification” – il processo inesorabile attraverso il quale le piattaforme tecnologiche, partendo da una posizione di valore per l’utente, si degradano progressivamente per massimizzare il profitto a breve termine – è un monito che dovrebbe risuonare con forza nel panorama in rapida evoluzione dell’intelligenza artificiale (IA). La notizia proveniente da Wired ci ricorda che anche l’IA, con il suo potenziale trasformativo apparentemente illimitato, non è immune a questo ciclo corrosivo.
L’incentivo al profitto, motore inesorabile del capitalismo digitale, spinge le aziende a sfruttare le proprie risorse, spesso a scapito della qualità del servizio e del benessere dell’utente. Inizialmente, l’IA viene presentata come uno strumento per migliorare la vita, automatizzare compiti complessi e fornire insight preziosi. Tuttavia, man mano che l’IA diventa più potente e redditizia, la tentazione di piegarla a scopi meno nobili – manipolazione, sorveglianza, estrazione di dati – diventa sempre più forte.
Potremmo già intravedere i primi segnali di “enshittification” nell’IA. Gli algoritmi di raccomandazione, un tempo progettati per aiutarci a scoprire contenuti interessanti, sono ora spesso ottimizzati per massimizzare il tempo trascorso sulla piattaforma, indipendentemente dalla qualità o dalla rilevanza dei contenuti presentati. I chatbot, inizialmente promettenti sostituti del servizio clienti umano, possono rapidamente degenerare in frustranti labirinti di risposte preconfezionate e inefficaci. La creazione di deepfake e la diffusione di informazioni errate alimentate dall’IA rappresentano un’ulteriore minaccia alla fiducia e all’integrità del sistema informativo.
La domanda cruciale è se possiamo spezzare questo ciclo. La risposta potrebbe risiedere in una combinazione di fattori: una regolamentazione più efficace che limiti gli abusi e promuova standard etici; un maggiore consapevolezza da parte degli utenti che li renda meno suscettibili alla manipolazione; e, soprattutto, un rinnovato impegno da parte delle aziende tecnologiche a perseguire obiettivi che vadano oltre il mero profitto. Se falliamo, rischiamo di trasformare l’IA, uno strumento con un potenziale immenso, in un altro esempio di tecnologia che, dopo una breve fioritura, si è autodistrutta a causa della sua stessa avidità.