🎧 Ascolta l’articolo ▶️ (durata 4’26” con la voce di Emma)
Ci è recentemente capitato di sentir parlare di società algoritmica per riferirsi ad un tipo di interazione “sociale” mediato dalla macchina. Più specificamente, l’espressione società algoritmica descrive una realtà in cui i processi decisionali, l’organizzazione sociale e le interazioni umane sono mediati, influenzati o determinati da algoritmi di intelligenza artificiale e analisi dei dati. Questo perché non siamo più solo in una società dell’informazione; siamo in una fase in cui il dato viene “agito” per prevedere e modellare il comportamento umano. In questo paradigma, gli algoritmi non sono semplici strumenti tecnici, ma veri e propri agenti di governance. Essi operano in ogni ambito e, in particolare:
- consumo – Raccomandazioni su cosa acquistare o guardare;
- lavoro – Gestione dei rider, selezione dei CV e monitoraggio della produttività;
- giustizia e sicurezza – Software di polizia predittiva o valutazione del rischio di recidiva;
- informazione – Filtri personalizzati sui social media che decidono quali notizie mostrarci.
In pratica, l’algoritmo diventa una lente attraverso cui percepiamo la realtà, spesso senza che ci rendiamo conto di quanto quella lente sia deformata. Ovviamente, la transizione verso una società algoritmica comporta un cambiamento nel potere che si sposta da chi detiene i mezzi di produzione a chi detiene i mezzi di previsione. Quali criticità conseguono da ciò?
Innanzitutto, molti algoritmi di deep learning sono opachi, prova ne sia il fatto che spesso nemmeno i loro creatori sanno esattamente perché un’IA abbia preso una determinata decisione e questo crea un deficit di responsabilità. Se, ad esempio, un algoritmo nega un mutuo, chi ne risponde?
In secondo luogo, come teorizzato da Shoshana Zuboff, l’esperienza umana viene estratta come materia prima gratuita per essere trasformata in dati comportamentali. Questi dati vengono poi venduti in mercati di “previsioni sui comportamenti futuri” e il risultato ovvio è lo scivolamento immediato nel capitalismo della sorveglianza.
Inoltre, ad un livello di analisi più profondo, nonostante l’efficienza promessa dallo “strumento”, i rischi sono espressamente strutturali. Infatti:
- se un algoritmo viene addestrato su dati storici parziali, riprodurrà e amplificherà pregiudizi razziali, di genere o di classe;
- le “echo chambers” create dagli algoritmi di raccomandazione polarizzano l’opinione pubblica, erodendo il terreno comune necessario per il dibattito democratico;
- in un mondo ottimizzato per i nostri gusti passati, diventa difficile scoprire l’inaspettato o il diverso;
- oltre alla sostituzione fisica, c’è il rischio di una “de-skilling” umana, con la quale le persone perdono la capacità di decidere autonomamente senza il supporto della macchina.
Per mitigare questi rischi, il dibattito attuale si concentra sull’algoretica e su quadri normativi come l’AI Act dell’Unione Europea, che mira, secondo quanto dichiarato, a classificare i sistemi di IA in base al rischio e a garantire la trasparenza orientandosi verso un nuovo umanesimo digitale. In questo senso, l’obiettivo della società algoritmica non è rifiutare la tecnologia, ma garantire che l’algoritmo rimanga uno strumento al servizio della dignità umana e non viceversa.
Ecco alcuni testi e autori fondamentali per approfondire l’argomento:
– Shoshana Zuboff, Il capitalismo della sorveglianza (2019) – Un’analisi magistrale su come i dati personali sono diventati merce;
– Cathy O’Neil, Armi di distruzione matematica (2016) – Esplora come gli algoritmi aumentino le disuguaglianze;
– Frank Pasquale, The Black Box Society (2015) – Analizza l’opacità dei sistemi finanziari e tecnologici;
– Regolamento (UE) 2024/1689 (AI Act) – Il testo ufficiale della prima legge organica al mondo sull’intelligenza artificiale;
– Luciano Floridi, L’etica dell’intelligenza artificiale – Per un inquadramento filosofico e morale.
