🎧 Ascolta l’articolo ▶️ (durata 5’12” con la voce di Emma)
Date le innumerevoli interrogazioni rivolte quotidianamente all’IA, il web è ormai invaso da contenuti sintetici generati dall’intelligenza artificiale; contenuti -ahinoi – pieni di errori e, spesso, frutto di risposte che l’IA imposta a partire da precedenti interrogazioni o estrapolando i propri output da contenuti già viziati. Risultato? Montagne di spazzatura digitale. Questo accade per due ragioni fondamentali:
- i modelli statistici tendono a sovra-rappresentare i pattern più frequenti e a trascurare le eccezioni rare o le sfumature complesse;
- gli errori impercettibili di una generazione precedente diventano la verità di fondo per la generazione successiva, portando a risposte piatte, ripetitive e inesatte.
Per far fronte a tutti questi rifiuti digitali, le principali aziende tecnologiche stanno, per così dire, tornando al passato; in pratica, i fornitori di banche dati bibliografiche come ISBNdb si sono trasformati in nodi strategici della catena di approvvigionamento dell’IA, facilitando l’acquisto in blocco di libri stampati prima del 2022. Infatti, il corpus cartaceo pre-2022 è l’ultimo grande archivio di conoscenza umana garantito contro il degrado dei dati e il sabotaggio intenzionale.
Ma procediamo un passo alla volta.
Il progressivo degrado qualitativo che si verifica quando un’IA viene addestrata su dati generati da altre IA anziché su dati creati dagli esseri umani si chiama model collapse, traducibile come “collasso del modello”. Il meccanismo è paragonabile alla fotocopia di una fotocopia e i libri pubblicati prima del 2022 offrono una barriera naturale a questo fenomeno, in quanto scritti, revisionati e curati interamente da esseri umani prima dell’avvento dei moderni LLM.
Oltre all’inquinamento involontario da testo sintetico, le aziende di IA devono affrontare il data poisoning, traducibile come “avvelenamento dei dati”. Infatti, si assiste ad un fenomeno molto pericoloso, ovvero sempre più autori e creatori di contenuti online utilizzano strumenti progettati per sabotare i cosiddetti web scraper, ovvero quei sistemi che raccolgono dati senza consenso. Inserendo manipolazioni visive o testuali impercettibili all’occhio umano ma distorsive per gli algoritmi, questi dati “avvelenati” corrompono il processo di apprendimento del modello. I libri cartacei stampati prima del 2022 sono strutturalmente immuni a queste tecniche avversarie moderne.
A questo punto veniamo al ruolo di ISBNdb e al mercato dei libri in blocco. ISBNdb, che gestisce un enorme database bibliografico globale, ha strutturato servizi specifici per vendere volumi fisici in blocco alle aziende di intelligenza artificiale. I modelli di business prevedono contratti di riservatezza e acquisti di centinaia di migliaia di volumi. Spesso il processo richiede la scansione e il successivo smaltimento del libro fisico ormai danneggiato, dal momento che viene eliminata la profilatura del dorso per velocizzare la digitalizzazione ad alta risoluzione. Questo approccio garantisce dati ad altissima densità informativa, revisionati e privi di spam o risposte automatiche ma indebolisce numericamente gli archivi cartacei. Vediamo, più nello specifico, vantaggi e svantaggi di questo modo di acquisire i dati.
Dal punto di vista qualitativo, il vantaggio sta nell’assenza totale di testo sintetico, elevata densità concettuale, sintassi curata e revisione editoriale, mentre lo svantaggio è, ovviamente, che non può integrare alcun aggiornamento su eventi, scoperte scientifiche o dinamiche culturali successive al 2021.
Dal punto di vista della sicurezza è garantita la protezione completa da attacchi di data poisoning condotti tramite il web ma a fronte di costi elevati per acquisto fisico, logistica, scansione OCR e pulizia del testo digitalizzato.
In ultimo, se da un lato questo modo di procedere mantiene alta la diversità linguistica e riduce il rischio di model collapse, dall’altro il danno di fatto irrisolvibile è la già citata distruzione del libro.
Oltre a tutto questo, rimane sempre in piedi il rischio di possibili controversie sul diritto d’autore.
Ciò detto, la considerazione finale che possiamo svolgere è che l’interesse per il corpus cartaceo pre-2022 dimostra come l’addestramento delle intelligenze artificiali non sia soltanto una questione di quantità di dati, ma soprattutto di purezza dell’origine. Sebbene l’accesso ai testi cartacei antecedenti al boom degli LLM non risolva da solo tutti i problemi della comprensione automatica, rappresenta oggi uno dei pochi “porti sicuri” per evitare che i modelli rimangano intrappolati in un ciclo di autoconsumo informativo.
Se foste interessati a conoscere meglio in funzionamento del data poisoning, fatecelo sapere nei commenti.
