🎧 Ascolta l’articolo ▶️ (durata 3’26” con la voce di Ava)
L’Intelligenza Artificiale (IA), in particolare i Grandi Modelli Linguistici (LLM) che alimentano i chatbot e i sistemi di generazione di testo, si basa sull’addestramento in base ad enormi quantità di dati provenienti da Internet. Tuttavia, l’aumento esponenziale di contenuti web spazzatura, cosiddetti AI slop – spesso generati dall’IA stessa con poca cura, qualità o significato profondo – sta creando un circolo vizioso che minaccia l’affidabilità e la “intelligenza” di questi sistemi. Questo fenomeno viene spesso descritto con l’espressione Garbage In, Garbage Out o GIGO e, in contesti più recenti, come LLM Brain Rot, ovvero il deterioramento cerebrale degli LLM.
Il concetto fondamentale di GIGO è semplice: la qualità dell’output dipende direttamente dalla qualità dell’input. Nel contesto dell’IA, se i dati di addestramento sono errati, incompleti, distorti o di bassa qualità, anche le risposte e le generazioni del modello saranno inevitabilmente viziate.
Come si manifesta il GIGO negli LLM?
Innanzitutto, l’addestramento su un corpus di dati non curato, che include mala-informazione, teorie strampalate, o affermazioni non supportate, può portare l’IA a “allucinare” fatti o a presentare informazioni errate con fiducia.
In secondo luogo, la crescente proliferazione di pagine web, articoli e post generati dall’IA e ottimizzati solo per l’engagement o il SEO, ma privi di sostanza e verificabilità, inquina la fonte di conoscenza per i futuri modelli. I modelli di domani si addestreranno sui “rifiuti” prodotti dai modelli di oggi.
Infine, entra in gioco il cosiddetto Brain Rot dell’IA. Infatti, studi recenti hanno mostrato che gli LLM esposti ripetutamente a dati triviali, superficiali o clickbait (tipici dei social media o di certi siti web di bassa lega) iniziano a subire un “deterioramento cognitivo” misurabile. Questo indebolisce la loro capacità di ragionamento, la memoria e l’affidabilità etica, rendendoli di fatto meno intelligenti e coerenti.
In definitiva, emerge il seguente quadro: Internet è saturo di contenuti che non rispettano standard di qualità come post virali, discussioni su piattaforme social, articoli superficiali e generazioni precedenti di testo IA. Se i sistemi di addestramento non sono in grado di filtrare efficacemente questa contaminazione, il risultato è un modello che impara lezioni sbagliate.
Per proteggere l’integrità dei sistemi di IA e per far sì che continuino ad essere strumenti utili e affidabili, è cruciale adottare un approccio di “Quality In, Quality Out“. Ciò richiede una curatela attenta e critica dei dati, che garantisca che il dataset di addestramento sia accurato, completo e verificato da esperti, evitando la cieca fiducia nei contenuti generati in modo sconsiderato.
Se non s’impara ad interagire con l’IA in maniera opportuna e a monitorarne gli output il problema dei rifiuti elettronici aumenterà in maniera esponenziale, di fatto rendendo l’IA stessa un agevole strumento di diffusione e perpetuazione dell’ignoranza. Questo scenario è da evitare ad ogni costo o diverremo la popolazione più ignorante dell’intero spazio siderale e, dunque, trasleremo la nostra entità di esseri senzienti in esseri apatici. Non saremo altro che enti privi di sostanza, dominabili ed ingenui; prospettiva per nulla esaltante.
