In un’epoca in cui l’informazione è più accessibile che mai, con il Model Collapse, stiamo paradossalmente assistendo a un progressivo impoverimento della sua qualità, con il rischio di portare anche la nostra mente al collasso.
Come psichiatra e appassionato di neuroscienze, ho osservato con crescente preoccupazione un fenomeno che interseca psicologia cognitiva, tecnologia e comportamento sociale: il “model collapse” dell’intelligenza artificiale, alimentato da un ciclo vizioso di contenuti di bassa qualità.
Indice
- Il circolo vizioso del Model Collapse
- Il paradosso dei blog moderni: scrivere per le macchine, non per gli umani
- Impatto neuropsicologico: conseguenze per il cervello umano
- Un fenomeno simile all’amplificazione dei bias
- Le conseguenze per chi scrive e chi legge
- Contrastare il model collapse: una responsabilità collettiva
- Conclusioni: nutrire l’intelligenza, artificiale e umana
- Riferimenti bibliografici
Il circolo vizioso del Model Collapse
Il model collapse è un fenomeno in cui i modelli di intelligenza artificiale, specialmente quelli generativi, subiscono un graduale deterioramento quando vengono addestrati su dati generati da altri modelli AI.
In parole semplici, quando un’AI viene nutrita con contenuti prodotti da un’altra AI, inizia a perdere progressivamente la capacità di rappresentare accuratamente la realtà, generando output sempre più limitati, ripetitivi e di qualità inferiore.
Questo processo degenerativo avviene in due fasi principali:
- Collasso iniziale: Il modello inizia a perdere informazioni sugli eventi rari o minoritari, concentrandosi solo su pattern comuni.
- Collasso avanzato: Il modello inizia a confondere concetti distinti, producendo output che hanno poca somiglianza con i dati originali.
Una brillante metafora proposta da Ilia Shumailov paragona questo fenomeno a un modello addestrato su un dataset con 90 oggetti gialli e 10 blu. Con il tempo, l’AI trasforma gli oggetti blu in verdastri, poi dimentica completamente gli oggetti blu e rende quelli verdastri sempre più gialli, finché ogni traccia di “blu” scompare dalla sua memoria.
Il paradosso dei blog moderni: scrivere per le macchine, non per gli umani
Oggi assistiamo a un fenomeno inquietante: una crescente quantità di contenuti online viene creata non per informare o intrattenere esseri umani, ma esclusivamente per migliorare il posizionamento sui motori di ricerca e vendere prodotti. Questi contenuti, spesso definiti “AI slop” (poltiglia AI), sono caratterizzati da testi generici, ripetitivi e privi di profondità intellettuale.
Il paradosso è che questi contenuti di bassa qualità vengono poi utilizzati per addestrare i modelli AI, che a loro volta producono altri contenuti scadenti, creando un circolo vizioso di deterioramento qualitativo. È come se stessimo continuamente fotocopiando delle fotocopie, perdendo definizione e dettaglio ad ogni passaggio.
Impatto neuropsicologico: conseguenze per il cervello umano
Dal punto di vista delle neuroscienze, questo fenomeno solleva preoccupazioni significative. Il nostro cervello è un organo plastico che si modifica in base agli stimoli che riceve. L’esposizione continua a contenuti superficiali e ripetitivi può alterare i nostri processi cognitivi in diversi modi:
- Atrofia dell’attenzione profonda: la costante esposizione a contenuti di bassa qualità può ridurre la nostra capacità di concentrazione prolungata e riflessione profonda.
- Appiattimento cognitivo: come i modelli AI che perdono la capacità di rappresentare eventi rari, anche la nostra mente può iniziare a privilegiare pattern cognitivi più comuni e semplificati.
- Polarizzazione del pensiero: la perdita di sfumature nei contenuti può tradursi in una polarizzazione del pensiero, con una ridotta capacità di cogliere la complessità.
Un fenomeno simile all’amplificazione dei bias
Il model collapse presenta interessanti paralleli con fenomeni psicologici ben noti. Quando i modelli AI perdono informazioni sugli eventi rari o minoritari, si verifica un processo simile ai bias cognitivi umani, dove tendiamo a sovrastimare la frequenza di eventi comuni e sottostimare quella di eventi rari.
Nel contesto dei contenuti online, questo si traduce in un’amplificazione dei temi dominanti e in una progressiva scomparsa delle prospettive minoritarie, creando una sorta di “echo chamber” algoritmica che rispecchia e amplifica i nostri stessi pregiudizi cognitivi.
Le conseguenze per chi scrive e chi legge
Chi produce contenuti si trova sempre più intrappolato in un sistema che premia la quantità a scapito della qualità, incentivando pratiche di scrittura meccaniche e prive di creatività. Questo può portare a un impoverimento delle capacità cognitive e creative degli autori, oltre che a una perdita di soddisfazione professionale.
Per chi legge, le conseguenze sono altrettanto preoccupanti: l’esposizione costante a contenuti standardizzati e superficiali può ridurre la capacità critica, impoverire il vocabolario e limitare l’esposizione a idee nuove e stimolanti.
Contrastare il model collapse: una responsabilità collettiva
Come professionisti della salute mentale, ricercatori e cittadini digitali, abbiamo la responsabilità di contrastare questo fenomeno:
- Privilegiare la qualità sulla quantità: nella creazione e nel consumo di contenuti, dobbiamo tornare a valorizzare l’originalità, la profondità e l’autenticità.
- Diversificare le fonti: esporsi deliberatamente a contenuti diversificati e di qualità può contrastare l’omologazione cognitiva.
- Promuovere la consapevolezza digitale: educare noi stessi e gli altri sui meccanismi del model collapse e sui suoi effetti sulla qualità dell’informazione.
- Sostenere la creazione umana: valorizzare e premiare contenuti creati da esseri umani, con la loro unicità e profondità.
Conclusioni: nutrire l’intelligenza, artificiale e umana
Come terapeuti, sappiamo che il cervello si nutre delle informazioni che riceve. Lo stesso vale per l’intelligenza artificiale. Se continuiamo ad alimentare le AI con contenuti scadenti, il deterioramento qualitativo diventerà inevitabile, con conseguenze significative sia per lo sviluppo tecnologico che per la nostra salute cognitiva collettiva.
La sfida che abbiamo davanti è preservare la ricchezza della conoscenza umana nell’era digitale, resistendo alla tentazione della facile automazione e del contenuto massificato. Solo così potremo garantire che la tecnologia amplifichi, anziché impoverire, le nostre capacità cognitive e creative.
Il futuro dell’intelligenza, sia artificiale che umana, dipende dalla qualità del nutrimento intellettuale che scegliamo di fornire. È tempo di interrompere il ciclo del model collapse e ricominciare a creare e consumare contenuti che arricchiscano veramente la nostra mente.
Riferimenti bibliografici
Shumailov, I., Shumaylov, Z., Zhao, Y. et al. AI models collapse when trained on recursively generated data. Nature 631, 755–759 (2024). https://doi.org/10.1038/s41586-024-07566-y
Lascia un commento