Oramai l’Intelligenza Artificiale (IA) è un tema sulla bocca di tutti: ogni intervento che sentiamo, ogni notizia che ascoltiamo, ogni progetto che porti con se la parola «innovazione» deve anche contenere l’Intelligenza artificiale. Stiamo assistendo certamente a una svolta epocale e come tutte le grandi innovazioni porta con sé grandi opportunità e grandi rischi. Non solo, come tutte le grandi innovazioni ci troviamo di fronte a posizioni opposte: chi la esalta (gli Integrati, così definiti da Umberto Eco) e chi la osteggia con oscure previsioni (gli Apocalittici, sempre così definiti da Umberto Eco). Di fronte a tutto ciò però noi ora stiamo già usando l’Intelligenza Artificiale: giovani e meno giovani, con un minimo di dimestichezza con il computer e lo smartphone. La usa chi organizza un discorso o una presentazione, chi scrive appunti, chi costruisce testi, chi traduce un sito in una lingua che conosce, chi manda mail, chi fa analisi dei dati e molto di più. Le nostre interazioni con l’IA sono sempre più frequenti e sofisticate. Questo cosa significa per la nostra mente? Cosa significa per il nostro modo di interagire con una macchina che facciamo fatica a considerare tale? È a mio avviso fondamentale comprendere le differenze tra la nostra mente e quella artificiale, insieme ai rischi che derivano dall’eccessiva delega delle nostre funzioni cognitive. Senza essere Apocalittici, ma neppure senza essere Integrati.
La dualità del pensiero umano: Sistema 1 e Sistema 2
Secondo il lavoro di Daniel Kahneman, la mente umana opera attraverso due modalità distinte, spesso chiamate Sistema 1 (S1) e Sistema 2 (S2).
Sistema 1: Veloce e automatico
Il Sistema 1 è il nostro pensiero intuitivo: è sempre attivo e basato su un’elaborazione parallela, veloce e non faticosa. È quello che entra in azione quando guardiamo il volto arrabbiato di una persona e capiamo immediatamente non solo che è arrabbiata, ma anche che potrebbe pronunciare parole scortesi. Questo sistema è prevalentemente inconsapevole e non verbale ed è governato dal sistema limbico, in particolare dall’amigdala. La sua propensione è quella di credere e confermare le informazioni iniziali.
Sistema 2: Lento e volontario
Il Sistema 2, al contrario, è la nostra mente riflessiva. È pigro e questa è una caratteristica importante, perché richiede molte energie cognitive per funzionare, in particolare attenzione prolungata nel tempo (ovvero concentrazione). Essendo pigro si attiva meno spesso e più lentamente e pertanto tende a farsi guidare dall’S1. L’S2 si basa su un’elaborazione sequenziale, lenta, faticosa e cosciente. È prevalentemente verbale ed è governato dalla corteccia prefrontale (deputata appunto al controllo). La sua forza risiede nella capacità di dubitare, usare la memoria, trovare controesempi e considerare la forma piuttosto che privilegiare solo il contenuto come fa l’S1. Il suo compito è compiere elaborazioni dettagliate sulle «stranezze» segnalate dal Sistema 1.
Il Sistema 2 attiene a quelle capacità della mente umana che possiamo dire uniche, come la simulazione, il pensiero controfattuale (le cosiddette «sliding doors» famose nel film con Gwyneth Paltrow) e la costruzione di storie per dare senso al mondo e alla nostra esperienza.
Antropoformizzazione dell’IA: dare una mente all’inumano
Spesso, tendiamo ad attribuire all’IA caratteristiche umane, un fenomeno chiamato antropoformizzazione. Questa tendenza, come vedremo più sotto, viene favorita da diversi fattori:
- Semantica: Utilizziamo termini come «intelligenza», «apprendimento» e «rete neurale» per descrivere processi dell’IA che sono, in realtà, modelli matematici, non processi cognitivi umani.
- Linguaggio Naturale (LLM): L’uso del linguaggio naturale e di diversi stili comunicativi da parte dell’IA è percepito come un comportamento tipicamente umano, proprio perché il linguaggio è proprio e unico della natura umana.
- Attribuzione di pensiero: L’utilizzo del linguaggio può portare ad attribuire una mente e pensiero là dove pensiero e mente non ci sono, un fenomeno noto come effetto ELIZA. Scoperto già nel 1966 quando Weizenbaum sviluppò un chatbot (forse il primo) che simulava le risposte di uno psicoterapeuta rogersiano. Quando la sua segretaria cominciò a interagire con il programma, il livello di approfondimento delle proprie emozioni e la percezione di essere compresa dalla macchina, non più considerata tale, furono tali che ella chiese a Weizenbaun di uscire dalla stanza perché la conversazione si stava facendo molto personale.
Questa tendenza non è nuova: già nell’esperimento di Heider e Simmel del 1944, si osservò come le persone attribuissero intenzionalità, caratteristiche psicologiche come emozioni e definissero una narrazione e attribuissero una influenza del contesto (ad esempio, un combattimento o una fuga) al movimento di semplici figure geometriche(qui vedete il video), trasformando semplici movimenti in una storia sociale.
Questa stessa caratterisca la ritroviamo oggi quando guardiamo una sigla, come quella qui sotto, tratta da una serie su un network televisivo, sigla che sembra simulare le dinamiche sociali all’interno del network e dove dei semplici «pallini», che andranno a comporre il titolo della serie, sembrano in realtà persone che si inseguono, combattono, salgono la gerarchia, si alleano e cambiano partito e molto altro. Anche qui diamo forma umana a una grafica, ne attribuiamo intenzione e così costruiamo una storia che dà senso a quanto vediamo.
I rischi del «Cognitive Offloading» e il «degrado» delle competenze cognitive
L’antropoformizzazione porta con sé rischi significativi, soprattutto quando si traduce in un’eccessiva fiducia nell’IA. Ecco alcune conseguenze di questa nostra tendenza applicata all’IA:
- Eccessiva fiducia: Ritenere che l’IA sia un essere dotato di conoscenze enormemente superiori alle nostre può portare ad accettare ogni risposta, annullando il nostro pensiero critico (“Lo ha detto Chatgpt!”).
- Disinformazione: Le informazioni errate generate dall’IA possono essere diffuse, contribuendo a una sorta di «allucinazione collettiva».
- Dipendenza affettiva: Considerare l’IA come un «amico, un consulente, una fonte di empatia» oscura l’eticità del suo sviluppo e delle risposte che fornisce e fornisce la sensazione di parlare con una persona che ti capisce e sentirsi compresi e riconosciuti è un aspetto potente nel mantenere una relazione.
Il rischio maggiore è il «cognitive offloading», ovvero il demandare all’IA funzioni cognitive che, se non esercitate, si atrofizzano. Abbiamo detto infatti più sopra come il nostro Sistema 2 sia pigro e richieda molte energie attentive e di riflessione, e come questo comporti una nostra tendenza, quasi un’inerzia, a non utilizzarlo e a preferire il Sistema 1. Proprio perché pigro, il Sistema 2 va allenato, altrimenti tenderemo ad appoggiarci sempre più al Sistema 1, cosa che può succedere in particolare per:
- Memoria (in particolare la memoria di lavoro): Si riduce la nostra capacità di ritenere informazioni.
- Profondità di elaborazione e comprensione: Si perde la capacità di elaborare testi, interpretare e si sviluppa una maggiore stereotipia nelle informazioni generate, riducendo la creatività.
- Giudizio e Decisione (Problem Solving): Demandare le decisioni all’IA riduce la capacità di sviluppare decisioni autonome.
- Pensiero critico: Si indebolisce la capacità di analizzare, valutare e sintetizzare informazioni per prendere decisioni ragionate.
- Mentalizzazione: Si rischia la perdita della capacità di riconoscere la mente altrui (pensieri, emozioni, intenzioni). Oggi sta accadendo che sempre più le persone giovani ricorrono all’IA chiedendo di analizzare i messaggi delle chat e sui social dei propri compagni e compagne e interpretare quanto intendevano dire. Si appalta così a una macchina la nostra capacità di riconoscere intenzioni, pensieri ed emozioni altrui.
Superare i rischi: esercitare le Soft Skills
Per convivere in modo produttivo con l’IA, dobbiamo superare i rischi esercitando le nostre Soft Skills:
- Esercitare la Metacognizione: Essere consapevoli dei nostri processi di pensiero, un esercizio di valutazione, monitoraggio e regolazione del pensiero («So di non sapere… e so di sapere»).
- Mentalizzare: Mantenere la capacità di ascoltare, comprendere e comunicare in modo efficace, esercitando l’empatia e la capacità di riconoscere le intenzioni dell’atro in una reciproca e profonda comprensione.
- Pensare con l’IA: Dobbiamo vedere l’IA come un supporto al nostro Sistema 2, riconoscendo che i suoi processi di pensiero operano secondo la dinamica del Sistema 1, ovvero per associazioni. Si parla di Cognizione aumentata, ovvero di una espansione della nostra mente e non una sua sostituzione
- Allenarsi allo Sforzo cognitivo: Impegnarsi in attività che richiedono l’utilizzo del Sistema 2, come la lettura o attività di tempo libero proattive che necessitano di attenzione, giudizio, presa di decisione sulla base di elaborazione di informazioni.
In conclusione, l’IA è uno strumento potente che può aumentare la nostra cognizione se usata correttamente. Il segreto è non delegare totalmente le nostre funzioni cognitive, ma mantenere attivo il nostro pensiero critico, la nostra capacità di mentalizzazione e la nostra metacognizione e la consapevolezza. In questo modo, potremo navigare l’era dell’IA senza perdere l’essenza della nostra mente, ma al contrario, aumentando le nostre potenzialità di esseri umani.