Received: May, 2025; Accepted: May, 2025; Published: May, 2025
Recensioni
Nello Cristianini, La scorciatoia. Come le macchine sono diventate intelligenti senza pensare in modo umano, Bologna, Il Mulino, 2023
Laboratorio Tecnologie dell’Educazione, Università degli Studi di Firenze, Italia
Il libro di Nello Cristianini ci invita ad entrare in un contesto di lettura molto attuale e a suo modo di verifica sul campo – quello dell’Intelligenza artificiale – nel senso che ci pone davanti a un argomento il cui stato di cose, nei temi anticipati dal risvolto di copertina, fa già parte, più o meno direttamente, dell’esperienza di ciascuno di noi. La scorciatoia a cui si fa riferimento riguarda il percorso che la mente umana ha saputo imprimere alla sua “creatura” per realizzarla, modellandone, fino a un certo punto a propria somiglianza e a proprio uso la tecnologia, dandole poi la capacità di esserne superata e comunque rendendola sempre più parte essenziale per molte attività della vita quotidiana. Queste le premesse del libro, ma il quadro va completato avvicinandosi subito alla vera lezione di saggezza che gli fa da scorta nel corso di tutta la lettura ma che emerge in chiare lettere quasi nelle pagine finali quando si tratta di confermare il carattere insostituibile dell’IA e la necessità che si debba solo tentare di “regolarla”. (Regolare non spegnere, p. 187).
Cristianini chiude il suo pensiero scrivendo: «Sarà questa la prossima sfida culturale per l’Intelligenza Artificiale». Ma, prima ancora, il compito dei creatori d’IA, e il suo, consiste nell’insegnarci a conoscerla, capirla, senza temerne gli effetti o ingigantirne i risvolti negativi, attribuiti, come è noto, a questioni di privacy, alla possibilità di fabbricare fake news, alla preoccupazione per la perdita di posti di lavoro e soprattutto al timore di esserne sovrastati.
L’autore è uno studioso, uno specialista che può dirci tutto sulla materia: è il suo ambito di studio e di insegnamento, ma non ha inteso parlare di un tema così esteso e pervasivo che incuriosisce, attrae e spaventa anche i non specialisti – specie se ne hanno un’informazione approssimativa o se sono influenzati da film o da serie di fiction con macchine-robotiche come eroine – al modo di una trattazione scientifica, e neppure ha deciso di farne un esercizio creativo ibrido (scrittura umana/scrittura della macchina). Ha scelto invece di adottare uno sguardo, particolarmente efficace, situato tra scienza e letteratura giocando su molti registri: narrativo, descrittivo, ermeneutico-riflessivo, inserendoli entro una struttura singolare che comporta un Prologo e un Epilogo come si conviene al racconto di una storia appassionante: quella del pensiero che si inventa macchina (una macchina inizialmente progettata per emularlo). L’autore possiede un evidente talento letterario e lo sfrutta ricorrendo a frequenti inserti di letture e aneddoti narrati persino in tono autobiografico – si legga, ad es., nel Prologo il racconto circa il dubbio sul futuro dell’automazione, formulato dal prete, don Antonio, al giovane appassionato di computer, quando non era ancora studioso. Per altro la domanda che il libro in pratica si impegna ad affrontare – “e se il computer rispondesse senza il suggerimento di un algoritmo?” – è di quelle che permette all’autore di rispondere che, a modo suo, la macchina può apprendere e rispondere, come fa già Siri. Il lettore è chiamato a riflettere su rigorose domande poste da uno scienziato-umanista come se si trattasse di ripercorre l’avventura di una sperimentazione scientifica ricostruita in dieci capitoli preceduti da abstract tematici (e incorniciati da un Prologo e da un Epilogo: Alla ricerca dell’intelligenza, La scorciatoia, Trovare l’ordine del mondo, Lady Lovelace aveva torto, Comportamenti imprevisti, Messaggi personalizzati e persuasione di massa, Azione reazione e controllo, Il difetto, Macchine sociali, Regolare non spegnere).
Ne deriva un percorso riflessivo complesso ma non incomprensibile o noioso. Un percorso caratterizzato da sorprendenti rovesciamenti di prospettiva come, ad esempio, il presupposto «che le macchine possano sapere cose che noi non possiamo comprendere», considerando tale presupposto proprio come «uno dei problemi più difficili del futuro dell’Intelligenza Artificiale». Un altro rovesciamento di prospettiva consiste nel considerare l’intelligenza da un punto di vista non antropocentrico e non definibile in modo univoco. E quando afferma che «ci sono tanti modi di essere intelligenti e quindi ci sono molte intelligenze» (p. 12), l’autore, in contrasto con Carl Sagan, intende aprire il campo a “intelligenze aliene” naturali (non umane ma animali, lumache o formiche). Un concetto questo che comporta l’invito a scoprirsi creatura fra le creature e parte di un sistema (copernicano) e richiede di imparare a coesistere con altre entità intelligenti, compiendo un passo essenziale, «quel passo [che] avrebbe la conseguenza di liberare il nostro pensiero, non solo permettendoci di riconoscere le intelligenze nel nostro browser ogni volta che usiamo un sistema di raccomandazione, ma anche di calibrare meglio quello che possiamo aspettarci da queste nostre creature.» (p. 25). Indubbiamente si tratta di un atteggiamento che non sembra commisurarsi all’abito dello scienziato abituato a dialogare di tecnologia. E persino quando invita ad accogliere senza troppi sospetti i vari “sistemi di raccomandazione”, suggeriti dall’algoritmo, si richiama a quel concetto non antropocentrico di intelligenza come “ forma di adattamento al mondo” (p. 18), le cui regole valgono sia per l’“apprendimento automatico” che per la «nuova scienza delle macchine intelligenti» (l’IA) dove ormai si «parla la lingua della probabilità e dell’ottimizzazione matematica, non più quella della logica e del ragionamento formale» (p. 27).
Capire lo stato attuale dell’Intelligenza Artificiale significa ormai entrare costantemente in contatto con un mondo statistico-predittivo, sconosciuto persino ai primi pionieri – da Lady Byron Lovelace a Turing, fino alla fase inaugurale del famoso convegno a Dartmouth (nel 1956) – e costruito facendo convergere gli sforzi di ricercatori pluridisciplinari, tecnologi, teorici dell’informazione, giuristi, specialisti in psicologia, neuroscienze, in socioeconomia, in antropologia. Ma la convergenza rende conto non solo dei progressivi balzi in avanti accaduti all’IA in questi cinquant’anni e oltre ma ci fa toccare con mano fasi di fiducia e di sfiducia nei progressi (Cristianini evoca periodi di entusiasmo e di “inverni freddi”) dell’IA. In un’intervista l’autore precisa che la scorciatoia statistico-predittiva, che attualmente caratterizza la macchina, è stata il presupposto determinante per farle toccare livelli inimmaginabili e uno status “sovrumano”. La macchina ci supera ormai in diversi campi: nel gioco degli scacchi, del GO, della dama; ci serve come supporto mnemonico – di indirizzi, numeri di telefono – e come occhio informato nella guida dei veicoli, nell’uso degli strumenti diagnostici…. Ci supera grazie all’uso sistematico di un modello di linguaggio statistico «basato su miliardi di testi» e dati «trovati sul web o su altri campioni di comportamento umano». Ci supera nella capacità di osservazione. La macchina, ad ogni click, non fa che registrare e tradurre nel suo linguaggio statistico-matematico ogni nostro interesse. La macchina guarda quello che facciamo, ricorda, in qualche modo ci “profila”.
Il libro di Nello Cristianini richiederebbe un commento capillare e dettagliato di ogni capitolo per cui queste note sommarie non rendono abbastanza conto della ricchezza di una ricerca che è sale della mente, perfettamente documentata, in cui si sente la passione e la sicurezza che dà la competenza. Competenza nel saper trattare in parallelo cultura e scienza e questioni di natura – ricorrendo, all’occorrenza, al parallelo con il comportamento intelligente di animali: piccioni, lumache di mare, (come Aplysia…). Competenza nel saper porre le giuste domande («Come possiamo fidarci della conoscenza prodotta dalle nostre macchine?»; «È ragionevole aspettarsi di poterla comprendere?») (p. 55); nel guidarci con pazienza allo «studio dell’apprendimento automatico» (machine learning) seguendo il modo dei «filosofi della scienza di secoli fa», mostrando pazienza nei nostri confronti nello spiegare in che cosa consiste la «scienza di come costruire macchine che possano trasformare osservazioni del passato in conoscenze e previsioni», illustrandoci con un lessico relativamente semplice l’abc del linguaggio algoritmico matematico e statistico dove Borges aiuta a esemplificare tabelle di probabilità (p. 63).
Il libro ci accompagna dunque di scoperta in scoperta, spiegandoci come l’“agente intelligente” sia in grado di assorbire bias indesiderati; immagazzinare miliardi di parole; può (deve) essere guidato per evitare di eseguire compiti alla lettera (Il ritorno alla zampa di scimmia, Ivi, p. 96. Si legga l’aneddoto di Jacobs ripreso da Norbert Wiener, padre della cibernetica); nel gran mare magnum dei dati, impariamo i mezzi per proteggere il nostro diritto all’autonomia e le modalità per pretendere una regolamentazione legale del «targeting psicologico»(Messaggi personalizzati e persuasione di massa, Ivi, p. 99); apprendiamo gli usi e la natura dei «sistemi di raccomandazione», ovvero il lavoro svolto dai “compilatori di notizie contenute nei social media”, che agiscono su You Tube, Facebook, TikTok, Twitter.
«Possiamo restare intrappolati da tali meccanismi? Che cosa succede quando i loro obiettivi sovrumani si dimostrano un avversario troppo forte perché noi possiamo resistervi?» Ovvero esiste la possibilità che dietro la presunta e miracolosa «zampa di scimmia» ci sia una «mano invisibile» (p. 185). Sintetizzo molto il pensiero di Cristianini nel dire che le pagine finali della sua riflessione girano intorno a questo quesito, ripreso in maniera sdrammatizzante, e controbilanciato da tutto quello che noi e i nostri figli dobbiamo all’Intelligenza Artificiale – quando «risponde alle [nostre] domande, raccomanda musica e notizie, traduce in varie lingue, reperisce e filtra informazioni» – (p. 205). E anche se, tornando a rispondere a don Antonio, non manca di evocare i paventati pericoli che possono rappresentare le decisioni prese da macchine, Cristianini smonta queste preoccupazioni con l’idea di «una evoluzione culturale» dove non sarà mai possibile pensare che le macchine «saranno meglio di noi» come diceva Don Antonio:
Forse don Antonio avrebbe apprezzato l’annuncio di quei redattori di Amazon sul «Seattle Weekly» e diretto da Amabot «La gloriosa confusione della carne e del sangue prevarrà». Noi davvero pensiamo che lo farà (p. 206).