Bookweek, a Gorizia la presentazione di “Forma mentis”: cervello umano e IA a confronto

Comprendere come una macchina: pubblichiamo il penultimo capitolo di “Forma Mentis”, che tira le somme dell’intero viaggio. Da: Forma Mentis, di Nello Cristianini, Edizioni Il Mulino, 2026

Il saggio

«Tutti i modelli sono sbagliati, ma alcuni modelli sono utili»: questa frase del celebre statistico George Box è diventata un mantra per generazioni di scienziati. E questo dobbiamo tenere in mente quando ci chiediamo se una macchina può comprendere il mondo: comprendere qualcosa non significa averla catturata perfettamente, ma averne costruito un modello utile. Descrivere le osservazioni passate, invece che memorizzarle, è la base di questo processo, che non finisce mai perché si può sempre comprendere un po’ meglio.

• Vai sul sito ufficiale: programma e iscrizioni

Una comprensione, in pratica, è semplicemente una descrizione semplificata del mondo, abbastanza accurata per gli scopi che abbiamo. Ecco perché esistono diversi modi di comprendere la stessa porzione di mondo.

A volte penso che siamo più severi con le macchine di quanto lo siamo con noi stessi, forse perché ci illudiamo di avere accesso a una forma di «vera» comprensione, che in realtà non esiste. I nostri modelli mentali sono pieni di lacune e soggetti a distorsioni: le illusioni ottiche e quelle cognitive rivelano i punti in cui le nostre rappresentazioni interne divergono silenziosamente dalla realtà. Navighiamo nel mondo senza percepirlo direttamente, ma creandone e mantenendone una mappa interna: una costruzione, senza dubbio, ma utile.

Lo psicologo inglese Richard Gregory un giorno mi confidò che, avendo curato l’Oxford Companion to the Mind, non vi aveva incluso la voce riferita alla parola «mente». «Non so cosa sia», disse con un sorriso furbo durante una cena. Aveva 83 anni, e sembrava un bambino che si diverte a fare il discolo. Il suo principale contributo alla scienza era stato usare le illusioni ottiche per studiare i meccanismi della mente, dimostrando che noi non abbiamo accesso diretto alla realtà, ma ne costruiamo la versione più plausibile, sulla base delle informazioni sensoriali di cui disponiamo e delle nostre aspettative.

Ed è questo il meglio che possiamo fare: trovare la descrizione più utile, la spiegazione più plausibile di quello che abbiamo osservato. Talvolta sbagliamo, ma l’esistenza delle illusioni ottiche non dimostra che siamo incapaci di capire, semmai l’opposto.

Teniamolo in mente, quando i sistemi di Intelligenza Artificiale fanno la stessa cosa. Proprio come noi, anche loro non hanno accesso diretto a una «verità», ma costruiscono rappresentazioni compresse e imperfette che sono comunque utili a fare previsioni e creare spiegazioni. Dei modelli, necessariamente approssimati, del loro ambiente.

*

Facciamo un brevissimo riepilogo di quello che abbiamo descritto in questo libro: cosa avviene tra una domanda e una risposta? Piccoli segnali deboli nel prompt – per esempio la presenza di una parola come bonjour o très – forniscono i primi indizi, e quando tanti segnali deboli convergono, si attiva un ensemble: testo in lingua francese. Il sistema ha compreso?

Allo stesso modo in cui comprende un test di gravidanza: risponde con alta precisione a uno stato del mondo esterno, al punto da essere utile per prendere decisioni importanti. E come ogni test può anche sbagliare, e va usato in combinazione con altre informazioni.

Ma ecco il punto cruciale. Simultaneamente la macchina diventa «consapevole» di centinaia di altre idee: argomento, compito richiesto, tono emotivo. In ciascun caso, si tratta dell’interpretazione più plausibile dei segnali deboli contenuti nel testo della richiesta. Poi le cose diventano interessanti: queste idee si collegano in circuiti, sempre più astratti e ancora poco compresi dagli scienziati, fino a quando si forma una risposta. Così come un volto viene riconosciuto non da una singola caratteristica ma dalla relazione fra tutte. La comprensione emerge dalla danza dei neuroni che si accendono e si spengono, con una coreografia che stentiamo ancora a decifrare.

È in questo senso che una macchina comprende: a basso livello ci sono milioni di operazioni microscopiche che non possiamo decifrare in dettaglio, a livello alto troviamo rappresentazioni che hanno un nome quasi psicologico. In mezzo ci sono gli ensemble, i circuiti e le altre strutture intermedie ancora ignote, che la macchina ha appreso per descrivere il mondo. Descrizioni imperfette, certo, ma pur sempre sufficienti a fare quello che deve.

E quando questi neuroni sono troppi per seguirli individualmente, per noi diventa più semplice chiederci che cosa «pensa» quella rete, e alla fine anche comunicare con lei parlando. Non con i neuroni, ma con la macchina che questi formano.

*

Penso che questa sarà presto l’unica scelta, per comprendere quello che fanno i sistemi intelligenti: il livello macroscopico. Attrezziamoci, c’è una nuova scienza da creare.

Consideriamo gli agenti intelligenti come delle menti diverse dalla nostra, ma come noi destinati a conoscere solo un’immagine imperfetta della realtà, approssimata ma non un semplice miraggio. Se non altro, abbiamo almeno questo in comune.

C’è molto spazio tra un’ideale conoscenza «perfetta» e un miraggio, e in questo spazio forse abitiamo tutti.