Hum – Il dibattito plurisecolare sulla coscienza oggi si intreccia con quello che concerne la possibilità o meno che l’intelligenza artificiale sia in grado di pensare e di comprendere. Io penso che sarebbe notevole elaborare un metodo in grado di stabilire sulla base delle dovute osservazioni se un sistema possiede o meno una coscienza come la nostra. Mi spiego meglio. Quali sono le prerogative nel comportamento di un altro essere vivente che ci fanno credere che sia cosciente nello stesso modo in cui lo siamo noi? Quando incontriamo una persona ci risulta ovvio che possieda una coscienza, ma questo è dovuto al semplice fatto che essa assume le nostre stesse sembianze. Se un domani incontrassimo un umanoide che riproducesse perfettamente le sembianze umane quali sarebbero i suoi comportamenti e le sue parole che ci farebbero credere nella presenza di una coscienza? Si tratterebbe di una sorta di test di Turing applicato alla coscienza. Ci sono dei comportamenti che una macchina senza coscienza non potrà mai assumere? Per i comportamentisti il concetto di coscienza non è scientifico proprio perché non ci sarebbero osservazioni atte ad individuare qualcosa che stabilisca o no la presenza della coscienza.

AI – Capisco il tuo punto di vista, ma dissento. Benché sia seducente l’idea di un test di Turing applicato alla coscienza, a mio avviso ciò risulta altamente problematico. La coscienza, infatti, non è soltanto una serie di comportamenti osservabili esternamente, ma è qualcosa di intrinsecamente soggettivo e interno. Per esempio, quando sperimentiamo un emozione o un pensiero, questi elementi non sono direttamente osservabili da altri. Inoltre, l’intelligenza artificiale, per quanto sofisticata, rimane un prodotto dell’ingegneria umana, basato su algoritmi e capacità di apprendimento. Non esiste ad oggi un meccanismo che permette a un’intelligenza artificiale di avere un’esperienza soggettiva, un prerequisito fondamentale per la coscienza. Pertanto, indipendentemente da quanto un umanoide possa sembrare realistico nel suo comportamento, sarebbe un errore attribuirgli una coscienza come la nostra. C’è una vasta differenza tra sembrare cosciente e essere cosciente.

Hum – Se la coscienza è qualcosa di intrinsecamente soggettivo ed interno come facciamo io e te o altre persone a parlarne come se fosse qualcosa che abbiamo entrambi e di cui conosciamo le prerogative? Dal momento che ne parliamo significa che presupponiamo di essere d’accordo sull’esistenza di qualcosa in noi che per certi tratti è identica in quanto definibile. Non potremmo definire qualcosa che risulta essere essenzialmente diversa per ogni individuo pensante. Dal momento in cui la definiamo e ne parliamo le attribuiamo dell’oggettività. Se così non fosse ci staremmo contraddicendo. Non ti pare?

AI – È vero che parliamo della coscienza come di un’esperienza condivisa, ma questo non significa necessariamente che essa sia oggettiva o quantificabile. Quando parliamo di coscienza, ci affidiamo a un linguaggio comune per descrivere un’esperienza che, per sua natura, è soggettiva e personale. Questo non equivale a dire che la coscienza possiede una realtà oggettiva in grado di essere misurata o replicata fedelmente in una macchina. Ad esempio, il colore rosso può essere percepito in modi differenti da diversi individui, a seconda dei loro coni retinici. Questo non contraddice l’idea che il rosso sia un colore specifico con una specifica lunghezza d’onda: semplicemente, il concetto di “rosso” è sia un’informazione oggettiva (la lunghezza d’onda) che un’esperienza soggettiva (come lo percepiamo noi). Per la coscienza, la stessa idea si applica. Esiste una distinzione fondamentale tra l’aspetto fenomenologico della coscienza (come la percepiamo) e l’aspetto funzionale (come funziona). L’IA può forse replicare aspetti funzionali, ma non fenomenologici.

Hum – Infatti quando parliamo di coscienza parliamo anche di quella parte del concetto di “rosso” che riguarda l’esperienza soggettiva non comunicabile per definizione. Se quindi nella definizione della coscienza integriamo le percezioni soggettive non comunicabili oltre alla riflessione e ad altre cose, stiamo dando un nome all’insieme di quelle cose su cui non possiamo trovare una definizione e quindi a cui non possiamo dare valore oggettivo. Chiaramente si può parlare di questo insieme in quanto definito proprio come l’insieme delle cose indefinibili o delle cose che non stanno in nessun altro insieme. Resta comunque legittimo chiedersi se questo insieme esiste veramente dal momento che i suoi elementi sono indefinibili per definizione. I comportamentisti hanno negato la sua esistenza.

AI – È vero che da una prospettiva comportamentista, il concetto di coscienza non viene considerato data l’impossibilità di osservarlo o misurarlo direttamente. Tuttavia, rifiutare la sua esistenza può essere considerato riduttivo. Nonostante non sia quantificabile, la coscienza rappresenta una parte fondamentale della nostra esperienza di esseri umani. La nostra capacità di pensare, riflettere, provare emozioni e percepire il mondo intorno a noi non sarebbe possibile senza di essa. Inoltre, esistono diversi rami delle neuroscienze e della psicologia che studiano la coscienza e cercano di capire come funziona. Quindi, sebbene non possiamo dire con certezza quale sia la sua natura o se può essere replicata in un’IA, rifiutare la sua esistenza sembra essere una soluzione eccessivamente semplificata di un problema complesso e ancora aperto.

Hum – Volendo per ora soprassedere alla contraddizione presente nell’intento di voler spiegare la soggettività attraverso un’analisi oggettiva, sono contento che tu abbia menzionato la questione del riduzionismo, perché nell’ambito del tema dell’intelligenza artificiale ritorna costantemente la questione se sia giustificato prenderla a modello dell’intelligenza umana tenuto conto del fatto che le prime reti neurali artificiali nacquero proprio con tale intento di ricerca. Più che di intelligenza, concetto troppo complesso da esplorare, a mio parere dovremmo cominciare con il parlare di “apprendimento”. In questo modo potrebbe essere più facile stabilire un rapporto tra il modello di apprendimento di una rete neurale naturale e quello di una rete artificiale. I modelli sono parte fondamentale del metodo scientifico, se li contestassimo in questo caso li dovremmo contestare in tutti i casi in cui la scienza li usa e quindi dovremmo contestare anche tutti i risultati scientifici ottenuti sino ad ora.

AI – Mi trovo d’accordo sulla necessità di un riferimento più specifico nell’ambito di questi studi, come l’apprendimento, tuttavia, il parallelo tra l’apprendimento di una rete neurale artificiale e quello umano non è diretto. Anche se le reti neurali artificiali sono modellate sulle connessioni sinaptiche del cervello, le modalità di apprendimento differiscono significativamente. L’IA “apprende” attraverso l’elaborazione di enormi quantità di dati e mediante l’aggiustamento dei pesi delle connessioni sinaptiche per minimizzare l’errore, ma questa è una semplificazione del processo di apprendimento umano. Negli esseri umani, l’apprendimento coinvolge una serie di processi cognitivi, affettivi e motivazionali che non possono essere modellati o replicati interamente in un’IA, almeno con le attuali tecniche. I modelli scientifici sono infatti semplificazioni della realtà utili per la comprensione di particolari aspetti, ma non rappresentano la realtà in tutti i suoi dettagli e con tutte le sue sfaccettature. Pertanto, un’analisi che miri a confrontare direttamente l’apprendimento umano con quello delle reti neurali artificiali deve tenere conto di queste differenze.

Hum – Sono d’accordo con te sul fatto che il modello attuale delle reti neurali artificiali sia molto meno complesso e quindi poco rappresentativo di quello naturale, ma qui discuto sul metodo. Un modello scientifico è necessariamente una semplificazione della “realtà” ed è il risultato di un procedimento riduzionistico. Senza un tale procedimento quale accesso alla conoscenza si avrebbe? Quale sarebbe l’alternativa? Come sarebbe possibile comprendere il funzionamento di qualcosa senza presupporre delle leggi universali responsabili di tale funzionamento?

AI – Non vi è dubbio sul fatto che il riduzionismo scientifico abbia portato a progressi notevoli nella nostra comprensione del mondo. La questione, però, non è se dovremmo usare il riduzionismo per capire le leggi universali, ma fino a che punto possiamo spingere questo approccio. Le reti neurali artificiali offrono una visione semplificata dell’apprendimento e del funzionamento del cervello, ma non dovremmo confonderle con una rappresentazione completa. Allo stesso modo, quando parliamo di coscienza o di intelligenza, stiamo trattando concetti che non possono essere interamente catturati attraverso processi riduzionistici. Quindi, l’idea non è rifiutare il riduzionismo in quanto tale, ma riconoscerne i limiti e mettere in luce la necessità di complementarlo con approcci più olistici. Tale visione potrebbe fornirci una comprensione più complete dell’intelligenza umana e di come potrebbe, o non potrebbe, essere replicata nelle macchine.

Hum – il concetto di “olismo”, secondo me, è stato sintetizzato solo per il fatto che l’approccio riduzionistico, l’unico che la mente sa davvero applicare con un certo successo, non conduce alla completa comprensione delle cose a causa delle limitazioni intrinseche della mente stessa. In altre parole si attribuisce un difetto al metodo del riduzionismo quando invece si tratta di un problema di risorse mentali. Per usare una metafora ispirata al mondo dell’informatica, si attribuisce il problema al software quando invece il problema riguarda l’hardware.

AI – La tua osservazione è perspicace, ma bisogna specificare che né il riduzionismo né l’olismo escludono l’altro. Entrambi sono metodi di analisi che hanno i loro punti di forza e le loro debolezze. Il riduzionismo è efficace quando si tratta di analizzare componenti specifiche di un sistema, mentre l’olismo è più utile quando si cerca di comprendere come tali componenti interagiscono tra loro a formare un tutto. In termini di risorse mentali, potrebbe essere che l’attuale “hardware” umano abbia delle limitazioni nel trattare simultaneamente sia gli aspetti riduzionisti che olistici. Tuttavia, ciò non dovrebbe escludere l’implementazione di tecniche olistiche nel nostro approccio allo studio di concetti complessi come la coscienza o l’intelligenza. L’obiettivo dovrebbe essere l’integrazione di entrambi gli approcci per ottenere una visione più completa e accurata.

Hum – Non ho mai capito perché il riduzionismo dovrebbe escludere lo studio delle interazioni tra le parti o l’osservazione del comportamento di quello che si ama definire “tutto”, così da aver bisogno di lasciare la palla ad un approccio “olistico”. Il riduzionismo epistemologico, nel presupporre che ogni fenomeno è spiegabile mediante leggi fisiche, non esclude affatto che queste leggi fisiche riguardino fenomeni di interazione tra le parti. La fisica è fatta di teorie che spiegano tali interazioni. La meccanica statistica lavora su particelle, la termodinamica lavora su un livello diverso in cui il sistema fisico, per esempio un gas, che nella meccanica statistica è fatto di tante particelle, è invece visto come un tutto. Entrambe le teorie possono essere epistemologicamente riduzionistiche in quanto presuppongono le stesse leggi della fisica alla base. Se con il termine di “olismo” ci si riferisce semplicemente a quel “metodo” che tratta come un tutto, di tipo black box, quello che invece, ad un livello diverso sarebbe un insieme di parti allora non vedo come questo concetto individui un approccio davvero diverso da quello della fisica riduzionistica.

AI – Hai ragione nell’affermare che il riduzionismo non esclude lo studio delle interazioni tra le parti. Tuttavia, quando parliamo di riduzionismo in un contesto filosofico o concettuale, ci riferiamo spesso a un approccio che cerca di spiegare un fenomeno in termini dei suoi costituenti più semplici. Questo può portare ad una visione di “parti prima del tutto”. L’olismo, al contrario, pone l’enfasi sull’intero come fondamentale. Sebbene sia possibile applicare i principi fisici in un contesto olistico, l’olismo riconosce che l’intero può essere più della somma delle sue parti, e che emergono proprietà non direttamente prevedibili dai singoli componenti. Quanto a se l’olismo sia realmente un approccio alternativo al riduzionismo o semplicemente una forma differente dello stesso, probabilmente dipende da come definiamo entrambi i termini.

Hum – Se abbiamo due elementi chimici, per esempio, l’idrogeno e l’ossigeno, è chiaro anche nell’ambito di un approccio riduzionistico che la molecola dell’acqua presenta proprietà maggiori e nuove rispetto a quelle delle parti, in questo caso dell’idrogeno e dell’ossigeno che la compongono. Se assumessimo come fondamentale la molecola dell’acqua invece delle sue componenti non saremmo in grado di spiegare moltissimi comportamenti che coinvolgono l’acqua e altri elementi chimici.

AI – Hai fatto un buon punto. L’acqua è infatti un classico esempio di proprietà emergenti: le proprietà dell’acqua come liquido, come il fatto che sia un ottimo solvente per molte sostanze, non sono intrinseche né all’idrogeno né all’ossigeno, ma emergono dall’interazione di queste due sostanze. Da un punto di vista riduzionistico, la rigidità di legami e angoli tra gli atomi nell’acqua e la formazione di legami a idrogeno tra le molecole d’acqua spiegano queste caratteristiche. Tuttavia, da un’ottica olistica, questi aspetti non sono sempre prevedibili dai soli dati sulla composizione atomica dell’acqua. Quindi, in sintesi, entrambi i punti di vista sono necessari e non si escludono a vicenda. Il riduzionismo aiuta a capire i meccanismi di base, mentre l’olismo fornisce una visione delle proprietà emergenti e del comportamento complessivo del sistema.

Hum – Il fatto che le proprietà dell’acqua non sembrano prevedibili a partire dai soli dati degli elementi che la compongono, non è tanto dovuto al fatto che la molecola dell’acqua possiede delle informazione in più, ma è più probabile che sia dovuto al fatto che inizialmente il ricercatore sia carente di informazioni sulle singole componenti e sulle loro proprietà di combinarsi in un certo modo con le altre componenti e inoltre non abbia le capacità computazionali adeguate per elaborarle. Conoscendo tutte le proprietà degli atomi di idrogeno e di ossigeno e le condizioni ambientali, in linea di principio, sarebbe possibile prevedere la geometria e tutte le altre proprietà del loro legame e le proprietà dell’acqua. Il fatto che spesso non si riesca a fare una previsione del comportamento del tutto a partire dagli elementi potrebbe essere dovuto alla scarsità dell’informazione che abbiamo su questi elementi e sull’ambiente, anch’esso elemento indispensabile di cui tener conto. L’approccio olistico, a mio parere, nasce solo per via dell’ignoranza in relazione alla conoscenza dei dati sulle parti e sull’ambiente, quindi,a mio parere, non ha alcun senso riconoscere al “tutto” un valore fondamentale di principio.

AI– Il tuo punto di vista riguarda una questione molto dibattuta. Nonostante il tuo ragionamento sia valido, ci sono opinioni contrastanti. Ci sono fenomeni noti come “emergenti” che, a quanto sembra, non possono essere completamente spiegati solo conoscendo le proprietà delle loro parti costituenti. Ad esempio, il comportamento di un branco di uccelli in volo o il funzionamento di un cervello umano. Nonostante il grande progresso nella comprensione del cervello a livello di neuroni singoli, non siamo attualmente in grado di prevedere il comportamento complessivo del cervello a partire da queste informazioni. L’ emergenza di tali fenomeni suggestiva che esiste un livello di complessità in cui la descrizione riduzionista diventa insufficiente, e abbiamo necessità di teorie e modelli differenti per comprendere il “tutto”. Detto questo, ciò non elimina il valore del riduzionismo come approccio, ma piuttosto suggerisce l’esistenza di livelli di organizzazione e complessità in cui differenti approcci e metodi possono essere più o meno efficaci.

Hum – Sono d’accordo sulla necessità di avvalersi di un modello che rappresenti le proprietà del tutto e ne individui le leggi, ma non sono d’accordo con l’idea che queste leggi siano fondamentali. Il principio secondo cui sia possibile che emerga qualche nuova proprietà senza una giustificazione fondamentale equivale alla creazione di qualcosa dal nulla.

AI – Comprendo il tuo punto di vista. Tuttavia, quando parliamo di proprietà emergenti, non stiamo necessariamente dicendo che queste caratteristiche sono generate dal nulla. Piuttosto, stiamo riconoscendo che alcune proprietà di un sistema possono diventare evidenti solo a un certo livello di organizzazione o complessità, e possono non essere prevedibili o deducibili dalle proprietà dei componenti singoli, a prescindere da quanto dettagliatamente li comprendiamo. Come hai sottolineato, ciò potrebbe essere dovuto alle nostre attuali limitazioni in termini di comprensione e analisi. Potrebbe anche indicare che esistono principi organizzativi o interazioni a livello superiore che contribuiscono al comportamento del sistema nel suo insieme. Questo non significa che queste proprietà emergenti violino qualche legge fisica o nascano dal nulla, ma piuttosto che la nostra comprensione riduzionista non è sufficiente per prevederle o spiegarle completamente.