Archivi tag: Godel

Chi controlla gli algoritmi?

Un algoritmo è un procedimento logico-matematico che, grazie ad una serie finita di istruzioni o regole, conduce ad una risoluzione di un problema. Più semplicemente, è una “macchina” matematica che, inseriti dei dati, fornisce risposte. I programmi del computer sono basati su algoritmi. Oggi sono ovunque: regolano i social ed il mercato finanziario, prevedono il tempo meteorologico, costituiscono il nerbo dei software dei computer e dei robot, guidano gli aerei, le navi, e le automobili lo saranno a breve. Esistono dei rischi nell’affidare l’intero pianeta ad un mucchio di calcoli matematici? A questa ed ad altre domande tenta di rispondere Ed Finn, ricercatore dell’Università dell’Arizona in un libro intitolato ”Che cosa vogliono gli algoritmi”. Dal titolo traspare addirittura la possibilità che i calcoli possano portare ad una intenzionalità. “Non abbiamo prove per sostenere che gli algoritmi abbiano intenzionalità, creatività o qualsiasi altro tratto che consideriamo necessario per l’immaginazione” conclude l’americano, caldeggiando comunque lo sviluppo di una nuova disciplina scientifica che indaghi il problema: una sorta di scienze umane sperimentali. Naturalmente tale idea poggia sulla fede che la coscienza sia un fenomeno ”fisico”, cosa ad oggi non dimostrabile. E nonostante molti ritengano che, come conseguenza dei teoremi di Gödel, la “cosci

K. Godel

enza artificiale” sia impossibile, alcuni ritengono possibile che la sofisticazione dei calcoli algoritmici, per inciso capaci di creare algoritmi a loro volta, ad un certo punto possa sfuggire al controllo della mente umana: chi potrebbe controllare se un risultato di un mega-calcolatore è giusto o sbagliato quando chi lo ha creato non è in grado di verificare le istruzioni che il calcolatore stesso ha rielaborato a partire da quelle originarie? Ricordate “Al” di 2001 Odissea nello Spazio? Ecco, il problema esiste ma la soluzione proposta da Finn lo è ancora di più: come antidoto alla paura, altra fredda scienza, numeri che controllano numeri. Algoritmi controllori di algoritmi, inquietante. Pensiamo ad un’altra soluzione prima di finire schiavi in un mondo governato da una sorta di “Matrix”.

L’enigma della coscienza

La coscienza è quel fenomeno psichico che permette all’individuo di percepirsi esistente, distinto dall’ambiente circostante, di localizzarsi nello spazio e nel tempo. Così definita la coscienza, ed in particolare la sua forma riflessiva, l’autocoscienza, è elemento distintivo ed escusivo dell’uomo. Un articolo di Le Scienze del giugno del 2018 chiarisce qual è lo stato dell’arte sugli studi scientifici circa la coscienza. “Se si parla di coscienza I filosofi hanno molto da dire” esordisce l’autrice. Il problema del suo studio, che appare essere appunto soprattutto filosofico, rischia di essere una chimera per la

D. Dennett

scienza positivistica. Ciononostante per “the hard problem” gli studiosi si arrampicano sugli specchi di teorie dai nomi esotici : esistono le ” enattiviste”, le “sensitivo-motorie”, la teoria della “mente diffusa” e della “mente-mondo”. Si tranquillizza il lettore della assenza, in questa sede, della volontà approfondire quelle che sono pure speculazioni, più che teorie. Basti dire la loro somma produce la sensazione che esse non possiedano gli strumenti adatti per indagare un fenomeno di tipo spiccatamente metafisico. Questo aspetto, che si manifesta nell’insight (intuito) e nella percezione di “essere presenti” a noi stessi, viene dai “riduzionisti” come il filososofo ateo D. Dennet considerato “perfettamente riconducibile a fenomeni elettrochimici del cervello. La coscienza umana è illusione”non c’è nulla di misterioso nella “coscienza”. E certamente non c’è motivo di andare oltre la fisica.” ( Breaking the Spell, 2006, 244). Nonostante questa spavalderia e decenni trascorsi ad aprire una breccia in questo mistero insolubile, la comunità scientifica arranca a produrre fattie  e “i filosofi cercano di dare forma una teoria della coscienza che possa aiutare gli sperimentalisti a disegnare ricerche utili per risolvere l’enigma”. Insomma, la scienza è in alto mare e nessuna teoria viene universalmente riconosciuta come valida.

Kurt Godel

Particolare attenzione merita il tentativo di ricreare con algoritmi il cervello ed il suo supposto prodotto, la coscienza: stiamo parlando della possibilità di ricreare l’intelligenza artificiale al computer, cosa per nulla scontata. Infatti, nei primi decenni del ventesimo secolo fu chiaro con i lavori di Kurt Gödel, uno dei più grandi logici della storia dell’umanità, che un sistema formale (come quello matematico del computer) è incapace di dare coerenza/completezza a sé stesso ed ai suoi risultati: si tratta dei famosi “teoremi d’’incompletezza di Gödel” che, per alcuni scienziati tra cui R. Penrose (La mente nuova dell’imperatore, 1989), escludono la possibilità di creare un’intelligenza artificiale in quanto tale “sistema” dovrebbe possedere in sé l’insight, l’intuito, capace di “dimostrare” gli assiomi della matematica altrimenti indimostrabili all’interno del sistema formale stesso. E’ infatti questo fenomeno che fornisce coerenza al sistema formale, non il calcolo matematico. Di più, l’intuito appare inconciliabile ed per certi versi opposto al puro calcolo.

Quindi pietra tombale sull’intelligenza artificiale? Quasi. Gödel stesso chiarì negli anni ’50 che i suoi teoremi non escludono a priori la possibilità di creare l’intelligenza artificiale, quanto piuttosto, nel peggiore dei casi, la nostra capacità di verificare se quella che abbiamo creato è effettivamente una vera intelligenza. In altre parole, se non siamo solo “macchine” matematiche e quindi siamo dotati di libero arbitrio, insight ed autocoscienza,  non possiamo creare intelligenza artificiale necessaria per la verifica scientifica delle teorie sulla coscienza stessa; se invece siamo solo “macchine” e l’intuito è solo un’illusione, come sostiene Dennet, possiamo creare macchine simili a noi con un sistema di algoritmi, ma in questo caso non siamo in grado di studiare né noi stessi, né il sistema creato.  Le conseguenze sono macigni: se infatti manca questa verifica logico-matematica i lavori sulla coscienza rimarranno senza controllo sperimentale, neanche lontanamente immaginabile ad oggi, rimanendo per sempre quello che sono in effetti, cioè fenomeni di pertinenza filosofica e teologica.