Le ansie provocate dai progressi
dell'intelligenza artificiale


(da Donald Gillies, Intelligenza artificiale e metodo scientifico, Cortina 1998, pp.136-145)


L'argomento è stato espresso in modo molto efficace da Penrose, e la cosa migliore è dunque citare direttamente questo autore:

Nel corso degli ultimi decenni, la tecnologia dei computer elettronici ha compiuto enormi passi avanti [...]. C'è qualcosa di quasi terrificante nel ritmo di questo sviluppo. I computer sono già oggi in grado di svolgere numerosi compiti che sono stati in passato una prerogativa esclusiva del pensiero umano, con una velocità e precisione che superano di gran lunga i risultati di un essere umano. Noi siamo abituati da molto tempo a macchine che ci superano sul piano fisico. Questo fatto non ci causa disagio; al contrario, siamo compiaciuti di avere macchine capaci di trasportarci a grande velocità sul terreno - cinque volte e più la velocità che può essere raggiunta dall'atleta umano più veloce [...]. Ancor più ci piace avere macchine che ci mettano fisicamente in grado di fare cose che non siamo mai stati capaci di fare prima: macchine che possono sollevarci in aria e depositarci in poche ore dall'altra parte dell'oceano. Queste conquiste non turbano affatto il nostro orgoglio. Ma saper pensare è sempre stata una prerogativa molto umana. E' stata, dopo tutto, questa capacità di pensare, dopo che è stata tradotta in termini fisici, a permetterci di trascendere i nostri stessi limiti e innalzarci, per i risultati da noi raggiunti, al di sopra degli animali nostri simili. Se le macchine sapranno un giorno sopravanzarci in quella qualità importante nella quale ci siamo ritenuti superiori, non avremo perduto quella superiorità unica a vantaggio delle nostre creature? (Penrose, 1989, p.21)

Anche se non tutti percepiscono in questo modo i progressi della tecnologia dei computer, le tesi di Penrose sono ampiamente condivisibili e comprensibili. Il suo punto di vista, secondo cui l'intelligenza artificiale sembra erodere l'unico punto - finora - di superiorità umana, ha storicamente un suo senso. Consideriamo, per esempio, il famoso soliloquio di Amleto a proposito dell'uomo (atto II, scena II): "Che opera d'arte è l'uomo, com'è nobile in virtù della ragione, quali infinite facoltà possiede, com'è preciso e ammirevole nella forma e nel movimento, com'è simile a un angelo nell'azione, com'è simile a un dio nell'intendimento: la bellezza del mondo, il paragone degli esseri animati. Eppure, che cos'è per me questa quintessenza di polvere?". Nell'elencare le più rilevanti qualità dell'uomo, Amleto esordisce: "com'è nobile in virtù della ragione"! Questa affermazione si accorda con la concezione aristotelica dell'uomo come animale razionale. Comunque, Amleto prosegue con l'affermazione: "com'è simile a un dio nell'intendimento [...], il paragone degli esseri animati". Dunque, ragione e intendimento (intelletto) elevano l'essere umano al di sopra degli altri animali. Ma supponiamo ora che i computer diventino capaci anche di ragionare e di comprendere in modo uguale, se non superiore, agli esseri umani. Non avrebbe allora l'umanità perduto la propria posizione di superiorità? Non sarebbero gli uomini effettivamente diventati, se non proprio un'impalpabile quintessenza, in fondo una quintessenza di neuroni, simulabile con microchip elettronici? Tutte queste riflessioni illustrano le profonde implicazioni filosofiche dell'intelligenza artificiale, dovute principalmente al fatto che i suoi sviluppi potrebbero introdurre una concezione completamente nuova, e secondo alcuni non troppo auspicabile, dell'essere umano e delle sue relazioni con la natura.
Penrose non ha certamente torto ad affermare: "I computer sono già oggi in grado di svolgere numerosi compiti che sono stati in passato una prerogativa esclusiva del pensiero umano" (1989, p.21). Ho già citato l'affermazione del filosofo greco Democrito: "Preferirei scoprire una causa che conquistare il reame di Persia" (Diels, Frammento 118, cit. in Freeman, 1947, p.104). Con tutta evidenza, Democrito riteneva che il successo intellettuale nelle scoperte scientifiche costituisse una delle più nobili, se non la più nobile, delle realizzazioni umane. Ora, i computer possono scoprire leggi di natura fino a ora ignote, come indica l'esempio di GOLEM presentato nel secondo capitolo. Ammettiamo che la legge trovata da GOLEM non sia poi così impressionante; va anche detto, però, che l'apprendimento meccanico è stato sviluppato da pochissimo tempo. Chi può dire a cosa metterà capo tra una cinquantina d'anni?
Un'altra attività nella quale i computer hanno ottenuto grande successo è quella del gioco degli scacchi. Non si tratta, ovviamente, di un campo importante come quello della ricerca scientifica, ma ha nondimeno un suo considerevole significato. Per centinaia d'anni prima dell'invenzione dei computer, l'abilità nel gioco degli scacchi era universalmente tenuta in considerazione come segno di grande intelligenza. Nel suo polemico libro What Computers Can't Do [Cosa non possono fare i computer], pubblicato nel 1972, più o meno vent'anni fa, Dreyfus esprimeva forti dubbi sul fatto che i computer potessero diventare abili giocatori di scacchi.
Dreyfus sostiene nel suo libro che "un ulteriore sviluppo significativo nel campo dell'IA è poco probabile" (1972, p. 382). Il lettore può farsi un'idea sull'esattezza della sua previsione considerando gli esempi presentati in questo mio libro, che datano più o meno tutti a dopo il 1972, e tenendo inoltre presente che ho proposto soltanto una limitatissima quantità di esempi relativi a un campo molto vasto. Prendiamo comunque in considerazione solo il caso del gioco degli scacchi.
Scrivendo nel 1972 Dreyfus attacca aspramente la tesi secondo cui il computer saprebbe giocare a scacchi, e la destituisce di ogni credibilità, ritenendola una "mitologia scientifica":

La credulità del pubblico e l'entusiasmo di Simon erano tali che le dichiarazioni di Newell, Shaw e Simon sul loro programma, pur tese a metterne in evidenza le imperfezioni, furono sufficienti a fare assurgere la macchina per giocare agli scacchi nel reame della mitologia scientifica. Nel 1959, esagerando un po' l'affermazione degli autori del programma secondo i quali esso era perlomeno "di buona qualità nell'apertura del gioco", Norbert Wiener informava l'Istituto di Filosofia dell'Università di New York che "le macchine per giocare agli scacchi sarebbero state capaci di resistere ai colpi di un maestro con mosse legittimate dai manuali, almeno fino a un certo punto della partita". Nello stesso simposio, Michael Scriven glissava dall'affermazione piuttosto ambigua secondo la quale "delle macchine sapevano ormai giocare a scacchi" all'affermazione più perentoria che "alcune macchine sono già in grado di giocare bene". Infatti, da qualche rara partita descritta, emerge che il programma di Newell, Shaw e Simon praticava un gioco assai povero, ma stando alle regole, e che nel suo ultimo incontro ufficiale nell'ottobre 1960, fu battuto in 35 mosse da un debuttante di 10 anni. Ma i fatti, all'occorrenza, non avevano più alcuna importanza. (Dreyfus, 1972, p.141)

Lo stesso Dreyfus venne battuto a scacchi da un computer, e parla con una certa irritazione "dell'allegria con la quale questa vittoria fu annunciata al piccolo mondo dell'informatica" (Dreyfus, 1972, p. 149, nota 45). Il fatto, comunque, non lo convinse che fosse ormai in vista un futuro roseo per le partite a scacchi dei computer. Scrive infatti:

Imbarazzati per la considerazione che io avevo fatto sulla sproporzione flagrante tra il loro entusiasmo e i risultati ottenuti fino ad allora, i ricercatori dell'IA finirono per mettere a punto un programma ragionevolmente efficiente. Il programma di R. Greenblatt chiamato McHack sconfisse l'autore di queste pagine - medio dilettante degli scacchi - e fu impegnato in diversi tornei in occasione dei quali vinse alcune partite [...]. Il programma di Greenblatt è stato gradualmente migliorato, ma sembra aver raggiunto un livello di saturazione. Nel corso degli ultimi due anni ha perduto tutte le sue partite nell'ambito dei tornei nei quali era stato impegnato e non ha più costituito oggetto di pubblicità. (Dreyfus, 1972, pp. 142-143)

Ma come si presenta attualmente (1997), venticinque anni dopo l'uscita del libro di Dreyfus, la situazione nel gioco degli scacchi?(1)
Lo "stato dell'arte" è stato drammaticamente messo in luce dal duello svoltosi negli ultimi anni fra il campione del mondo Garry Kasparov e vari computer. Tutto è cominciato nel 1989, quando Kasparov ha giocato contro "Deep Thought" (il nome in italiano suona "Pensiero profondo"!) dell'IBM. Ha vinto facilmente, e la vittoria lo ha imbaldanzito. Doveva vantarsi: "Come stanno le cose, sono in grado di battere qualsiasi computer se mi concentro sul suo stile di gioco. Il computer può calcolare bilioni di mosse, ma manca di intuizione". Queste parole hanno un suono familiare. Si ricorderà dai primi tre capitoli di questo mio libro che l'induzione baconiana o meccanica è ritenuta da alcuni impraticabile sulla base della convinzione che formulare nuove leggi scientifiche richieda una forma di intuizione creativa propria di esseri umani. Ora, è accaduto che il computer abbia scoperto leggi di natura. Lo stesso Bacone avrebbe probabilmente considerato tutto questo entusiasmo per le meraviglie dell'intuizione umana come fuorviante e controproducente, come risulta da questa affermazione: "Poiché l'illusione della ricchezza è una delle cause principali della povertà, e l'assoluta fiducia nelle conoscenze attuali fa trascurare le vere risorse per il futuro" (Bacone, 1620, p.11).
Tornando al gioco di scacchi con i computer, nonostante tutta la propria fiducia in sé stesso, Kasparov è stato sconfitto da un computer "Pentium Genius" il 31 agosto 1994. Nella rivincita, il 20 maggio 1995, Kasparov ha però vendicato l'onore degli esseri umani battendo Pentium Genius. Stando al foglio inglese The Independent on Sunday, il giorno dopo Kasparov "appariva molto sollevato una volta conclusa la partita".
Il successivo scontro fra Kasparov e un computer è avvenuto nel 1996, quando egli ha giocato contro un nuovo computer IBM, "Deep Blue". Kasparov ha perso la prima partita, ma si è aggiudicato il torneo con 4 partite contro 2. Quest'anno (1997) Kasparov ha giocato contro una versione migliorata di Deep Blue, perdendo il torneo, con 2,5 partite contro 3,5. A cose fatte ha scritto un articolo assai rivelatore apparso il 24 maggio 1997 nel Guardian, dove così riporta le proprie impressioni circa il modo di giocare di Deep Blue: "Mi ha colto impreparato a una sfida intellettuale di tipo totalmente nuovo. La seconda è stata la partita decisiva del torneo ed essa ha lasciato come una cicatrice nella mia memoria. In questa seconda partita contro Deep Blue ho visto qualcosa che andava ben oltre le mie maggiori aspettative circa la correttezza con cui un computer sarebbe capace di prevedere le conseguenze a lungo termine delle mosse che decide di fare. La macchina si è rifiutata di spostare un pezzo in una casella - una mossa che offriva un vantaggio notevole a breve termine - dando prova cosi di una percezione del rischio molto umana. Ritengo che un evento come questo potrebbe costituire una rivoluzione nell'informatica che potrebbe fruttare all'IBM e alla squadra Deep Blue un premio Nobel".
Nel 1960 il miglior computer allora disponibile era stato sconfitto da uno scacchista principiante di soli dieci anni. Ora (1997) è il computer migliore a battere il campione del mondo. Se questo progresso continua, sembra probabile che, tra pochi decenni, ci saranno programmi di computer per gli scacchi che nessun umano sarà in grado di battere. In questo campo gli esseri umani si troveranno alla fine a cedere la propria superiorità a una loro creatura; e se accadrà in questo campo, perché non in qualche altro? Le preoccupazioni di Penrose al proposito sembrano pienamente giustificate.
Ho fin qui esaminato il punto di vista di coloro che ritengono inquietanti i progressi nella scienza dei computer e nell'intelligenza artificiale. Questa mia analisi non esaurisce il problema, però. E' tale la diversità delle opinioni umane che un certo numero di persone si compiacciono all'idea che il potere intellettuale umano potrebbe non essere migliore - e magari potrebbe essere peggiore - di quello di un potente computer. Il più autorevole esponente di questo punto di vista è Alan Turing, che lo ha espresso nel suo famoso intervento del 1950 intitolato "Computing Machinery and Intelligence".(2)
Turing immagina la seguente situazione, che definisce gioco dell'imitazione. Un esaminatore è di fronte a due porte chiuse. Dietro una delle due porte c'è un computer e dietro l'altra un essere umano. L'esaminatore può comunicare con ciascuno dei due attraverso una telescrivente, vale a dire che può rivolgere una domanda attraverso la tastiera della telescrivente e ricevere dopo un certo tempo la risposta nello stesso modo. All'umano è stato detto di rispondere in modo da prestare aiuto all'esaminatore. Turing rileva che la strategia migliore a questo scopo sarebbe quella di dire in ogni caso la verità. Il computer, d'altra parte, è stato programmato a imitare l'essere umano, e costruirà le sue risposte con questo fine, senza preoccuparsi della loro verità. Dunque, per esempio, se l'esaminatore chiedesse al computer di operare un lungo calcolo, il computer, che potrebbe ovviamente fornire la risposta in un lampo, la differirebbe deliberatamente, per simulare tempi di calcolo umani, e introdurrebbe anche qualche piccolo errore. Di fronte a una domanda come "Ti piacciono le fragole alla panna?", il computer risponderebbe "Sì, molto. Le mangio spesso come dolce in estate", anche senza avere ovviamente mai gustato questo piatto. Il problema dell'esaminatore è di decidere, sulla base delle risposte ricevute, in quale stanza sia il computer e in quale l'umano; se non riesce a distinguere dopo una serie di prove il computer dall'umano con una certa sicurezza e continuità, allora si può dire che il computer ha vinto il gioco dell'imitazione. Questo è noto come test di Turing sulla possibilità che un computer possa pensare con modalità umane.
In quell'articolo (1950) Turing aveva fatto questa predizione: "Credo che entro circa cinquant'anni sarà possibile programmare calcolatori con una capacità di memoria di circa 109, per fare giocare loro il gioco dell'imitazione così bene che un esaminatore medio non avrà più del 70 per cento di probabilità di compiere l'identificazione esatta dopo cinque minuti di interrogazione" (1950, p.133). I cinquant'anni di Turing non sono ancora trascorsi, e siamo già in grado di valutare l'esattezza della sua predizione. Sicuramente, la capacità di memoria di 109 può essere facilmente ottenuta, e probabilmente i progressi in questa direzione hanno oltrepassato le sue aspettative. Nel campo del gioco dell'imitazione ci sono competizioni annuali tra i programmi che hanno dato le prestazioni più soddisfacenti, anche se sono state introdotte rilevanti limitazioni, per esempio sugli argomenti delle domande. Pur contenendo una buona parte di esagerazione, come molte di quelle effettuate nel campo dell'intelligenza artificiale, le predizioni di Turing sembrano comunque sulla buona strada.
Turing mette in evidenza che i computer digitali usati nel gioco dell'imitazione come lui li immaginava sono macchine a stati discreti. Questa è la sua spiegazione del concetto:

I calcolatori digitali esaminati nell'ultimo paragrafo possono essere classificati tra le "macchine a stati discreti", cioè tra quelle che si muovono a salti o scatti improvvisi da uno stato ben definito a un altro. Questi stati sono abbastanza differenti tra loro al punto che è lecito ignorare la possibilità di confusione tra di essi. Strettamente parlando, non esistono macchine del genere: in realtà, ogni cosa si muove con continuità. Ma ci sono molti tipi di macchine che possono vantaggiosamente essere viste come macchine a stati discreti. Per esempio, considerando gli interruttori di un sistema di illuminazione è comodo supporre che ogni interruttore sia decisamente o chiuso o aperto. Necessariamente esistono posizioni intermedie, ma per la maggior parte degli scopi possono essere trascurate. (Turing, 1950, p.129)

Ora, ogni macchina a stati discreti può essere esattamente imitata attraverso un computer teorico del tipo di quello precedentemente descritto da Turing nei suoi lavori del 1936-1937 e noto come macchina di Turing. Una macchina di Turing è il più semplice tipo di computer che si possa immaginare. E' costituita da un unico nastro diviso in quadrati, su ognuno dei quali si può imprimere un simbolo di un alfabeto finito. La macchina esamina soltanto un quadrato per volta, e può eseguire soltanto un'operazione per volta tra quelle - di numero limitato - che ha a disposizione: può lasciare il quadrato così com'è, o cancellare il simbolo che vi è impresso e stamparne uno nuovo. Può spostarsi di un quadrato a destra o a sinistra, o rimanere dov'è, o arrestarsi. Ogni operazione che la macchina compie è determinata interamente dal simbolo che legge, e dal suo stato interno; una volta compiuta l'operazione, è obbligata a procedere a un nuovo specifico stato interno. Il numero degli stati interni è finito. Un'importante idealizzazione della macchina è immaginare che il nastro possa essere indefinitamente lungo. Il risultato sorprendente dovuto a Turing è che la sua semplice macchina può eseguire tutte le computazioni che possono essere fatte da un computer a stati discreti, per complesse che siano la sua struttura e il suo modo di funzionamento.
A seguito di questo risultato generale è stata talora formulata una tesi meccanicistica secondo la quale la mente umana sarebbe una macchina di Turing. E' importante rilevare, però, come Turing non abbia mai personalmente usato questa espressione. La sua tesi è che si potrebbe programmare un computer sufficientemente potente da sostenere il gioco dell'imitazione con successo, vale a dire che il computer sarebbe capace di simulare il pensiero umano. Il punto essenziale a questo proposito è che il cervello umano può esercitare soddisfacentemente le sue funzioni con continuità, e non risulta quindi una macchina a stati discreti. In verità, Turing prende in considerazione in modo esplicito questa possibilità come settima obiezione alla sua tesi: "Il sistema nervoso non è certo una macchina a stati discreti. Un piccolo errore d'informazione circa la grandezza di un impulso nervoso che colpisce un neurone può essere importantissimo per quanto riguarda la grandezza dell'impulso in uscita. Si può sostenere che, stando così le cose, non si può pensare di poter imitare il comportamento del sistema nervoso con un sistema a stati discreti" (Turing, 1950, p. 145). Turing non accetta però questa obiezione, e risponde: "E' vero che una macchina a stati discreti dev'essere diversa da una macchina continua. Ma se ci atteniamo alle condizioni del gioco dell'imitazione, colui che interroga non sarà in grado di trarre alcun vantaggio dalla differenza" (Turing, 1950, p. 145). In altre parole, egli sembra pensare che, sebbene il cervello non sia una delle sue macchine, i suoi output possono nondimeno essere perfettamente simulati da una macchina di Turing. E' su questo punto che le posizioni di Penrose divergono da quelle di Turing; Penrose conviene con lui sulla convinzione che il cervello non sia una delle sue macchine, ma pensa che questa riconosciuta differenza produca effetti decisamente rilevanti, che consentono al cervello prestazioni superiori nei confronti di quelle possibili a tali macchine. In modo differente da entrambi, infine, Gödel pensava che il cervello fosse una macchina di Turing, ma che non si potesse identificare il cervello umano con la mente umana, la quale, a suo avviso, è superiore a ogni macchina di Turing (incluso il proprio specifico cervello). Si sarà notato che esiste un interessante ventaglio di posizioni sulla questione; ne esaminerò alcune in modo più dettagliato nei prossimi paragrafi.
Risulta chiaro dal tenore dell'articolo del 1950 che Turing non nutriva alcun timore a proposito dell'eventualità che i computer eguaglino o superino le prestazioni intellettuali umane. Al contrario, quell'autore sembra guardare a questa prospettiva in modo favorevole e con soddisfazione. Naturalmente, era ben consapevole del fatto che molte persone percepivano il problema in modo profondamente differente, ma soleva descrivere sarcasticamente le loro posizioni come "l'obiezione della testa nella sabbia" (Turing, 1950, p. 135). Questa obiezione può venir formulata come segue:

"Le conseguenze delle macchine pensanti sarebbero terribili; speriamo che esse non possano esistere." L'argomentazione è espressa raramente in una forma così il esplicita. Ma essa contagia la maggioranza di quanti di noi pensano al problema. Ci piace credere che l'uomo sia, in qualche modo misterioso, superiore al resto del creato. Meglio per lui se può dimostrare di essere necessariamente superiore, perché allora non vi sarà pericolo che possa perdere la sua posizione di comando [...]. Probabilmente esso [l'argomento] è molto forte tra gli intellettuali, dato che costoro valutano il potere del pensiero più degli altri, e sono più inclini a basare la loro credenza nella superiorità dell'uomo su questo potere. (Turing, 1950, p.135)

Turing non prende l'argomento del tutto sul serio, e cerca di svuotarlo con queste parole ironiche: "Non credo che l'argomentazione sia abbastanza solida per meritare di essere confutata: sarebbe più appropriata una consolazione, che potrebbe magari essere ricercata nella trasmigrazione delle anime" (Turing, 1950, p.135).
Coloro che sostengono un punto di vista opposto a quello di Turing non si sono però sbarazzati facilmente come lui dell'obiezione. Al contrario, Lucas, Penrose e Gödel, che hanno tutti studiato specificamente le idee di Turing, ricorrono ai teoremi di incompletezza di Gödel per sostenere che la mente umana è differente per certi aspetti fondamentali da qualsiasi macchina di Turing. Ovviamente, per comprendere le loro argomentazioni è necessario avere una certa padronanza dei teoremi di incompletezza; ne presenterò quindi un breve profilo informale nel prossimo paragrafo, a beneficio di coloro che non abbiano familiarità con l'argomento; chi avesse già dimestichezza con questi teoremi può saltarlo, mentre chi ancora non li conosca e voglia esaminare le dimostrazioni in modo tecnicamente dettagliato può consultare direttamente gli scritti di Gödel (1931), o la più recente trattazione dell'argomento di Bell e Machover (1977, pp.316-360) o quella di Mendelson (1964, pp.128-194).

Note
  1. Esprimo tutta la mia gratitudine ad un esperto del gioco degli scacchi con i computer - Don Beal del Dipartimento di scienza del computer del Queen Mary College, Università di Londra - per avermi messo a disposizione le informazioni che presento nel seguito del paragrafo.
  2. In italiano il titolo suona "Macchine calcolatrici e intelligenza". Per il contesto del contributo di Turing vedi Hodges, 1983, pp.540-551.
Opere citate
  • Penrose, R. (1989) La mente nuova dell'imperatore. Tr.it. Rizzoli, Milano 1992
  • Freeman, K. (1947) Ancilla to the Pre-socratic Philosopher (sesta edizione). Blackwell, Oxford 1971
  • Dreyfus, H.L. (1972) Che cosa non possono fare i computer. I limiti dell'intelligenza artificiale. Tr.it. Armando, Roma 1988
  • Bacone, F. (1620) Novum Organum. Tr.it. Laterza, Bari 1992
  • Turing, A. (1950) Intelligenza meccanica. Tr.it. Bollati Boringhieri, Torino 1994
  • Gödel, K. (1931) Sulle proposizioni formalmente indecidibili dei Principia Mathematica e sistemi affini. Tr.it. in appendice a E. Agazzi, Introduzione ai problemi dell'assiomatica. Vita e Pensiero, Milano 1961
  • Bell, J.L., Machover, M. (1977) A Cours in Mathematical Logic. North-Holland, Amsterdam
  • Mendelson, E. (1964) Introduzione alla logica matematica. Tr.it. Bollati Boringhieri, Torino 1972
  • Hodges, A. (1983) Storia di un enigma. Vita di Alan Turing.Tr.it. Bollati Boringhieri, Torino 1991