Homo homini deus (ex machina)
Perdonate la crasi (meglio definirla insalata?) del titolo, ma come sapete ci piace scherzare. E sul libro di Yuval Noah Harari scherzare è d’obbligo. Non abbiamo avuto modo di conoscere il professore che insegna storia all’ Università Hebrew di Gerusalemme ma siamo convinti che l’ironia e il non prendersi troppo sul serio siano suoi tratti distintivi. Harari è uno storico ma è soprattutto uno scrittore, un saggista a larga diffusione. I suoi libri vendono come best seller ma sono trattati scientifici. In particolare “Homo deus” il suo penultimo lavoro, che qui vorremmo provare a raccontarvi, ha sfondato il limite dei 5 milioni di copie vendute. Per darvi qualche dato in più, dovete pensare che un libro di saggistica nel nostro Paese, per avere un discreto successo basta che arrivi a vendere 1000/1500 copie. Nei suoi saggi questo storico israeliano davvero sui generis, affronta in modo “creativo” ma nello stesso tempo molto appropriato i temi della rivoluzione digitale. In realtà parla di noi, intesi come genere umano a trecentosessanta gradi, ma proprio grazie all’indubbia ironia che pervade ogni riga del suo saggio, riesce a raccontare temi pesantissimi con una grazia e una leggerezza che rendono il saggio una lettura divertente oltre che avvincente come un thriller. In questo libro lo storico israeliano racconta a modo suo la storia del genere umano e guarda a noi tutti dal punto di vista evolutivo approfondendo proprio quei temi che qui a bottega proviamo da anni ad argomentare in modo “speriamo” comprensibile. In “Homo deus” Harari ci racconta il nostro futuro prossimo, così prossimo, così talmente vicino, da sembrare in molti casi già il presente che quotidianamente viviamo. Nelle quasi 700 pagine di narrazione il professore introduce e spiega concetti basilari per la nostra vita presente e futura: “bombe logiche”, “algoritmi etici o bio chimici”, “test di Turing”, “umanesimo”, “robo-ratti”, “datismo”. In questa nostra trattazione abbiamo provato, come sempre accade quando leggiamo un libro che ci interessa, a isolare alcuni dei concetti più importanti, a nostro avviso, fra quelli messi assieme dall’autore nella sua narrazione e di seguito ve li vorremmo riportare attraverso alcuni brevi estratti dal testo. Il libro è davvero ricco di spunti e quindi anche i nostri appunti sul testo saranno articolati in tre diversi post. A Voi il primo e Buona lettura!
PARTE PRIMA: IL NUOVO PROGRAMMA DELL’UMANITÀ
Infrangere la legge della giungla (bombe logiche)
Proprio come le armi nucleari hanno reso possibile innanzitutto il nuovo ordine pacifico, così gli sviluppi tecnologici futuri potrebbero predisporre il palcoscenico per nuove forme di conflitti. In particolare la guerra cibernetica potrebbe destabilizzare il mondo dando la possibilità anche a piccole nazioni e ad attori privi di un’organizzazione statuale di combattere le superpotenze in maniera efficace. Quando gli Usa hanno attaccato l’Iraq nel 2003 , il paese è precipitato nel caos da Baghdad a Mosul, ma neppure una singola bomba è stata sganciata a Los Angeles o Chicago. In futuro, però, un paese come la Corea del Nord o l’Iran potrebbe ricorrere a bombe logiche per rovesciare il governo della California, far esplodere le raffinerie del Texas e provocare collisioni di treni nel Michigan. (Le bombe logiche sono codici software dannosi instillati durante il periodo di pace e in grado di operare a distanza e nel tempo. E’ altamente probabile che le reti da cui dipende il controllo delle infrastrutture dei servizi vitali negli Usa e in molti altri paesi siano già colme di tali codici. )
I terroristi sono come una mosca che tenta di distruggere un negozio di articoli in porcellana. La mosca è così debole che non riesce a spostare neppure una singola tazza da tè. Così trova un toro, si infila all’interno dell’orecchio dell’animale e inizia a ronzare. Il toro, impaurito e arrabbiato, monta su tutte le furie e devasta il negozio di articoli in porcellana. Questo è quanto è accaduto in Medio Oriente nell’ultimo decennio. I fondamentalisti islamici non avrebbero mai potuto rovesciare Saddam Hussein da soli. Perciò, hanno fatto inferocire gli Usa con l’attacco dell’11 settembre e gli Usa hanno distrutto il negozio di articoli di porcellana dal Medio Oriente per loro. Adesso prosperano tra le macerie. Da soli, i terroristi sono troppo deboli per trascinarci di nuovo nel Medioevo e ristabilire la legge della giungla. Essi possono provocarci, ma in definitiva tutto dipende dalle nostre reazioni. Se la legge della giungla dovesse essere ripristinata, non sarà per colpa dei terroristi.
Per favore qualcuno può tirare i freni
Mi ricordo ancora il giorno in cui per la prima volta m’imbattei in internet. Risale al 1993, quando frequentavo le scuole superiori. Con un paio di compagni andai a far visita al nostro amico Ido (che adesso è informatico). Volevamo giocare a ping-pong. Ido era già allora un appassionato di computer e prima di aprire il tavolo da ping-pong insistette per mostrarci l’ultima meraviglia. Connesse il filo del telefono al suo computer e premette alcuni tasti. Per un minuto tutto ciò che potemmo sentire furono degli squitii, alcuni suoni più acuti, un pò di ronzii e poi solo silenzio. Borbottammo e ci lamentammo, ma Ido provò ancora. E ancora. E ancora. Alla fine lanciò un urlo di gioia e diede l’annuncio che era riuscito a connettere il suo computer al computer centrale della vicina università. E che cosa c’è là, sul computer centrale? chiedemmo. Bè, ammise lui, là non c’è ancora nulla. Ma potreste metterci qualsiasi cosa.
In primo luogo, nessuno sa dove siano i freni. Mentre alcuni esperti hanno familiarità con gli sviluppi in un campo, come l’intelligenza artificiale, la nanotecnologia, i Big Data o la genetica, nessuno è esperto di tutto quanto. Nessuno è capace di connettere tutti i punti e di vedere il quadro nel suo insieme.
Una breve storia dei prati
… gli uomini sono giunti ad identificare i prati con il potere politico, lo status sociale e la ricchezza economica. Non c’è da stupirsi che nel XIX secolo la nascente borghesia adottasse con entusiasmo l’uso del prato. All’inizio solo i banchieri, gli avvocati e gli industriali potevano permettersi un lusso del genere nelle loro nelle loro residenze. Tuttavia, dopo che la Rivoluzione industriale ha ampliato i ranghi della classe media e si è diffuso l’utilizzo dei tagliaerba e degli irrigatori automatici, milioni di famiglie hanno finalmente potuto permettersi un tappeto verde a casa. Nelle periferie americane un manto erboso tirato a lucido è passato dall’essere un lusso da ricchi a una necessità da classe media.
… quando vi capiterà di pianificare la casa dei vostri sogni riflettete a lungo sull’opportunità di dotarvi di un prato davanti all’ingresso. Senza dubbio, avete la facoltà di farlo. Ma avete anche la facoltà di scrollarvi di dosso il peso culturale che vi hanno lasciato in eredità i duchi europei, i grandi magnati del capitalismo e i Simpson – e immaginare per voi stessi un giardino zen giapponese o qualche altra nuova creazione. Questa è la ragione migliore per imparare la storia: non per prevedere il futuro, ma per liberarsi del passato e immaginarsi destini alternativi. Certo, questo non comporta una libertà totale – non possiamo evitare di essere in qualche misura condizionati dal passato – ma una libertà parziale è meglio che nessuna.
Una pistola nel primo atto 
… l’ascesa dell’umanesimo contiene anche i germi della sua caduta. Mentre il tentativo di potenziare gli uomini in dei porta l’umanesimo alla sua logica conclusione, allo stesso tempo ne mette in evidenza gli intrinseci difetti. Se si comincia con un ideale difettoso, spesso se ne apprezzano le pecche solo quando è prossimo al suo raggiungimento. Possiamo già vedere all’opera questo processo nelle corsie di geriatria degli ospedali. A causa di un’ideologia umanista inflessibile sulla sacralità della vita umana, talvolta teniamo in vita le persone fino a che raggiungono una stato così pietoso che ci costringe a domandarci: cosa c’è esattamente qui di così sacro?
Bisogni ancestrali
È certamente vero che tutti gli istinti, gli impulsi e le emozioni si sono evoluti per far fronte alle pressioni evoluzionistiche della sopravvivenza e della riproduzione. D’altra parte, se e quando queste pressioni all’improvviso vengono meno, gli istinti, gli impulsi e le emozioni che hanno determinato non scompaiono con loro.
Perché gli esseri umani moderni amano gli alimenti dolci? Di certo non perché all’inizio del XXI secolo dobbiamo abbuffarci di gelato alla crema e cioccolato per sopravvivere. Piuttosto, è perché quando i nostri antenati dell’Età della pietra trovavano dei frutti dolci o del miele, la cosa più ragionevole da fare era mangiarne la maggior quantità possibile nel minor tempo possibile. Perché i giovani uomini guidano in maniera spericolata, rimangono coinvolti in violente discussioni e accedono illegalmente ai siti Internet protetti? Perché stanno seguendo le loro antiche istruzioni genetiche che oggi potrebbero rivelarsi inutili se non addirittura controproducenti, ma che hanno avuto un senso evoluzionistico negli ultimi 70.000 anni. Un giovane cacciatore che rischia la vita andando a caccia di un mammut metteva in ombra tutti i suoi avversari e vinceva la mano della bellezza locale; e noi siamo ancora impantanati con i suoi geni da macho. Esattamente la stessa logica evoluzionistica influenza le vite dei maiali, delle scrofe e dei maialini nelle fattorie. Per sopravvivere e riprodursi in natura, gli antichi cinghiali avevano bisogno di percorrere vasti territori, prendere familiarità con l’ambiente, fare attenzione alle trappole e ai predatori. Inoltre, avevano la necessità di comunicare e cooperare con i loro simili, formando gruppi complessi dominati da vecchie matriarche dotate di esperienza. Di conseguenza le pressioni esercitate dall’evoluzione avevano reso i cinghialpe: application/x-www-form-urlen più le scrofe selvatiche – animali sociali molto intelligenti, caratterizzati da una vitale curiosità e da una forte spinta alla socializzazione, al gioco, al vagare in giro e all’esplorazione dell’ambiente circostante. Una scrofa nata con una qualche rara mutazione che l’avesse resa indifferente al suo ambiente e agli altri cinghiali non avrebbe avuto molte probabilità di sopravvivere o di riprodursi.
Le scrofe chiuse nelle gabbie di gestazione, tipicamente, danno segni di frustrazione acuta, uniti a una disperazione estrema. Questa è una lezione basilare di psicologia evoluzionistica: un bisogno plasmato migliaia di generazioni continua a essere soggettivamente percepito a lungo, anche se non è più necessario per la sopravvivenza e la riproduzione. In modo tragico, la Rivoluzione agricola ha consegnato agli umani il potere di assicurare la sopravvivenza e la riproduzione degli animali addomesticati e al contempo di ignorare i loro bisogni soggettivi.
Gli organismi sono algoritmi
… le emozioni sono algoritmi biochimici vitali per la sopravvivenza e la riproduzione di tutti i mammiferi. Che cosa significa ciò? Bene, cominciamo spiegando che cos’è un algoritmo. Questo è di grande importanza non solo perché è un concetto chiave che tornerà a fare la sua comparsa in molti dei capitoli successivi, ma anche perché il XXI secolo sarà dominato dagli algoritmi. “Algoritmo” è verosimilmente il singolo concetto più rilevante del nostro mondo. Se vogliamo comprendere la nostra vita e il nostro futuro, dovremmo fare ogni sforzo per capire che cos’è un algoritmo, e come gli algoritmi sono connessi con le emozioni.
L’equazione della vita
Possiamo porre lo stesso enigma in termini matematici. L’attuale dogma ritiene che gli organismi siano algoritmi e che gli algoritmi siano rappresentati da formule matematiche. Si possono usare numeri e simboli matematici per scrivere la serie di istruzioni necessarie a un distributore automatico per preparare il tè e la serie di istruzioni necessarie a un cervello per agire quando entra in allarme avvistando un leone. Se è così, e se le esperienze coscienti rivestono una qualche importante funzione, esse devono poter essere rappresentate in modo matematico. Poiché sono una parte essenziale dell’algoritmo. Quando scriviamo l’algoritmo della paura, e scomponiamo la “paura” in una serie di calcoli precisi, dovremmo essere in grado di indicare: “Ecco, il passaggio numero novantatré nel processo di calcolo questo è l’esperienza soggettiva della paura!” Ma esiste un qualsiasi algoritmo nell’immenso reame della matematica che contiene un’esperienza soggettiva? Finora non abbiamo notizie di un algoritmo del genere. Nonostante le vaste conoscenze raggiunte nei campi della matematica e dell’informatica, nessuno dei sistemi di elaborazione dati che abbiamo creato necessita di esperienze soggettive per funzionare e nessuno percepisce dolore, piacere, rabbia o amore. Forse le esperienze soggettive ci occorrono per riflettere su noi stessi? Un animale che vaga nella savana e calcola le sue possibilità di sopravvivenza e di riproduzione deve rappresentare a se stesso le proprie azioni e decisioni, e talvolta comunicarle anche agli altri animali. Quando il cervello tenta di creare un modello delle proprie decisioni, rimane intrappolato in una digressione infinita, e abracadabra! Da questa spirale salta fuori la coscienza. Cinquant’anni fa questa soluzione sarebbe potuta sembrare plausibile, ma non oggi. Numerose imprese, come Google e Tesla, stanno producendo automobili a guida autonoma che già percorrono le nostre strade. Gli algoritmi che controllano questo tipo di veicoli fanno milioni di calcoli ogni secondo sulle altre automobili, pedoni, semafori e buche. L’auto a guida autonoma si ferma in maniera opportuna davanti al semaforo rosso, aggira gli ostacoli e mantiene una distanza di sicurezza dagli altri mezzi – senza provare alcuna paura. L’auto necessita anche di tenere in considerazione se stessa e di comunicare le sue intenzioni ai veicoli circostanti, poiché, se decide di sterzare a destra, con questa azione influenzerà il loro comportamento. Essa fa tutto questo senza alcun problema – ma pure senza alcuna coscienza. L’auto a guida autonoma non è speciale. Molti altri software tengono in considerazione le proprie azioni, tuttavia nessuno di questi ha sviluppato la coscienza, e nessuno prova sensazioni o desidera alcunché.
Secondo l’attuale dogma scientifico, tutto ciò di cui faccio esperienza è il risultato dell’attività elettrica che avviene nel mio cervello, e dovrebbe inoltre essere teoricamente possibile simulare un intero mondo virtuale che non potrei verosimilmente distinguere dal mondo “reale”. Alcuni neurologi credono che in un futuro non troppo lontano saremo in grado in effetti di fare cose del genere. Be’, forse è già successo – e proprio voi siete già coinvolti? Per quel che ne sapete, potrebbe essere il 2217 e voi un annoiato adolescente immerso in un gioco di “mondi virtuali” che simula il primitivo ed eccitante mondo del XXI secolo. Quando ammetterete la mera fattibilità di uno scenario simile, la matematica vi condurrà a una conclusione davvero spaventosa: poiché c’è solo un mondo reale, mentre il numero dei mondi potenziali virtuali è infinito, la probabilità che abitiate l’unico mondo reale è quasi pari a zero. Nessuna delle nostre rivoluzioni scientifiche è riuscita a superare il noto “problema delle altre menti”. Il miglior test che gli studiosi si sono finora inventati è il test di Turing, che prende in esame soltanto le convenzioni sociali. Per determinare se un computer ha una mente, in base al test di Turing, dovreste comunicare simultaneamente con quel computer e con una persona reale, senza sapere chi è chi. Potete porre loro qualunque domanda vogliate, potete fare dei giochi, discutere e perfino flirtare. Prendetevi tutto il tempo che vi aggrada. Poi dovete stabilire qual è il computer e qual è l’umano. Se non siete in grado di decidervi, o se commettete un errore, il computer ha passato il test di Turing, e noi dovremmo trattarlo come se possedesse davvero una mente. A ben guardare, questa non costituirebbe una prova sicura. Il riconoscimento dell’esistenza di altre menti è una mera convenzione sociale e legale. Il test di Turing fu inventato nel 1950 dal matematico britannico Alan Turing, uno dei padri dell’era informatica. Turing era anche un uomo gay in un periodo in cui l’omosessualità era illegale in Gran Bretagna. Nel 1952 fu condannato per atti omosessuali e costretto a sottoporsi alla castrazione chimica. Due anni dopo si suicidò. Il test di Turing non è altro che la replica di un’ordinaria forma di (auto)controllo sociale a cui ogni uomo gay doveva sottoporsi nella Gran Bretagna degli anni cinquanta: puoi passare per un uomo etero? In virtù della propria esperienza personale, Turing sapeva che non contava chi davvero si era – l’unica cosa che contava era ciò che gli altri pensavano di te. A parere di Turing, i computer del futuro sarebbero stati proprio come gli uomini gay degli anni cinquanta. Non ha importanza se i computer saranno effettivamente coscienti oppure no. A contare sarà soltanto l’opinione della gente al riguardo.
La vita deprimente dei topi di laboratorio
In sintonia con i mutevoli venti della comunità scientifica, nel maggio 2015 la Nuova Zelanda è stato il primo paese al mondo a riconoscere agli animali lo status di esseri senzienti da un punto di vista legale, quando il parlamento della Nuova Zelanda ha approvato l’Animal Welfare Amendment Act. Questa legge stabilisce che ora è obbligatorio riconoscere gli animali come creature senzienti, e pertanto provvedere in maniera adeguata al loro benessere nei vari contesti, compresi gli allevamenti animali. In un paese con più pecore che uomini (trenta milioni contro quattro milioni e mezzo) si tratta di un provvedimento molto significativo. Lo stato canadese del Québec ha approvato una legge simile, ed è probabile che altri paesi seguano il loro esempio.
Il cavallo intelligente
Ai nostri giorni gli uomini dominano incontrastati il pianeta non perché il singolo umano è assai più sveglio e più svelto con le dita del singolo scimpanzé o lupo, ma perché Homo sapiens è l’unica specie al mondo capace di cooperare in modo flessibile su larga scala. Anche l’intelligenza e la fabbricazione di strumenti sono state fondamentali, ovviamente. Ma se gli umani non avessero imparato a cooperare con flessibilità e in grandi numeri, i nostri potenti cervelli e le nostre abili mani sarebbero ancora alle prese con pietre di selce piuttosto che con atomi di uranio. Se la cooperazione è il fattore chiave, perché le formiche e le api non ci hanno preceduto con la bomba nucleare, visto che hanno imparato a cooperare in massa milioni di anni prima di noi? Perché la loro cooperazione manca di flessibilità. Le api cooperano con modalità davvero sofisticate, ma non sono capaci di reinventare il loro sistema sociale da un giorno all’altro. Se un alveare si trova ad affrontare una nuova minaccia o una nuova opportunità, le api non possono per esempio ghigliottinare la regina e stabilire una repubblica. I mammiferi sociali come gli elefanti e gli scimpanzé cooperano in maniera assai più flessibile delle api, ma essi sono in grado di farlo soltanto all’interno di piccoli gruppi composti da amici e membri della famiglia. La loro cooperazione è basata sulla conoscenza personale. Se io sono uno scimpanzé e tu sei uno scimpanzé e io voglio cooperare con te, devo conoscerti personalmente: che genere di scimpanzé sei tu? Sei un bravo scimpanzé? Sei uno scimpanzé cattivo? Come posso cooperare con te se non ti conosco? Per quanto ne sappiamo, soltanto i Sapiens sono in grado di cooperare con modalità molto flessibili coinvolgendo enormi quantità di individui che non si conoscono tra loro. Questa capacità concreta – piuttosto che un’anima eterna o un qualche particolare tipo di coscienza – spiega il nostro dominio sul pianeta Terra.
La rete di significato
Così procede la storia. La gente tesse una rete di significato, crede in essa con sincerità e passione, ma presto o tardi la rete si disfa e quando la guardiamo retrospettivamente facciamo fatica a capire come qualcuno abbia potuto prenderla sul serio. Con il senno di poi partire per una crociata nella speranza di raggiungere il paradiso sembra un gesto completamente folle. Con il senno di poi, la guerra fredda sembra una follia persino più grave. Com’è possibile che trent’anni fa la gente fosse disposta a rischiare il disastro nucleare perché credeva nel paradiso comunista? Pertanto, tra un centinaio di anni, le nostre credenze nella democrazia e nei diritti umani potrebbero sembrare ugualmente incomprensibili ai nostri discendenti. I Sapiens dominano il mondo perché soltanto loro sono in grado di tessere una rete intersoggettiva di significato: una rete di leggi, forze, entità e luoghi che esistono puramente nella loro immaginazione condivisa. Questa rete consente ai soli uomini di organizzare crociate, rivoluzioni socialiste e movimenti per la difesa dei diritti umani.
FINE PRIMA PARTE / TO BE CONTINUED