Dal numero 6 (aprile 2021) de Lo stato delle città
Ci sono molte buone ragioni per temere il prossimo futuro, l’arco di tempo in cui il ritmo del cambiamento tecnologico sarà così vorticoso da trasformare la vita umana in modo irreversibile. L’avvento della Singularity, il momento in cui l’essere umano e l’Intelligenza Artificiale, ovvero le macchine super-intelligenti, si fonderanno creando una nuova forma di intelligenza non biologica, capace di imparare a una velocità un milione di volte superiore all’intelligenza umana, è dato dai tecnocrati come certo entro la prima metà di questo secolo. Gli scenari sono vari ed estremi: dall’incubo di una “entità” che potrebbe assumere il controllo della rete energetica, delle armi, dei trasporti fino ad arrivare a sbarazzarsi degli umani se non funzionali ai suoi scopi, a quello utopistico di una collaborazione tra esseri umani, cyborg, super-intelligenze e “caricamenti,” cioè coscienze umane disincarnate e caricate su altri tipi di supporto, organico o artificiale, per risolvere le immani sfide contemporanee: l’inquinamento, il riscaldamento del pianeta e perfino la fame e l’invecchiamento. I cyborg del Novacene, il termine coniato dallo scienziato James Lovelock per l’era che segue l’Antropocene ormai al termine, saranno in grado di auto-programmarsi e potranno convivere con gli esseri umani e addirittura prendersene cura.
“È un errore chiederci passivamente: ‘Che cosa succederà?’, come se fosse qualcosa di predestinato! […] – scrive il fisico Max Tegmark nel saggio Vita 0.3. Esseri umani nell’era dell’intelligenza artificiale (Cortina editore, 2018) –. Se si affermasse una civiltà tecnologicamente superiore alimentata dall’IA perché noi l’abbiamo costruita, noi esseri umani avremmo una grande influenza sul suo esito”. Per questo dovremmo tutti partecipare alla “conversazione più importante del nostro tempo” e chiederci: “Che cosa deve succedere? Quale futuro vogliamo?”.
È fatale però che chi ha passato gran parte della sua vita nel Novecento, provi sgomento verso una mutazione così radicale e non riesca a vedere altro che la fine del mondo come lo ha conosciuto, propendendo per gli scenari più catastrofici. Hai voglia a dire che l’uomo può influire e la cultura scientifico-tecnologica debba procedere di pari passo con la cultura etico-morale quando l’IA trasforma i problemi filosofici in questioni pratico-politiche e tutti i dibattiti si spostano dalle facoltà di filosofia ai centri di ricerca di ingegneria e scienza informatica. Va bene, ci fideremo delle automobili che guidano da sole – a me che non ho mai preso la patente farebbero molto comodo –, le macchine saranno così affidabili che sarà più opportuno lasciare a loro moltissimi compiti che l’uomo svolge con un margine d’errore troppo grande. Ma gli algoritmi non spiegano le ragioni delle loro decisioni e un conto è una macchina che ti porta a destinazione o che gioca a scacchi con te, un altro è che prenda decisioni che implicano un’idea morale, dove e quando lanciare un’arma per esempio!
L’aggettivo che si spreca quando si parla dei grandi esponenti dell’High Technology, da Steve Jobs a Mark Zuckerberg, da Jack Dorsey ideatore di Twitter a Peter Thiel di Pay Pal a Elon Musk di Tesla e Space X, è l’aggettivo visionario. Un tempo visionari erano i poeti, gli scrittori, gli artisti, coloro che riuscivano a cogliere quello che gli uomini comuni non percepivano; oggi l’aggettivo viene attribuito agli ingegneri e agli imprenditori della tecnologia, ma i contorni della loro visione ultima non si colgono e soprattutto è impossibile disgiungerla dal sistema economico che domina il mondo. Dall’esterno si ha l’impressione di un immane dispiego di intelligenze, denaro, devozione con un solo obiettivo: il profitto e il mercato in prima battuta, il dominio di pochissimi su moltissimi come traguardo più ambizioso.
SOTTO PELLE
Che tipo di società si sta preparando? Come vivrà l’uomo potenziato? Come passerà il suo molto tempo libero dal lavoro? Un sussidio universale sostituirà il lavoro scomparso? A quali ideali aspirerà, al di là del proprio potenziamento e del dominio sulla natura, sul mondo e sul cosmo? Dieci anni fa, nel centro di ricerca della Nasa in California, Peter Diamandis e Ray Kurzwell, due eminenti futurologi americani, finanziati dai fondatori di Google, hanno aperto la Singularity University, non una vera università ma un istituto dove manager e “leader” frequentano corsi sulle cosiddette tecnologie esponenziali, dalle biotecnologie all’Intelligenza Artificiale (AI), per imparare ad applicarne la forza dirompente che potenzia l’essere umano.
Ho scoperto qualche tempo fa che la Singularity University ha aperto una branca, chapter si dice, anche a Milano e alla sua guida c’è David Orban, di origine ungherese come si evince dal cognome, ma da decenni in Italia. Il fatto che fossimo nella stessa città era del tutto irrilevante, ma al dinosauro che sono ha dato la spinta per chiedergli un’intervista, era la prima persona “vicina” a cui fare alcune delle urgenti e infinite domande sul mondo che viene.
Orban, docente della Singularity, fondatore di imprese che usano le più moderne tecnologie, il blockchain per esempio, ha accettato subito, invitandomi a darci del tu, vezzo di friendliness del mondo digitale. Mosso da fede assoluta nella tecnologia, è tra i primissimi al mondo a essersi fatto innestare un microchip sotto pelle sulla mano destra, con cui per ora non fa molto, paga in bitcoin, prende un’auto in car sharing, ma in futuro potrà aprire porte, dialogare con persone dotate di microchip, farsi curare.
Il mondo è cambiato incessantemente, ma l’umanità non ha mai reciso le sue fonti, si è portata con sé per millenni la Bibbia, l’Iliade, l’Odissea, mentre il mondo ipertecnologico dà la netta impressione di ricominciare da zero, o meglio, da sé stesso. È così? È la prima di una serie di domande che il mio interlocutore definisce “tendenziose”; d’altra parte, la sua missione è proprio quella di diffondere l’assunto che la tecnologia sia una forza positiva e convincerne gli scettici.
Sì, c’è una discontinuità, ammette, ma pensa derivi dalla rapidità dei cambiamenti e dalla difficoltà di adattarvisi; è una sensazione reale, certamente va presa in considerazione e capita da parte della società. «Oggi – dice Orban – non solo osserviamo un’accelerazione dei cambiamenti, ma nel campo dell’Intelligenza Artificiale il tasso di accelerazione sta aumentando, in matematica si chiama jolting, da jolt, scossa, che è la misura della crescita dell’accelerazione, vuol dire che l’intervallo di raddoppio dell’accelerazione si accorcia sempre di più, prima era di anni, ora di mesi, presto sarà di ore e di minuti, questo spinge molti di noi oltre i limiti della nostra adattabilità e ci getta nello scompiglio. Le persone hanno una loro dignità e un loro desiderio di affermazione e interpretazione del mondo, abbandonate a sé stesse, senza gli strumenti necessari per comprendere quello che sta accadendo, si rifugiano nelle superstizioni, nelle teorie del complotto e hanno perfettamente ragione. Proprio perché siamo fatti per interpretare il mondo, se gli strumenti non ci sono ce li inventiamo. In realtà, c’è continuità tra passato e presente. Gli alchimisti del Medioevo sognavano di trasformare il piombo o il mercurio in oro, avevano enormi ambizioni, e noi oggi siamo in grado di fare quello che loro sognavano: la materia, gli elementi naturali si trasformano veramente l’uno nell’altro. Se un alchimista vedesse quello che siamo in grado di fare cinquecento anni dopo lo considererebbe un trionfo delle sue idee. Ma oggi tutto avviene su basi scientifiche verificabili in base a esperimenti che supportano teorie e soprattutto a una comunicazione globale aperta, mentre gli alchimisti facevano esperimenti pericolosissimi con veleni come il mercurio per esempio e morivano in solitudine dei loro stessi errori perché si proteggevano col mistero dell’esoterismo e non comunicavano tra loro. Allo stesso modo, se gli astrologi egiziani vedessero la capacità di tracciare le traiettorie di navigazione delle sonde interplanetarie che lanciamo oggi si esalterebbero, è un trionfo della conoscenza, perché il sistema tolemaico era una fantastica invenzione matematica che però non poteva evolversi e dare frutti. Il mondo delle sfide e delle meraviglie che abbiamo di fronte non si esaurisce, è una sensazione che emerge a fine Ottocento, si pensava che il mondo della fisica giungesse al termine e invece si stavano compiendo i primi esperimenti con isotopi radioattivi, scoprendo i primi oggetti intergalattici, si aprivano le porte alla conoscenza del ventesimo e del ventunesimo secolo che hanno fatto esplodere le direzioni e la vastità delle cose da capire nel mondo della fisica».
Stiamo parlando di scienza, cosa ne sarà della cultura umanistica, il nuovo mondo può farne a meno? Domando. «Il libro è un’invenzione straordinaria – risponde (Orban ne ha molti alle spalle, nel suo studio inquadrato da Zoom) –, e il sapere non si può perdere. Il filosofo Daniel Dennet nel suo saggio Strumenti per pensare scrive che lungo i millenni abbiamo accumulato strumenti del pensiero che ci rendono filosofi migliori di Platone o Aristotele. La prossima sfida è se riusciremo ad avviare un’intelligenza artificiale generale, o collettiva, che saprà insegnare come imparare a imparare».
Insisto: la mia domanda pressante è sempre la stessa con diversi, esili, camuffamenti: butterete via tutto? Ho notato che nel descrivere l’avvento di una civiltà uomo-macchina non si accenna mai all’arte, alla musica, alla letteratura che hanno fatto grandi le civiltà della storia. Conteranno solo scienza e tecnologia? In sé la potenza è cieca, quali saranno gli antidoti?
«Negli Anni Trenta – dice Orban – un matematico austriaco di nome Kurt Gödel, contemporaneo di Einstein, anche lui lavorava all’Istituto di studi avanzati di Princeton, dimostrò che la matematica, alla base di tutte le teorie, i modelli e i sistemi, non ha mai termine, potrà sempre generare nuove domande, nuovi teoremi, nuove ipotesi ed è molto probabile che il mondo stesso sia così, cioè che spinti da curiosità e passione continueremo all’infinito a porci domande e ad avere sempre qualcosa di cui meravigliarci. Ci sarà chi tra noi è portato all’impresa scientifica e chi, di fronte a questa sensazione di meraviglia, scriverà una poesia. La letteratura, l’arte, la poesia che corrispondono a questa accelerazione straordinaria non le abbiamo ancora viste, se non nei primissimi esordi. Molti disdegnano Twitter, TikTok o Second Life, ma il disdegno nasconde ignoranza e mancanza di curiosità, chi si avvicina senza pregiudizi a queste piattaforme d’arte contemporanea si rende conto che hanno la stessa dignità delle forme d’arte nate nel Rinascimento o in altre epoche. Da pochi mesi esiste un grande fermento nel collezionismo dell’arte digitale, che sta ponendo le basi economiche per un nuovo mecenatismo e per collezioni museali. C’è una grande ricchezza di creatività, oggi il web è un mezzo espressivo potentissimo».
MILLE ANNI
Uno degli obiettivi principali dell’AI è l’allungamento della vita, il campo d’investimenti che i più noti esponenti dell’industria High Tech prediligono, un volume d’affari in vertiginosa crescita che ha da tempo una filosofia corrispondente, il trans-umanesimo, fondato sull’auspicio che l’uomo si liberi dai vincoli biologici. Il ventunesimo secolo non sarà solo il secolo dell’infotech ma della sua fusione con le biotecnologie che saranno in grado molto presto di “hackerare” il corpo umano. L’allampanato bio-gerontologo inglese Aubrey de Grey, uno dei più pittoreschi studiosi del campo, dalla barba lunga fino alle ginocchia, è certo che tra i nati negli anni Duemila c’è già chi potrà vivere fino a mille anni. Se dovesse realizzarsi il sogno di “amortalità”, è la mia domanda, le ipotesi sono due: o sarà riservato a una élite di super-uomini e donne che potranno permetterselo o si estenderà a una fetta più grande di popolazione e allora come si concilierà con la sovrappopolazione del pianeta?
«Le innovazioni all’inizio investono una frazione minima delle persone – risponde Orban –. Avrai anche tu in mente l’immagine dello yuppie degli anni Novanta con il telefono senza fili che pesa cinque chili appoggiato alla testa. Era uno status symbol per pochi, costava tremila euro, oggi non c’è letteralmente nessuno che non abbia un cellulare, perfino i senzatetto e i rifugiati lo privilegiano rispetto ad altri beni di prima necessità perché si rendono conto dell’enorme valore che rappresenta. Quindi prevedo che eventuali trattamenti che riguardano l’allungamento dell’aspettativa di vita avranno la stessa traiettoria: prima sperimentati da pochi, molto costosi, con una scarsa efficacia o addirittura pericolosi. Quando poi i ricchi avranno corso tutti i rischi della sperimentazione, la possibilità di vivere di più si diffonderà progressivamente».
Ecco allora la necessità di andare su Marte? «Le colonie marziane daranno alla Terra una lezione inestimabile: come essere sostenibili al cento per cento; chi le abiterà – il punto interrogativo è talmente grande che mi trattengo dal porre la domanda – non avrà scelta. Quanto al problema della sovrappopolazione, la Terra è in grado di nutrire non solo otto miliardi di persone, ma dieci o venti miliardi, se diminuiremo drasticamente l’impatto che ognuna di queste persone ha sull’ecosistema naturale. Si è sviluppata nel corso di miliardi di anni una complessità ecologica ricchissima, preziosissima, che noi abbiamo messo a repentaglio. Dobbiamo stare molto attenti perché i sistemi di supporto primario di cui godiamo non sono scontati: acqua, aria, terreno fertile. Abbiamo due possibilità: o impariamo questa lezione o ci estingueremo. Se la impariamo allora si aprono possibilità enormi perché la natura è pigra, se trova una soluzione si accontenta; pensa a specie come gli squali o i coccodrilli, che da decine di milioni di anni sono le stesse perché non hanno bisogno di cambiare. Noi invece siamo in grado di continuare a cercare soluzioni anche se ne abbiamo già una. Un esempio: pensa allo spreco della luce solare; se facciamo arrivare la luce attraverso fibre ottiche o utilizziamo lampade a led per illuminare sottoterra, possiamo ampliare indefinitamente il volume coltivabile. Magari in futuro arriverà sulla Terra un visitatore alieno e prima di scendere, osservandola da fuori, si dirà: guarda che bel pianeta primordiale, non c’è segno di civiltà tecnologica; perché noi avremo imparato a fare non solo quello che facciamo oggi ma cento volte di più, senza distruggere l’ecosistema naturale. Riforme in questa direzione stanno già avvenendo, le energie rinnovabili sono vincenti rispetto alle fonti di idrocarburi e petrolio, gas naturale, energia fossile in una percentuale crescente di aree del mondo».
David Orban vede in procinto di cambiare anche la finanza, abituata a traguardi di corto respiro per non deludere gli investitori. Sarà presto centrale, mi dice, l’invenzione del blockchain, computer che collaborano in rete e risolvono problemi crittografici difficili, ma facilmente verificabili, e la creazione di un database pubblico decentralizzato che potrà essere consultato in modo affidabile da chiunque abbia uno smartphone, un sistema di disintermediazione che rivoluzionerà il sistema delle banche. Sono in aumento, secondo la sua visione ottimista, anche nuove organizzazioni sociali, società strutturate in modo da coniugare gli interessi economici con quelli più ampi della società e della natura. Le loro scelte potranno avere effetti negativi a breve termine sui profitti, ma garantiranno la sopravvivenza a medio-lungo termine delle aziende e della civiltà umana.
Siamo insomma, secondo Orban, in un periodo di transizione, ai primi accenni di una nuova civiltà. Per quanto prodigiosa, l’Intelligenza Artificiale manca ancora di ogni forma di ragionamento, di memoria e di flessibilità, non sa svolgere più di un compito alla volta e anche quando batte a scacchi o al gioco cinese Go i campioni del mondo, non sa cosa e perché lo stia facendo, sta solo applicando calcoli statistici entro le regole del gioco, ma è certo che tutto quello che l’essere umano arriva a poter fare, prima o poi lo farà e oggi le basi per una rivoluzione tecnologica radicale ci sono tutte.
Dunque, secondo Orban, la natura si curerà solo rendendola ancora più artificiale, e non certo imponendo un limite ai consumi della civiltà industriale; chi potrà si farà riparare i propri organi indefinitamente; un grandissimo numero di compiti oggi affidati all’uomo li svolgeranno, con maggiore affidabilità, le macchine. Ogni sua risposta non fa che moltiplicare le domande: come possiamo noi cittadini comuni partecipare in modo attivo ed efficace alla “conversazione più importante del nostro tempo”? Con quali strumenti possiamo scongiurare la manipolazione, il controllo, le minacce di una dittatura tecnologica da parte di un’Intelligenza Artificiale calata dall’alto delle grandi corporazioni che ne finanziano la ricerca? C’è la possibilità di creare un ecosistema digitale che sfugga al dominio dei soliti potentissimi gruppi e a scelte guidate solo dal marketing, di avere cioè sovranità sui dati che sono oggi come l’aria, l’acqua, l’energia?
Di questo futuro nessun tecnolatra è in grado di squarciare il velame, per dirla con Dante. Ci vorrebbe la politica, e una politica planetaria e nuova, tutta da inventare, dal momento che quella rappresentativa è stata tra i primi pilastri del vecchio mondo a saltare, insieme all’informazione. Sta arrivando anche questa, non agitatevi, ci penseranno i bot, le personalità artificiali alimentate da Intelligenza Artificiale, già attive e petulanti ovunque nella Rete. E nella rete, come i pesci giovani dell’apologo di David Foster Wallace, ci siamo noi, vai a spiegarci cos’è l’acqua! (maria pace ottieri)
1 Comment