La nostra invenzione finale di James Barrat. Il pericolo dell’Intelligenza Artificiale

Da quasi un secolo sia i libri di fantascienza che il linguaggio cinematografico hanno unito differenti narrazioni per consegnarci un immaginario distopico, differente, postumano e transumano, in altre parole artificiale. La creazione di macchine che emulano gli essere umani sia per capacità di linguaggio che per intelligenza ci ha spinto ad una con-fusione permanente. La pervasività della tecnologia, la quale non è mai neutra, sposta la nostra attenzione in direzione di una profonda ricerca e relazione con quella che chiamiamo intelligenza artificiale declinata sia in versione positiva che negativa.

LA RECENSIONE DI “ESSERE MACCHINA” – UN UMANO IN TRANSIZIONE

Pensiamo ad esempio ad HAL 9000 di Odissea nello spazio di Stanley Kubrick (1968), oppure al cattivo Terminator serie T-1000 di James Cameron (1991), nonché al robot di servizio Andrew (modello NDR-114) nella pellicola L’uomo bicentenario di Chris Columbus (1999), o ancora ai robot positroni in I Robot di Alex Proyas (2002), nonché agli ultimi lungometraggi di Alex Garland con lo spettacolare e rivoluzionario Ex-Machina (2014) e la seducente voce di Samantha (il sistema operativo) interpretata da Scarlett Johansson nel film Her (2014) di Spine Jonze. Tutte queste entità “artificiali” rappresentate in questo caso dal mondo del cinema hanno sempre una loro forma di personalizzazione, un carattere, un’autonomia di pensiero, che seppur in qualche modo differente da quella umana, spesso reca in noi una sorta di incertezza. A chiarirci in qualche modo le idee e consolidare l’argomento è il volume La nostra invenzione finale. L’intelligenza artificiale e la fine dell’età dell’uomo (Nutrimenti) di James Barrat, scrittore, regista e produttore di documentari per National Geographic Channel, Discovery Channel, la Pbs e la Bbc. Il libro è tradotto da Daniela e Monica Pezzella ed edito dall’interessante casa editrice romana Nutrimenti.

Il concetto di macchina pensante nasce in ambito filosofico-letterario, mentre il termine “Artificial Intelligence” nasce nel 1956, anche se ha radici ben più lontane, durante un convegno al Dartmouth College, dove presero parte alcune delle figure importanti nella computazione dedicata allo sviluppo di sistemi intelligenti come John McCarthy, Marvin Minsky, Claude Shannon e Nathaniel Rochester. Fu proprio McCarthy con la proposta di creare in due mesi una macchina in grado di simulare ogni aspetto dell’apprendimento e dell’intelligenza umana a dare il via in qualche modo ad una branca delle scienze informatica che oggi si mescola con altrettante discipline (anche umanistiche) per comprendere il processo evolutivo dell’intelligenza artificiale. Ciò che James Barrat prova a far emergere in questo volume scritto nel 2013 e appena tradotto, è il fatto che presto, all’incirca verso il 2030, secondo lo scrittore americano, forse dovremo condividere il pianeta con delle macchine super-intelligenti, e sopravvivere a ciò, sarà una sfida o persino la fine dell’età dell’uomo, come si legge nel sottotitolo del libro. In La nostra invenzione finale la ricerca dettagliata di Barrat raccoglie ed estrae diverse interviste con esperti del settore tecno-scientifico, ingegneristico e non solo. Come vediamo nel viaggio dello scrittore, al di là del titolo, che sembra lanciare in qualche modo una visione alquanto tecnofoba e pessimista, Barrat però è un grande sostenitore dell’intelligenza artificiale, ma a suo modo, tenta di metterci in guardia ai pericoli, rischi di fronte a questa rincorsa, spesso cieca, verso l’esplosione di un intelligenza superiore, una super-intelligenza la chiamerebbe Nick Bostrom, il filosofo svedese che evoca una sorta di rischio esistenziale. Come ben sappiamo, siamo davanti a numerosi progressi, pensiamo al Deep Mind, Alpha Go, Watson ecc…Ecco che la domanda che esce fuori dal volume è la seguente: lo sviluppo dell’IA avrà qualche pericolo in futuro? Barrat raccoglie diversi punti di vista che transitano in un equilibrio precario tra tecnofilia e tecnofobia, tra ottimismo e pessimismo, tra intelligenze umane e quelle artificiali. Ma allora a questo punto questa Intelligenza artificiale come si comporterà una volta che arriverà al suo ultimo stadio di maturazione? Secondo lo scrittore americano questa esplosione di intelligenza artificiale coinciderà con la coscienza di sé che a sua volta implicherà una consapevolezza di supremazia, innescando un cortocircuito, dove l’umanità si arrenderà alla sua stessa creatura iperattiva, sovvertendo anche le tre leggi di Asimov. L’evoluzione di questo processo “dis.-umano” racchiude diverse intelligenze a partire dall’ANI (artificial narrow intelligence) le quali sono intelligenze artificiali limitate, ossia in grado di fare una cosa sola, mentre con AGI (artificial general intelligence) si descrivono le intelligenze artificiali generali che sono in grado di fare ogni cosa a livello umano ed infine troviamo l’ASI (artificial super intelligence) le super-intelligenze artificiali che sono capaci di svolgere molteplici compiti a un livello superiore a quello umano. Proprio sul passaggio tra le le ultime due categorie, si sofferma con attenzione e preoccupazione James Barrat.

James Barrat

Ma possiamo assicurare il lettore che nonostante le continue scoperte e ricerche siamo fermi ad una intelligenza artificiale comune (o debole) che svolgono una sola mansione. Molti esperti del settore ci raccontano che in qualche modo stiamo partecipando ad un “punto di svolta”,  in cui il livello di intelligenza artificiale supererà quella umana. La relazione sempre più intima tra uomo-macchina, potrebbe sfuggire dai protocolli e alla comune ragionevolezza. Barrat configura AGI come una specie di architettura neurale (black-box) spingendola a migliorarsi continuamente e rispondendo a quattro pulsioni primarie simili a quelle umane come l’efficienza, l’auto-conservazione, l’acquisizione di risorse e creatività. Questa ricorsività conduce l’intelligenza artificiale ad un costante apprendimento. Assistiamo ad una massiccia produzione di intelligenze sintetiche applicate  nell’economia (algoritmi di compravendita di Wallstreet), all’industria, alla comunicazione, pensiamo anche a tutti gli assistenti virtuali, i droni, i robot soldati e alle auto a guida autonoma. Il passo dall’AGI all’ASI poi sarà breve. All’ottimismo transumanista del noto divulgatore della Singolarità tecnologica Ray Kurzweil (nonché direttore del reparto Ingegneria di Google) si contrappone John Searle affermando che la macchina è dotata solo di una sintassi, cioè esegue operazioni di calcolo su elementi specificati per via formale, mentre la mente umana possiede anche una semantica, ossia è in grado di comprendere quello che sta facendo. Potrebbe riuscirci solo se fosse in grado di riprodurre i poteri causali del cervello, che, nella teoria searliana, causano gli stati mentali. Quindi da un lato si instaura una componente positiva riguardo allo sviluppo sfrenato delle intelligenze artificiali, come dimostra Kurzweil e i suoi ritorni acceleranti secondo cui ogni nuovo progresso rende possibile diversi progressi di livello più elevato.

Dall’altro lato invece Barrat riflette su come un’ASI potrebbe insegnare agli uomini come costruire macchine di fabbricazione molecolare autoreplicanti, note anche come assemblatori molecolari, con la promessa di utilizzarle a fin di bene, ma allo stesso tempo lo scrittore americano avverte una sorta di  freno nei confronti di questa spensieratezza irresponsabile di alcuni scienziati. Degno di nota è l’incontro con il matematico Isidore Jacob Gudak (anglicizzato Good) che collaborò persino con Alan Turing (il padre dell’informatica) alla decrittazione di Enigma, nonché consulente di Stanley Kubrick per l’intelligenza artificiale in 2001: Odissea nello spazio. Secondo il matematico e crittografo britannico Good inizialmente fu convinto che una macchina super-intelligente avrebbe aiutato l’uomo a risolvere i problemi che minacciavano la sua esistenza, ma dovette rettificare il suo pensiero, per poi concludere che la minaccia peggiore sarebbe stata appunto proprio la  super-intelligenza stessa. James Barrat ci restituisce una inchiesta lucida e dettagliata sul futuro  prossimo dell’intelligenza artificiale e i suoi rischi collaterali. Lo scrittore americano in una sua sequenza si domanda – […] consideriamo concetti come brillante, dolce, duro e tagliente. Come potrebbe un’intelligenza artificiale sapere cosa significano queste percezioni, o costruire su di esse per creare concetti, se non ha corpo?  Persino Elon Munsk – il CEO di SpaceX e Tesla, nonché cofondatore con Peter Thiel della piattaforma di pagamenti Paypal – pone l’esigenza di regolare l’intelligenza artificiale per non creare un dittatore immortale che metterebbe a rischio l’esistenza umana. La stessa preoccupazione la troviamo condivisa dal cosmologo Stephen William Hawking, il quale, – prima di lasciarci (2018) – ci avverte sull’impossibilità di prevedere cosa riusciremo a raggiungere quando le nostre menti verranno amplificate dalle AI, l’intelligenza artificiale potrebbe essere il peggior evento della storia della nostra civiltà. Ecco che James Barrat in un’intervista alla domanda sulla singolarità e il rischi di estinzione dell’umanità, risponde così: ci sono diversi attori malevoli che nel breve periodo hanno utilizzato (o stanno utilizzando) l’intelligenza artificiale irresponsabilmente. Nel lungo periodo dobbiamo chiederci fino a che punto riusciremo a mantenere il controllo di una tecnologia che potrebbe diventare migliaia di volte più intelligente di un umano. È un grande problema, specialmente perché ci sono persone che stanno investendo miliardi di dollari nello sviluppo di questa nuova tecnologia. Queste macchine potrebbero superare il nostro livello di intelligenza e in pochi anni essere in grado di lavorare con più efficienza di noi, rendendoci inutili. Gli esseri umani, d’altro canto, hanno affinato le loro capacità intellettive per sopravvivere ai secoli, e una creatura più intelligente di noi potrebbe alla lunga porre fine alla necessità di una specie umana. In sostanza il problema del lungo periodo è quello del controllo. Quindi ci sono problemi sul breve periodo, ovvero attori malevoli con in mano l’IA, e problemi nel lungo periodo, ovvero l’incontrollabilità della tecnologia.

 

Casa editrice: Nutrimenti
Data di uscita: 24 gennaio 2019
Genere: Saggistica
Formato
: Brossura
Pagine: 304
Traduzione: Daniela Pezzella,Monica Pezzella
Isbn: 9788865946428

Giorgio Cipolletta

diGiorgio Cipolletta

Artista e perfomer italiano, studioso di estetica dei nuovi media. Dopo una laurea in Editoria e comunicazione multimediale, nel 2012 ho conseguito un dottorato di ricerca in Teoria dell’Informazione e della Comunicazione. Attualmente sono professore a contratto per corso di Fotografia e nuove tecnologie visuali presso Unimc. La mia prima pubblicazione è una raccolta di poesie “L’ombra che resta dietro di noi”, per la quale ho ricevuto diversi riconoscimenti in Italia. Nel 2014 ho pubblicato il mio primo saggio Passages metrocorporei. Il corpo-dispositivo per un’estetica della transizione, eum, Macerata. Attualmente sono vicepresidente di CrASh e collaboro con diverse testate editoriali italiane e straniere. Amo leggere, cucinare e viaggiare in modo “indisiciplinato” e sempre alla ricerca del dono dell'ubiquità.