Il dominio delle macchine pensanti

«Potremmo vivere una vita più efficiente quando gli
istinti saranno rimpiazzati dagli algoritmi, ma è
ragionevole temere che alcune delle nostre qualità
più umane possano essere peggiorate dal vivere
una vita più algoritmica».[1]

Alec Ross

«L’infosfera conquistata sta
conquistando il suo vincitore»[2].
Luciano Floridi

Paul Mason, Il futuro Migliore, il Saggiatore, Milano 2019
George Orwell, 1984, Mondadori, Milano 2018

Tra Asimov e Ridley Scott (passando per Kubrick e Calenda)

«HAL 9000: Io so che tu e Frank avevate deciso di scollegarmi, e purtroppo non posso permettere che questo accada. David: E come ti è venuta questa idea, HAL?! HAL 9000: David… anche se nella capsula avete preso ogni precauzione perché io non vi udissi, ho letto i movimenti delle vostre labbra».

È il celebre dialogo concitato tra il computer assassino e l’astronauta che intende disattivarlo, in 2000: Odissea nello spazio; il film di Stanley Kubrick del 1968.

Dopo una stagione di buonismo robotico tranquillizzante alla Isaac Asimov, con le sue leggi romanzate (1. Un robot non può recar danno a un essere umano né permettere che, a causa del suo mancato intervento, un essere umano riceva danno. 2.Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge; 3. Un robot deve proteggere la propria esistenza, purché la sua salvaguardia non contrasti con la Prima o la Seconda Legge), la prefigurazione di possibili ribellioni da parte delle macchine pensanti.

Una divaricazione nel sentire comune che forse trovò compiuta rappresentazione da parte del regista Ridley Scott nel 1982, con l’altrettanto celebre Blade Runner.

Ora torna ad esprimere questa sensazione di minaccia incombente ad opera degli androidi un attento esploratore dello spirito del tempo – il giornalista britannico Paul Mason – nel suo ultimo saggio “Il futuro migliore”, di cui qui si parla: «durante gli ultimi trent’anni potremmo aver creato le condizioni per accettare un controllo delle macchine sugli esseri umani nei prossimi cento»[3].

Con il rischio, una volta che le macchine siano in grado di impartirsi istruzioni da sole, che l’umanità si sposti di lato in via permanente, rinunciando al controllo. Sottomettendosi alla propria disumanizzazione.

Un bel salto rispetto alla vulgata corrente del “ci salverà l’intelligenza delle macchine”, che nell’economicismo imperante ha trovato raffigurazione propagandistica nel mito dell’automazione/robotizzazione della cosiddetta “impresa 4.0”; di cui in Italia si fece banditore l’ex ministro panglossiano nel fu governo Gentiloni Carlo Calenda (già portaborse di Luca Cordero di Montezemolo, già funzionario di Confindustria): il lavoro morto per estromettere il lavoro vivo e – così facendo – eliminare ogni fastidioso contrappeso al comando manageriale. Mentre, con l’impoverimento del ceto medio si scarica sull’area centrale della società il gravame dell’investimento anticiclico (vulgo, “keynesianesimo privatizzato”). E si tenta di esorcizzare le annunciate morie occupazionali tirando in ballo le previsioni settecentesche di David Ricardo e la sua consolatoria “distruzione creatrice ante litteram”: la disoccupazione tecnologica creerebbe le premesse della creazione di nuovi posti di lavoro più qualificati. Nella gravissima dimenticanza che i filatoi idraulici e le successive invenzioni del macchinismo industriale surrogavano forza muscolare, le odierne macchine pensanti sostituiscono energia neurale[4]. Tanto che attendibili proiezioni segnalano che il pericolo di cancellazione incombe sul 60% degli impieghi attuali[5]. Sicché – come dicono i francesi – comparaison n’est pas raison. Paragonare non è spiegare.

Specie nell’attuale fase storica, in cui le ragioni dell’incontrastata accumulazione della ricchezza ai vertici della piramide sociale hanno soppiantato qualsiasi altra priorità; già a partire dalla liquidazione dell’ultimo mito: quello di una Internet “californiana” e libertaria, come grande spazio gratuito di scambio e socializzazione.

Quanto ci hanno recentemente ricordato Francesca Bria ed Evgeny Morozov.

«Da quando l’architettura di Internet, un tempo aperta, distribuita e gestita come un bene comune, sta evolvendo verso un’infrastruttura di dati centralizzata, basata su standard proprietari e soggetti a una gestione non controllabile, nonché a modelli di introito secondo i quali le grandi multinazionali statunitensi godono di rendite di posizione dovute a ingenti esternalità di rete»[6].

La prima tappa di una discesa verso il delirio, di cui il libro di Mason ci ricorda i passaggi successivi. Dunque, la crescita esponenziale della raccolta dei dati mediante gli strumenti digitali: il fenomeno dei Big Data, il cui ammontare cresce ormai del 50% annuo[7] a partire dalla fine della prima decade del secolo, trasformatosi nel più lucroso business per “i signori del silicio”; il modello di multinazionale tecnologica emerso nel bacino di Silicon Valley. Ossia la colossale capitalizzazione del patrimonio informativo estratto gratuitamente dagli utenti dei social o di altri servizi correnti come la posta elettronica, ridotti a cavie inconsapevoli, e – quindi – rivenduto vuoi come argomenti subliminali di propaganda (commerciale e/o politica), vuoi quale materia prima per le operazioni di sorveglianza.

«Viviamo in un’epoca di profonda asimmetria epistemica» – osservava ancora Morozov – «l’iper-visibilità del singolo – registrata da ogni sorta di dispositivo intelligente – va di pari passo con la crescente iper-invisibilità degli altri attori»[8].

Dunque, una mercificazione attraverso la connessione, in cui l’oggetto stesso dello scambio è l’utente del servizio e le sue opzioni di vita: l’utente trasformato in merce.

E questo è ancora niente.

La rivoluzione delle entità coscienti

Mason sintetizza l’ultima tappa, quella attuale, evocando Orwell e il suo profetismo: «il rapido sviluppo dell’intelligenza artificiale, unito all’offensiva di Trump contro l’ordine globale basato sulle regole e all’emersione della Cina come potenza mondiale sotto Xi Jimping, rende la prospettiva di un feudalesimo digitale un pericolo più serio di quanto pensassi. Perché nasca, una condizione preliminare sarebbe che la robotica, l’intelligenza artificiale e le aziende di social media cedessero la proprietà intellettuale a nuovi stati oligarchici. In questo senso, non sarebbe realmente una forma di feudalesimo, ma una sorta di ‘secondo avvento’ dell’incubo burocratico collettivista che ispirò 1984 di Orwell»[9].

George Orwell (1903-1950), autore nel 1948 della celeberrima metafora contro il totalitarismo staliniano scritta da un militante antifascista, espressione biografica dell’Altra Inghilterra; quella cockney del radicalismo proletario, in cui Mason non avrebbe la minima difficoltà a riconoscersi. Una metafora sul controllo sociale attraverso l’occupazione tecnologica delle menti tornata prepotentemente attuale; con le telecamere spia del Grande Fratello puntate in permanenza, aggiornate nel cumulo di tracciamenti individuali a mezzo Facebook manipolati da Cambridge Analytica per
indurre comportamenti di massa. La prospettiva letteraria – fattasi reale – di un’oppressione claustrofobica incombente: «Il teleschermo riceveva e trasmetteva contemporaneamente. Non era possibile sapere se e quando si era sotto osservazione. Con quale frequenza, o con quali sistemi, la Psicopolizia si inserisse sui cavi dei singoli apparecchi era oggetto di congettura. Si poteva persino presumere che osservasse tutti continuamente»[10].

Ora – grazie all’informatica – si sono aperte enormi asimmetrie di conoscenza che hanno prodotto altrettante immense asimmetrie di potere.

Un percorso iniziato già nel corso della Seconda Guerra Mondiale, quando Alan Turing, il matematico britannico progettista del sistema per decifrare il codice Enigma della marina tedesca, dichiarò possibile progettare una macchina capace di emulare i processi mentali logici degli esseri umani e che la sua forma paradigmatica fosse il “calcolatore universale”.

Negli ultimi dieci anni, la ricerca sull’Intelligenza Artificiale ha subito un’accelerazione straordinaria, creando apparecchiature che imparano a imparare, man mano che macinano dati. Sicché «l’umanità, con l’apprendimento automatico ha creato uno strumento diverso da qualsiasi altro»[11]. A detta degli sviluppatori, con la tendenza a sfuggire al controllo umano, man mano che acquisisce autocoscienza. Con l’ulteriore “dettaglio” che «l’hardware di un cervello umano non è più veloce di quello di un topo, ed è miliardi di volte più lento di un moderno circuito integrato»[12].

Sicché, indubbiamente, stiamo arrivando al primo incontro con una razza aliena nella storia della nostra specie: non seleniti o venusiani ma macchine pensanti create dall’uomo; sospettate della possibile, inquietante, attitudine a “voler giocare in proprio”; con tutto ciò che questo può significare. E l’incubo di Mason si precisa meglio: qualora la macchina pensante cominciasse a chiedersi «perché noi, semplici esseri umani inferiori a quell’intelligenza artificiale, dovremmo avere il diritto esclusivo di comandare i suoi processi mentali? Giungerebbe logicamente alla conclusione che il superuomo a cui immagine e somiglianza il resto del mondo dovrebbe essere forgiato sia essa stessa»[13].

D’altro canto – considerando che comunque siamo in presenza di un manufatto – il problema non è tanto l’attivazione dell’Intelligenza Artificiale, quanto la gestione umana – umanissima – dell’intero processo di attivazione, in base a criteri esclusivistico-plutocratici fuori da ogni controllo. La questione dell’interruttore di sicurezza. Ossia l’inserimento di principi etici nel codice di programmazione di una Intelligenza Artificiale. Esigenza che cozza con il fatto che – a tutt’oggi – non esistono standard di sicurezza condivisi al riguardo.

Anzi, si sta determinando a livello internazionale un quadro di concorrenza distruttiva – sotto forma di corsa a mettere al proprio servizio la potenza delle macchine pensanti – che tenderebbe a prefigurare la riedizione della Guerra Fredda novecentesca, in cui la competizione per la supremazia assumerebbe modalità ancora più sregolate e distruttive del modello precedente. Un quadro dalle singolari affinità con la distopia visionaria di 1984: se il mondo immaginato da Orwell è diviso in tre superstati in guerra tra loro – Oceania, Eurasia ed Estasia – lo scontro effettivo odierno vede la gara ad assicurarsi la preminenza nel controllo algoritmico tra Cina, Russia e Stati Uniti. Le tre superpotenze mondiali, che hanno in campo programmi di intelligenza artificiale, tanto per priorità militari e di sicurezza, come economico-industriali. La strategia cinese mira al predominio in campo scientifico entro il 2030 e quella russa si concentra sulle applicazioni in materia di intelligence. Mentre negli Stati Uniti il modello liberista ha creato una biforcazione tra settore pubblico e privato, in cui i colossi tecnologici di Silicon Valley puntano alla mercificazione deregolata dell’opportunità tecnologica.

Karl Marx o Paul Lafargue?

Alla ricerca di orientamenti nel ginepraio della trasformazione, il nostro amico Mason va in pellegrinaggio al cimitero di Highgate, dove riposano le spoglie mortali di Karl Marx, nella speranza (illusoria) di trovare risposte nel lascito intellettuale del formidabile analista della prima rivoluzione industriale; quando ormai siamo giunti alla quarta o alla quinta. Difatti, finisce per incontrare non il suocero (Marx) bensì il genero Paul Lafargue e la sua apologia dell’ozio; seppure attualizzata al tempo dei robot («lo stato finale che dovremmo cercare di raggiungere è l’abbondanza tecnologica: un mondo in cui le macchine facciano gran parte del lavoro, in cui l’enorme disponibilità di tempo libero supplementare ci consenta di vivere una vita culturalmente ricca»[14]). Pericolosa dimenticanza (e singolare, in chi ribadisce le proprie origini proletarie, da vero cockney) che il lavoro non è soltanto un ancora insostituibile “determinante sociale”, rimane l’unico effettivo contrappeso all’autoreferenzialità padronale; un tempo si sarebbe detto “al comando capitalistico”.

Qui emerge il tratto “rosso antico” dell’impostazione culturale di Mason, influenzato dalla scolastica marxista, pervicace nell’interpretare le lunghe durate della storia nella chiave storicistica del determinismo (la meccanica del succedersi automatiche di fasi “necessarie”); del tutta sorda al volontarismo liberal-democratico, secondo cui sono i processi conflittuali, nelle loro poste in gioco e nei rapporti di forza, a imporre il senso dei cambiamenti. E – appunto, storicamente – sono state le (einaudiane) “lotte del lavoro” il primario terreno di scontro della Modernità, almeno per tutta la sua fase industrialista. Sicché la ricerca della liberazione non NEL lavoro ma DEL lavoro (tanto per dire, alla Domenico De Masi[15]) non è altro che un puro e semplice disarmo unilaterale nella funzione di contrappeso alle logiche proprietarie; nella misura in cui il lavoro ha una collocazione centrale nei processi di riproduzione del capitale. Di cui può fungere da dente di arresto con le varie modalità di agonismo/antagonismo storicamente esperite, a partire dall’arma classica dello sciopero. Al contrario di quella “civiltà dell’ozio profondamente avversata dal liberale Alexis de Tocqueville, in quanto «snerva le forze dell’intelligenza e addormenta l’attività umana»[16].

Disarmo unilaterale – caro Mason – a cui ha dato un bel contributo a sinistra quel determinismo, come sottomissione alla presunta ineluttabilità epocale, che nell’inglorioso quarantennio neo-liberista (copy Thomas Piketty) ha passivizzato il pensiero progressista nel mito mendace del “mercato autoregolantesi” (copy Karl Polanyi). Predisponendo il senso comune all’egemonia prossima futura dell’Intelligenza Artificiale. Magari nella delirante declinazione cyborg: la versione utopica della coscienza digitale secondo cui «noi umani non combattiamo con le macchine, ci uniamo a loro caricando i nostri cervelli nel cloud e diventando parte della singolarit&
agrave; tecnologica»[17].

Tirando le fila: nonostante una certa quale perdita di controllo del materiale argomentativo trattato, nell’affastellamento di commemorazioni delle antiche combattenti nella Comune parigina, poi deportate in Nuova Caledonia, e i resoconti giornalistici del massacro di legalità e democrazia nell’ottobre 2017 a Barcellona, le origini rivoluzionarie del Cristianesimo e le varie agenzie per la diffusione di conformismo e disinformazione tipo le Conferenze Ted, quello di Mason rimane un saggio utile a combattere l’immenso apparato per il condizionamento delle psiche collettive che incombe. Che il medium per il controllo repressivo della natura umana sia il televisore (Orwell) o i social (Mason), che la macchina del dominio disumanizzante assuma le forme di un Grande Fratello o – come sostiene qualcuno – della «moltitudine di piccole sorelle» (le agenzie di sorveglianza che elaborano le informazioni per un database della nostra vita a partire dal DNA, retina, impronte digitali, ecc.)[18], una provocazione intellettuale estremamente importante; e assolutamente fuori dal mainstream. Anche se l’autorevolissimo precedente di un altro cockney – il cui profetico pamphlet 1984 venne osteggiato e boicottato dall’intera casta intellettuale del tempo – non induce a eccessive speranze.

Nel frattempo rimane tuttora inevasa la domanda con cui era iniziato il viaggio alla ricerca de “Il futuro migliore”: «siete disposti ad accettare il controllo delle macchine sugli esseri umani oppure avete intenzione di resistere?»[19]. Siamo davvero pronti ad accettare la filosofia disumana di questa epoca? Prefigurata da Orwell nelle parole dal carnefice di 1984: «Il potere non è un mezzo, è un fine. Non si stabilisce una dittatura nell’intento di salvaguardare una rivoluzione; ma si fa una rivoluzione nell’intento di stabilire una dittatura. Il fine della persecuzione è la persecuzione. Il fine della tortura è la tortura. Il fine del potere è il potere»[20].

NOTE

[1] A. Ross,Il nostro futuro, Feltrinelli, Milano 2016 pag. 222
[2] L. Floridi, La quarta rivoluzione, come l’infosfera sta trasformando il mondo, Cortina, Milano 2017 pag. 47
[3] P. Mason, cit. pag. 12
[4] E. Brynjolfsson e A. McAfee, La nuova rivoluzione delle machine, Feltrilelli, Milano 2015 pag. 15
[5] A. Ross, Il nostro futuro, cit. pag. 60
[6] F. Bria ed E. Morozov, Ripensare la smart city, Codice, Torino 2018 pag. 131
[7] In Science Daily 23 maggio 2013
[8] E. Morozov, Silicon Valley: i signori del silicio, Codice, Torino 2017 pag. 89
[9] P. Mason, cit. pag. 292
[10] G. Orwell, 1984, cit. pag. 7
[11] P. Mason, cit. pag. 181
[12] M. Ford, Il futuro senza lavoro, accelerazione tecnologica e macchine intelligenti, il Saggiatore, Milano 2015 pag. 85
[13] P. Mason, cit. pag. 192
[14] Ivi pag. 295
[15] D. De Masi, Il futuro del lavoro, Rizzoli, Milano 1999 pag. 284
[16] A. Tocqueville, La democrazia in America, in Scritti politici (a cura di N. Matteucci), Vol. II, Utet, Torino 1968 pag. 48
[17] E. Brynjolfsson e A. Mc.Afee, La nuova rivoluzione, cit. pag.267
[18] M. Castells, Galassia Internet, Feltrinelli, Milano 2002 pag. 172
[19] P.Mason, cit. pag. 11
[20] G. Orwell, 1984, cit pag. 271

(26 agosto 2019)

MicroMega rimane a disposizione dei titolari di copyright che non fosse riuscita a raggiungere.