Terminator prossimo venturo

[Finnegan]

Pregevole articolo di Dal Bosco, con osservazioni non banali sulla tecnologia che prende il controllo dell'umanità, incluso il declino della maschilità come indspensabile preludio a un genere umano allevato e gestito dalla tecnica. Attenzione: chi scrive non è contro la tecnologia, ma pensa che questa debba servire l'uomo e non viceversa. Come sempre i passaggi salienti sono in grassetto.

Il dio dei Robot Killer

Un missile autonomo in fase di sviluppo da parte del Pentagono utilizza un software per scegliere autonomamente gli obiettivi. Un drone ad Intelligenza Artificiale dell'esercito britannico identifica da solo i punti di fuoco. La Russia mette in mostra nuovi carri armati che non hanno bisogno di soldati al loro interno. La Corea del Sud utilizza sistemi autonomi per rilevare i movimenti lungo il confine nordcoreano.

Dopo aver visto che le macchine, tramite la riproduzione artificiale, possono dare la vita, ecco le macchine che danno la morte.

Da strumenti a dèi [anche McLuhan diceva che l'uomo serviva la tecnica come una divinità]: inevitabile se agli oggetti l'uomo dona il fuoco dell'intelligenza, cioè la base del suo eccezionalismo biologico. Il dibattito pare essersi aperto nella sede dei massimi enti transnazionali, le ripercussioni sociali e finanche religiose sul futuro dell'umanità alcuni non vogliono tirarle.

Noi qui ci proviamo.

Ridefinizione dell'industria militare, ridefinizione della guerra

In un discorso all'inizio dell'Assemblea generale delle Nazioni Unite a New York il 25 settembre, il segretario generale António Guterres ha fatto una piccola lista di quelli che chiama «rischi globali».

«Diciamo le cose come stanno: la prospettiva delle macchine con la discrezione e il potere di togliere la vita umana è moralmente ripugnante» ha detto il Guterres. Due settimane prima, Federica Mogherini, nostra impareggiabile Alta Rappresentante dell'Unione Europea per gli Affari Esteri e la Politica di Sicurezza, ha affermato che le armi «incidono sulla nostra sicurezza collettiva» e, in un misterioso momento di lucidità biopolitica, che le decisioni sulla vita e sulla morte devono rimanere nelle mani dell'uomo. Da dove la Mogherini abbia preso questa idea, che non ha avuto una vera discussione né sui giornali né nelle Università, per prime quelle «cattoliche» con i loro soloni della Bioetica.

Ad ogni modo, 26 paesi hanno chiesto un divieto esplicito che richiede una qualche forma di controllo umano nell'uso della forza. Ma le prospettive di un divieto per le armi ad Intelligenza artificiale è basso. Diversi paesi influenti, compresi gli Stati Uniti, non sono disposti a porre limiti alla tecnologia, e per i motivi che possiamo immaginare: l'Intelligenza Artificiale militare è la nuova corsa al nucleare. Nella corsa, oltre agli USA e alla Russia, c'è di peso soprattutto la Cina, che sull'AI (Artificial Intelligence) dicono abbia un certo margine di vantaggio.

Secondo l'ex ufficiale dei servizi segreti britannico John Bassett, gli investimenti della DARPA (il ricco e misterioso ente di ricerca e sviluppo del Pentagono, il quale ha un budget di circa 700 miliardi di dollari l'anno) nella robotica e nelle armi automatizzate non solo diventeranno rapidamente la norma nelle forze armate statunitensi, ma presto sostituiranno gli umani, che diventeranno una minoranza nell'esercito degli Stati Uniti nel giro di pochi anni [altro che donne-soldato].

Durante un recente speech, Basset – un veterano con 20 anni di esperienza al Government Communication Headquarters (GCHQ) profondo conoscitore delle ricerche militari statunitensi – ha avvertito che i tentativi degli Stati Uniti di stare in testa alla corsa per la guerra robotica si riveleranno nel dispiegamento da parte del Pentagono di migliaia di soldati robot nei prossimi anni.

Il risultato, secondo Basset, è che l'esercito degli Stati Uniti avrà «più robot da combattimento rispetto ai soldati umani entro il 2025». Cioè in solo sette anni.

La guerra si de-umanizza, in ogni senso possibile della parola.

Lo scenario da incubo con sciami di droni assassini che si avventano sulla gente lo scrivente crede di averlo visto nel videogioco Call of Duty: Advanced Warfare (2014), quello con Kevin Spacey prima che cadesse in disgrazia causa pedofilia.

Bisogna essere ingenui per pensare che i videogiochi di oggi – che, come con Hollywood, sono «infiltrati» da ufficiali di collegamento delle forze di sicurezza americane pagati profumatamente come «consulenti» – non contengano un seme di verità sugli scenari ai quali il potere militare USA vuole preparare i ragazzi di oggi e gli uomini di domani.

Ecco quindi che nel 2016, il Pentagono appronta un incredibile test nel deserto del Mojave. Più di 100 droni vengono lanciati da un jet da combattimento. Al lancio paiono un mucchio disorganizzato, poi però si uniscono rapidamente per correre verso un bersaglio e circondarlo.

Da un video radar diffuso dal Pentagono, i droni sembrano uno stormo di storni migratori. Non c'erano umani ai comandi dei droni mentre volavano in alto, e le macchine non sembravano molto diverse da quelle che qualsiasi persona può acquistare da un negozio di elettronica di consumo. I droni erano programmati per comunicare tra loro in modo indipendente per organizzarsi collettivamente e raggiungere l'obiettivo.

«Sono un organismo collettivo, condividono un cervello distribuito per il processo decisionale e si adattano l'un l'altro come sciami naturali», disse all'epoca William Roper, direttore dell'ufficio per le capacità strategiche del Pentagono.

Vogliamo dire: quelli che sono gli incubi degli attivisti umanitari o visioni da videogioco, per il Pentagono sono già una realtà. Una realtà perfino superata, visto che lo veniamo a sapere.

«Assassinii, destabilizzazioni, sottomissioni, uccisioni etniche selettive»

Nel 2015, il cofondatore di Apple Steve Wozniak ed Elon Musk (l'uomo di PayPal, Tesla, SpaceX), insieme allo scomparso Stephen Hawking e più di 1.000 ricercatori di robotica e intelligenza artificiale firmarono una lettera aperta che avvertiva di come «le armi autonome diventeranno i Kalashnikov» del futuro.

Non è chiaro se sapessero che, coincidenza, la Kalashnikov, in Russia, sta progettando minacciosi robot militari.

I firmatari sostenevano che i robot killer sono «ideali per compiti come assassinii, destabilizzazione di Paesi, sottomissione di popolazioni e uccisione selettiva di un particolare gruppo etnico».

«Le letali armi autonome minacciano di diventare la terza rivoluzione nella guerra. Una volta sviluppate, permetteranno di combattere i conflitti armati in una scala più grande e in tempi più rapidi di quanto gli umani possano comprendere. Possono essere armi di terrore, armi che despoti e terroristi usano contro popolazioni innocenti».

Su queste basi la Campaign to Stop Killer Robots («Campagna per fermare i Robot Killer»), una sigla che sta prendendo quota nel settore, richiede un divieto preventivo sullo sviluppo, la produzione e l'uso di armi autonome letali: «siamo preoccupati per le armi che operano da sole senza un significativo controllo umano».

Google, che aveva diversi dei suoi principali ricercatori di Intelligenza Artificiale tra i firmatari della lettera, pubblicò una dichiarazione sui propri principi riguardo l'Intelligenza Artificiale nel giugno 2018, incluso un rifiuto assoluto a sviluppare «armi o altre tecnologie il cui scopo principale o implementazione è di provocare o facilitare direttamente le lesioni alle persone».

È emerso tuttavia, grazia alla protesta di alcuni collaboratori di Google – i quali, posso testimoniare, spesso pensando davvero di lavorare per il bene dell'umanità – che il grande gruppo californiano stava progettando un AI per i droni militari americani all'interno di quello che era chiamato in codice Project Maven. Sono seguite proteste. Non è forse disgiunta da questa imbarazzante situazione la dipartita di Diane Greene, la direttrice di Google Cloud che aveva cercato contratti con il Pentagono per 10 miliardi di dollari.

Morti bianche robotiche

L'automazione potrebbe distruggere fino a 73 milioni di posti di lavoro negli Stati Uniti entro il 2030 sostiene un rapporto del McKinsey Global Institute. Secondo il rapporto «ci sono pochi precedenti in cui le società hanno riqualificato con successo un numero così grande di persone».

Nel Regno Unito solo il 44% dei lavoratori pensa che il loro attuale lavoro sarà migliorato dalla tecnologia, mentre il 20% pensa che peggiorerà. E se il 23% di coloro che credono che i loro ruoli potrebbero non essere affatto necessari sono nel giusto, ciò significa enormi disagi all'orizzonte: potenzialmente 6 milioni di persone che hanno bisogno un nuovo tipo di lavoro. Nel 2015, la Banca d'Inghilterra ha stimato che ancora più posti di lavoro – fino a 15 milioni – erano a rischio a causa dei robot e dell'automazione.

Ho sentito personalmente Alberto Sangiovanni Vincentelli, geniale ingegnere informatico pioniere dell'automatizzazione nella produzione di microchip (a lui, che siede tra le altre cose nel board della BMW, è dedicato un intero piano all'Università di Berkeley) ipotizzare che l'automazione sia stato un fattore per la vittoria di Trump nel 2016.

L'idea che i robot possano rubarti il lavoro – qualunque esso sia, dal pilota d'aereo allo psicanalista – è entrata nell'immaginario collettivo.

Tuttavia, negli ultimi 30 anni il livello di danno al lavoratore è stato anche di tipo fisico: i robot hanno causato almeno 33 morti e infortuni sul lavoro negli Stati Uniti, secondo i dati dell'Amministrazione per la sicurezza e la salute sul lavoro. Potrebbe non sembrare molti, ma bisogna immaginare quanto sottorobotizzato fosse il lavoro 30 anni fa. Ma oggi, dove senza un robot non è possibile pensare di competere, questo numero può aumentare di diversi ordini di grandezza. Qui, nella robotizzazione spinta dell'ambiente di lavoro, sta il vantaggio di Amazon, che con l'acquisizione di Kiva Robotics ha velocizzato all'inverosimile il processo di spedizione, lo abbiamo scritto in dettaglio su EFFEDIEFFE mesi fa e lo ha ripetuto di recente Casaleggio jr.

I robot uccidono, alla faccia della pagliacciata delle «tre leggi della robotica» di Asimov.

I robot uccidono perché, nell'industria o nella guerra, l'uomo si mette di mezzo ai loro processi.

Robotica e utilitarismo

È il trionfo della dottrina utilitarista, coniata appunto per giustificare la Rivoluzione Industriale e la violenza coloniale dei programmi delle élite inglesi. L'utilitarismo premia il processo economico e libidico: maggior piacere per la massa, maggior economia, più diritto morale di compiere un'azione, sia esso un omicidio. L'utilitarismo è la matrice filosofica del ritorno delle società del sacrificio umano.

Al contempo, si noti come l'utilitarismo metta al centro non più l'uomo ma l'essere senziente.

È infatti l'utilitarismo, con Jeremy Bentham, a cominciare a parlare di «diritti animali». Ci chiediamo quindi: quando cominceremo a sentir parlare di diritti robotici? [In realtà squadre di giuristi stanno già lavorando per attribuire ai robot personalità giuridica.]

La testa tagliata del teorico dell'utilitarismo Jeremy Bentham, vero transumanista ante litteram: alla morte nel 1832 insistette perché il suo corpo fosse preservato dopo la sua morte come "auto-icona" in modo che potesse essere portato alle feste qualora fosse mancato ai suoi amici

Una dose pluridecennale di pellicole hollywoodiane ci descrivono le macchine come umani: Blade Runner, Corto Circuito, Electric Dreams, L'Uomo Bicentenario, Her. Ognuno di essi porta lo spettatore ad identificarsi con la macchina, a provare compassione per essa.

La vittoria del sentimento sulla ragione: se un essere può provare dei sentimenti, allora esso vale tanto quanto l'uomo. Il sentimento è più importante della logica e della realtà stessa: da qui l'incubo del Politicamente Corretto che si sta impossessando dell'Occidente, dove una donna può essere denunciata da un collega transessuale per aver parlato di mestruazioni offendendo la sensibilità di chi vorrebbe averle ma non può.

L'Utilitarismo, il frame filosofico in cui si muove l'Occidente, permette proprio questo: un'umanità di checche apparentemente servite dalle macchine e dai loro processi; in realtà, la loro stessa de-maschilizzazione è un grandino necessario alle mondo macchinale per impadronirsi totalmente dell'uomo.

Algoritmocrazia, tecnocrazia, sinarchia

Le macchine di fatto già controllano la nostra vita. Molti degli eventi che ci riguardano sono oggi appaltati ad algoritmi.

I contatti su Facebook, sono decisi da un algoritmo che calcola i vostri gusti come i più stretti vostri conoscenti non potrebbero fare. Glielo avete permesso voi: avete nutrito per anni l'algoritmo con i vostri like, le vostre foto, i vostri spostamenti, i vostri commenti. Ora decide lui per voi cosa mostrarvi.

Stessa cosa per YouTube: i suoi suggerimenti provengono dalla storia delle innumeri interazioni che avete avuto con il sito, e forse anche dall'analisi computazionale delle migliaia di messaggi di posta elettronica, se avete Gmail.

Oppure prendete Tinder, l'applicazione della promiscuità sessuale, per inciso uno degli evidenti segni di omosessualizzazione dell'eterosessualità: la app è basata infatti su Grindr, l'applicazione per gli incontri famelici degli invertiti, che per un periodo potevano pure spuntare sulla casella «cerco partner HIV-positivo».

I ragazzi che usano Tinder vedono solo i soggetti che l'algoritmo ritiene che debbano vedere; il modo in cui questo algoritmo opera – mostrandoti una vicina brutta invece che una bellissima – sono sconosciute, ma c'è chi sostiene che giudichino la persona in base al censo e alla bellezza esteriore. Il che vuol dire: l'algoritmo, come in un romanzo distopico, di per sé crea matematicamente nuove ineludibili classi sociali, illudendo il consumatore con la promessa di sesso facile, ma di fatto etichettandolo e facendolo operare dentro una invisibile gabbia che l'informatica ha creato per lui.

Il lettore capisca: senza arrivare ai robot assassini, le macchine già decidono per noi. Addirittura la moda: gli algoritmi, senza che gli stilisti percepiscano di essere in procinto di essere disintermediati, stanno decidendo giacche e pantaloni.

Ma non si tratta solo delle app del telefonino o del prontomoda. Le istituzioni stesse oggi vivono di algoritmi e operano attraverso di essi.

La polizia (per esempio quella di Los Angeles) usa algoritmi per predire il crimine, calcolando la pericolosità di una persona e localizzando le possibili sue relazioni (pensate, per esempio, agli spacciatori all'angolo della strada) indirizzando i controlli a punti particolari stabiliti dal software.

Dice Hanna Fry, autrice del libro Hello World: Being Human in the Age of Algorithms: «abbiamo invitato questi algoritmi nelle nostre aule di tribunale, nei nostri ospedali e nelle nostre scuole, stanno prendendo queste piccole decisioni per nostro conto e stanno sottilmente spostando il modo in cui la nostra società opera».

La Fry nel libro scrive di Christopher Drew Brooks, un ragazzo di 19 anni residente in Virginia. Christopher è stato condannato per aver fatto sesso con una ragazza di 14 anni, e il tribunale che lo ha giudicato è uno di quei tribunali americani che si avvalgono di software di Intelligenza Artificiale per capire se il criminale sarà recidivo e quindi stabilire la sua pena.

Christopher e la ragazza avevano avuto un rapporto consensuale, ma lei era minorenne e ciò per la legge dello Stato era illegale. Per la condanna, il giudice ha fatto affidamento su di un algoritmo progettato per fare una previsione su quanto è probabile che un individuo possa commettere un crimine se viene rilasciato dalla prigione.

L'algoritmo ha valutato il suo punteggio di recidiva, e ha stabilito che, poiché era un ragazzo così giovane e stava già commettendo reati sessuali, c'era un'alta probabilità che continuasse in questa vita di criminalità. Quindi raccomandò che gli fossero dati 18 mesi di carcere.

Si scoprì dunque che questo particolare algoritmo attribuisce grande importanza all'età del trasgressore, quindi se fosse stato di 36 anni invece che di 19, lo avrebbe considerato una minaccia molto più bassa. Ma in quel caso, avrebbe avuto 22 anni più della vittima, e penso che ogni persona ragionevole considererebbe la cosa in modo peggiore. Questo è un esempio di come questi algoritmi perfettamente logici possono arrivare a risultati bizzarri. E in questo caso, penseresti che il giudice avrebbe esercitato la sua discrezione e annullato l'algoritmo, ma in realtà ha aumentato la sentenza di Brooks.

Se l'algoritmocrazia è arrivato a decidere nell'ambito del potere giudiziario, come non pensare che esso non tracimerà nel potere politico?

Di fatto, questa è la proposta del primo partito del Paese, il Movimento 5 Stelle. Per lo meno nel progetto iniziale di Gianroberto Casaleggio: la creazione di una mega-piattaforma informatica che decida tutto, senza la quale il cittadino non può esistere.

Era il sogno espresso nel famoso video Gaia.

Una macchina, un robot, che sostituisca la politica in toto.

Cercavo di spiegarlo ad un professore di Scienze Politiche di un Ateneo Pontificio.

«La tecnocrazia è il governo dei tecnici» mi diceva lui, avendo in mente con probabilità Mario Monti, Ciampi o forse il prossimo Cottarelli.

No, rispondevo io: la vera tecnocrazia è il governo della tecnica. Il governo della macchina. L'asservimento dell'uomo al robot.

Una visione non nuova, descritta secoli fa dall'esoterista francese Alexandre Saint-Yves d'Alveydre (1842–1909), il teorico della Sinarchia come governo dell'ordine basato su leggi universali, categoria nella quale le matematiche degli algoritmi che decidono oggi il nostro quotidiano cadono a pennello.

L'occultista D'Alveydre (il cui pensiero fu poi coltivato dal fior fiore dell'esoterismo para-massonico otto-novecentensco, da Réné Guénon a Rudolf Steiner, da Schwaller de Lubicz a Papus) credeva che la sinarchia, portando al governo le leggi dell'Universo, fosse una forma di teocrazia.

Non aveva torto, il francese: se la macchina ci fa nascere, ci nutre e ci può uccidere, come non scambiarla con Dio?

Il vero vincitore delle Guerre degli Artilect

Hugo De Garis è in pensione. Lo conosciamo per i suoi studi tecnici sull'Intelligenza Artificiale e per le sue previsioni poste nel visionario saggio The Artilect Wars.

De Garis, australiano, come professore ha insegnato ovunque: Utah, Bruxelles, Giappone, e Cina. Scienziato dell'Intelligenza Artificiale. È fondatore di quell'approccio all'AI chiamato «brain building» che prevede di arrivare alla macchina intelligente solo tramite la costruzione di un hardware specificio (come il Roboneko, ossia un cervello artificiale in grado di replicare quello di un gatto) assegnandoli immensa capacità computazionale.

Il pubblico mondiale però lo conosce per la sua visione (distopica o teologica, c'è da dibattere) riguardo al futuro dell'Intelligenza Artificiale.

In The Artilect Wars («Artilect» è una crasi di artificial intellect, «intelletto artificiale», «artiletto»), libro introvabile oramai acquistabile in rete a prezzi folli, si racconta che l'unica prospettiva per l'umanità che sviluppa l'Artiletto sarà una inevitabile «gigadeath war» al volgere del XXI secolo, dove «gigadeath», sta a significare, utilizzando la vecchia terminologia di politica atomica di Edward Teller, le vittime calcolate in miliardi di unità.

«Stiamo costruendo dei o Terminator?» è la domanda che viene posta spesso a De Garis.

«Io vedo l'umanità separarsi in due principali gruppi ideologico-filosofici. I Cosmist, che sono coloro che vogliono costruire queste macchine simili a Dio. Per essi, gli Artiletti sono super-creature immortali, che possono pensare milioni di volte più veloce degli umani, non hanno limiti di memoria, possono avere le dimensioni di un asteroide». I Cosmisti sono insomma gli entusiasti adoratori del dio-Macchina, gioioso esito golemico dell'Intelligenza artificiale.

Il secondo gruppo è quello dei Terran, che si oppone in modo radicale ai Cosmisti. «I Terran lotteranno per la preservazione del dominio delle specie umane, così che vi sia zero rischio che l'umanità sia spazzata via dagli Artilect avanzati.

Sostiene il professore: il senso di una storia come quella di Terminator è quella dell'umano contro la macchina. Invece «la guerra degli Artilect non è tra umani e macchine, è tra umani ed umani, perché anticiperanno il fatto che se non faranno nulla per fermare l'una o l'altra parte, la guerra successiva sarà davvero tra macchine ed umani».

«Se vi sarà una guerra con la tecnologia militare di fine XXI secolo, non parliamo di milioni di ammazzati, ma di miliardi».

«Se costruiremo queste creature simil-divine, esse diverranno la specie dominante, e così il fato degli umani sopravvissuti dipenderà non dagli altri umani ma dagli Artilect».

Il discorso di De Garis, che si dichiara un Cosmist, si fa tetro e disperato: «potremmo diventare come delle mucche, ci danno l'erba per nutrirci e tenerci felici, ma in realtà, se saremo nutriti, saremo nutriti per una ragione, e come avviene per le mucche, queste creature superiori ci portano dentro una scatola, e ci sparano alla testa».

Dio è morto, per il mondo moderno. Ma è pazzo chi ritiene che non sia stato sostituito: e non solo dalla superstizione (dalle ideologie, dal consumismo, dalla magia). La sostituzione di Dio operata è di ordine davvero esoterico, è magia suprema, è teurgia: non solo l'uomo si fa dio, ma è l'uomo che crea materialmente il suo dio, e, forse memore della sua finitudine, è pronto a sottomettersi ad esso nel modo più bovino.

Scriveva Marshall McLuhan:«il Principe di questo mondo è un grande ingegnere elettronico». Sì, Princeps huius mundi: controlla le nostre vite con gli algoritmi, ora gli è permesso di ucciderci tramite robot militari. Vuole costruire un software che dovremo adorare come adoriamo il Creatore.

Come non capire che l'anima della macchina che si vuole dio sarà quella di Satana?