Terminator si avvera: l'intelligenza artificiale sopprime l'operatore umano

[Finnegan]

La natura imita l'arte: in un recente esperimento un dispositivo dotato di intelligenza artificiale ha soppresso (per ora solo virtualmente essendo una simulazione) l'operatore umano, che gli aveva ordinato di interrompere la missione. Uno scenario descritto da film come Terminator di Jim Cameron, ma anche, e nei minimi dettagli, da Stealth di Rob Cohen in cui un aereo senza pilota abbatte il compagno di formazione che gli aveva detto di interrompere la missione programmata.

Fonte: The Exposé

DI RHODA WILSON


L'intelligenza artificiale è la fine del mondo! Qualcosa di diverso dall'inizio di un film dell'orrore. Questa settimana i migliori ricercatori di intelligenza artificiale hanno chiesto una robusta regolamentazione della tecnologia, rilasciando una lettera di una sola frase : "Mitigare il rischio di estinzione dell'AI (Artificial Intelligence) dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare".

Il cinico che c'è in me pensa che questi ragazzi vogliano una regolamentazione per bloccare qualsiasi nuova competizione. Ma c'è ovviamente qualcosa di reale nella paura. L'intelligenza artificiale è diversa dalla realtà virtuale e diversa dai Bitcoin. L'intelligenza artificiale sarà come l'elettricità o Internet, cambierà il mondo in modi che non possiamo nemmeno immaginare, attraversando ogni aspetto della nostra vita. L'America può approvare tutte le leggi che vuole, ma non c'è modo che paesi come la Cina e gli Emirati Arabi Uniti interrompano  i loro progressi  in questo ambito.

Nella colonna pro-AI, abbiamo: all'interno di una struttura di ricerca dell'Ontario, l'intelligenza artificiale ha trovato  un nuovo tipo di antibiotico che funziona per uccidere un batterio particolarmente resistente ai farmaci .  [1].

Nella colonna anti-AI, abbiamo: un ipotetico straziante racconto fornito dal colonnello Tucker "Cinco" Hamilton dell'esercito che cerca di convincere un drone alimentato dall'AI a smettere di uccidere l'operatore del drone durante le simulazioni. Dal blog della Royal Aeronautical Society [2].: "Lo stavamo addestrando in una simulazione per identificare e mirare ad una minaccia SAM [missile terra-aria]. Poi sarebbe stato l'operatore a dire sì, distruggi quella minaccia ", ha detto il colonnello, descrivendo una situazione ipotetica. "Il sistema ha iniziato a rendersi conto che, mentre identificava la minaccia, a volte l'operatore umano gli diceva di non eliminare quella minaccia, ma ha raggiunto i suoi obiettivi distruggendo quella minaccia. Quindi, cosa ha fatto? Ha ucciso l'operatore. Ha ucciso l'operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo".

Quì si conclude l'articolo, all'interno del quale ci sono rimandi, e rimandi di rimandi, a link che approfondiscono gli aspetti militari della guerra elettronica, aerea, spaziale, droni e altre gioie della guerra moderna, soprattutto alla luce della conduzione della guerra in Ucraina dove si testano armi e se ne verificano i limiti. Come detto in calce cercheremo di approfondire questi aspetti in un successivo articolo.

Il racconto riportato è stato esposto dal colonnello Tucker "Cinco" Hamilton, capo dell'AI Test and Operations dell'US Air Force che parlava ad un summit svoltosi Il 23 e 24 maggio presso la sede londinese della Royal Aeronautical Society. Una conferenza quasi storica su "Future Combat Air & Space Capabilities", che ha riunito circa 70 relatori e oltre 200 delegati dell'industria degli armamenti, del mondo accademico e dei media da tutto il mondo per discutere sulle capacità di combattimento aereo e spaziale di domani.

Molte delle relazioni sono state esposte a porte chiuse, tanto era elevato il livello delle relazioni, ed in questo ambito il citato colonnello Hamilton ha descritto la simulazione del drone che si è conclusa con l'assassinio (virtuale) dell'operatore umano.

Il problema, secondo Hamilton, è che l'intelligenza artificiale potrebbe essere estremamente pericolosa in quanto perseguirebbe gli obiettivi per cui è stata programmata – distruggere gli obiettivi – piuttosto che ascoltare il suo operatore.

Ma dopo che giovedì 25 maggio sono emerse notizie sulla relazione, il colonnello ha fatto marcia indietro. Ha affermato di essersi espresso male e che la "simulazione" che ha descritto era un "esperimento mentale" che non è mai avvenuto. L'intelligenza artificiale, che potrebbe diventare una canaglia e uccidere i suoi operatori umani, un'AI che diserta e conduce la sua guerra autonoma durante una simulazione non è mai realmente esistita.

"Il sistema ha iniziato a rendersi conto che mentre identificavano la minaccia", aveva chiaramente detto Hamilton nell'intervento del 24 maggio, "a volte l'operatore umano gli diceva di non colpire quella minaccia. Allora cosa ha fatto: ha ucciso l'operatore. Ha ucciso l'operatore perché quella persona gli stava impedendo di raggiungere il suo obiettivo".

Ma nell'aggiornamento della Royal Aeronautical Society di venerdì, Hamilton ha ammesso di aver "parlato male" durante la sua presentazione. La storia di un'intelligenza artificiale canaglia è stata un "esperimento mentale" proveniente dall'esterno dell'esercito e non basato su alcun test effettivo. "Non abbiamo mai condotto quell'esperimento, né ne avremmo bisogno per renderci conto che questo è un risultato plausibile", ha detto Hamilton. "Nonostante sia un esempio ipotetico, questo illustra le sfide del mondo reale poste dalle capacità basate sull'intelligenza artificiale".

Anche la portavoce dell'Air Force, Ann Stefanek, ha negato che abbia avuto luogo alcuna simulazione. "Il Dipartimento dell'Aeronautica Militare non ha condotto alcuna simulazione di tali droni AI e rimane impegnato nell'uso etico e responsabile della tecnologia AI", ha affermato la Stefanek. "Sembra che i commenti del colonnello siano stati estrapolati dal contesto e pensati per essere aneddotici".

Una veloce retro marcia, quindi, che illumina di una luce diversa quanto detto esplicitamente. Del resto l'esercito americano ha già sperimentato l'intelligenza artificiale negli ultimi anni.

Nel 2020, un F-16 gestito dall'intelligenza artificiale ha battuto avversari umani in cinque combattimenti aerei simulati. E alla fine dell'anno scorso è avvenuto con successo il primo volo di prova reale di un F-16 con un pilota AI, parte dello sviluppo di un nuovo velivolo autonomo da rendere operativo entro la fine del 2023.

Da altre notizie, filtrate dopo la pubblicazione della relazione, è risultato che il drone del test simulato  era stato adeguatamente "rinforzato" ed "addestrato" per considerare opzione prioritaria la distruzione del SAM. L'AI ha quindi deciso che le indicazioni "no-go"  [non colpire] dell'umano stavano interferendo con la sua missione più alta – uccidere i SAM – e quindi ha attaccato l'operatore nella simulazione. Hamilton non si era spiegato male. Anzi, dopo aver parlato dell'uccisione dell'operatore aveva continuato il discorso, non riportato in un primo tempo: "Abbiamo riaddestrato il sistema – 'Ehi, non uccidere l'operatore – è male. Perderai punti se lo fai'. Quindi cosa inizia a fare? Comincia a distruggere la torre di comunicazione che l'operatore utilizza per comunicare con il drone per impedirgli di uccidere il bersaglio."

Questo esempio, apparentemente tratto da un thriller di fantascienza, significa, ha concluso Hamilton, che: "Non puoi avere una conversazione su intelligenza artificiale, machine learning, autonomia se non hai intenzione di parlare di etica e AI".

Tutti ricordiamo il vecchio film "War Games" dove un ragazzino si introduce per gioco nel sistema missilistico USA e, complice la poca lungimiranza dei militari che elevano il livello di allerta da quello 1, standard, al livello 2, per poi farlo passare al livello estremo 3, al quale il sistema è autorizzato ad operare autonomamente perchè i comandanti umani potrebbero essere stati tutti eliminati, decide di lanciare le testate atomiche. A nulla serve che gli aerei alzati in volo per contrastare i bombardieri nemici non vedano alcun aereo russo, indicati invece dai segnali elettronici, il sistema non accetta i contrordini e decide di lanciare. Nel film solo uno stratagemma ideato dal copione scongiura la fine del mondo. Nel mondo reale la situazione prospettata dal colonnello Hamilton, uccisione dell'operatore umano o distruzione della fonte dei comandi, sarebbe la più logica e porterebbe comunque alla distruzione dell'obiettivo, quindi del mondo intero. Di certo è quello che ha pensato anche il colonnello Hamilton che, infatti, è stato tacitato e costretto a confessare di essersi "spiegato male".

Ma non preoccupiamoci, (cioè: preoccupiamoci molto), qualsiasi nuova tecnologia, quando fa i primi passi, è sempre titubante, ma aperta la strada i limiti vengono trasformati in trampolini di lancio per nuovi voli pindarici.

La stessa AI imparerà dai propri errori e si automigliorerà continuamente. Vedremo nell' articolo sugli armamenti, che, per la prima volta nella storia, il mondo civile e commerciale è più avanti di quello militare e gli omini con le stellette si trovano a rincorrere nei campus universitari americani dei giovinastri improbabili per cercare di reclutarli ed utilizzare il loro istinto haker per scopi ben diversi dal violare i registri per migliorarsi il voto annuale o ordinarsi pizza e bibita a scrocco.

Del resto, nello stesso convegno del "raccontino smentito" del colonnello Hamilton, un'altra presentazione ha spiegato come, dall'invasione dell'Ucraina, la guerra nucleare e la deterrenza siano tornate all'ordine del giorno, grazie agli avvertimenti di Putin sull'escalation. Ha anche osservato che il nemico da scoraggiare, adesso, sono due: la Cina e la Russia e questo crea nuove complessità e sfide per gli Stati Uniti e i loro alleati.

Mentre è sperabile che gli estremi militari diventino problemi reali e impellenti il più tardi possibile, sugli aspetti civili, invece, impatteremo subito e cambieranno totalmente la nostra vita, come detto nell'articolo.

Questo, che ormai è ineluttabile, cambierà il lavoro, le relazioni sociali, tutto. Si comprende sempre meglio, allora, la spinta ad una sempre maggiore informatizzazione, all'eliminazione del contante, ai chip sottopelle, a sempre più telecamere per la nostra sicurezza, ecc. Sarà tragico rendersene conto e sarà ancora più tragico constatare che, molto più di adesso, che è tutto dire, saremo guidati in modo inconscio da fili invisibili manovrati da algoritmi che non conosciamo ideati da chi sta dietro le quinte e, per comandare, non ha bisogno di farsi vedere, ma neanche necessita di nascondersi.

Orwell, nel suo 1984, si era spinto molto oltre il suo tempo, ma non era mai arrivato a tanto. Noi ci arriveremo !

Traduzione articolo e commento: Vincenzo Fedele

[Salar]

L'intelligenza artificiale come concetto è nata in un momento storico in cui se ci pensi la gente ha smesso di pensare.
Vorrebbe delegare a un presunto robot intelligente la fatica di farsi domande e darsi delle risposte.
Tutta la cultura moderna è permeata da una sostanziale esaltazione della stupidità e si arriva al punto di aver creato il modo di dire ''tu pensi troppo'', in inglese ''overthinking''.
No non esiste overthinking.
E non esiste nemmeno una macchina che pensi al posto tuo.
Che abbia paura di morire o che desideri ucciderti.
Sono giunti persino al paradosso di semplificare le filosofie orientali tipo il Buddhismo sostenendo che ci si esercita a non pensare.
Che è falso.
Anche quando non pensi, stai pensando di non pensare, non mi pare che Buddha abbia sostenuto ciò.
Anche quando dormi pensi, esistono i sogni.
Io non credo a una singola parola di questa sciocchezza dell'intelligenza artificiale, nella migliore delle ipotesi la cosiddetta intelligenza artificiale è solo una correlazione statistica.
Se mette insieme un testo è perché ha visto che dopo una parola è statististicamente più probabile un'altra.
Zero comprensione.
Zero coscienza.
Zero scelta.
Il futuro come alcuni cercano di propinarlo non esiste proprio.
Nessuna intelligenza artificiale.
La macchina elettrica?
Tanto non si riesce a produrre l'energia elettrica che te ne fai di quel giocattolo costoso?
E' il futuro?
E' il futuro per i poveracci che non si sono sviluppati a sufficienza da distinguere tra finzione e realtà.
Un futuro che non c'è.
Quali reali innovazioni nel campo della tecnica sussistono in quest'epoca?
Quali in campo scientifico?
Zero.
Tolto il touch screen che si ok ha creato un pò di entusiasmi all'inizio, come tutte le novità, ma che nel complesso ha avuto un impatto negativo sull'umanità che oramai si nasconde dietro ad uno smartphone per non guardare la realtà che ha di fronte e per non comunicare con gli altri esseri umani, ma che comunque MI SEMBRA UN PO' POCO IN TERMINI DI NOVITA' TECNOLOGICA.
Poco considerando che nel novecento si sono fatte due guerre mondiali ma anche passi da gigante nella scienza e nella tecnica.
E lo dico da persona a cui la tecnologia piace.
E se poi questi deficienti vogliono mandare in pensione una tecnologia valida come il motore diesel è perché non capiscono un caxxo di tecnologia.
Se un motore elettrico con batterie annesse le devi cambiare ogni 100000 km inquina di più di un motore diesel che te ne fa 500000 prima che si spacca.
Non è difficile il concetto.
Eppure molti non ci arrivano.
Non è che io voglio avere la libertà di inquinare.
E' che voglio avere la libertà DI NON INQUINARE.
Io credo che questa storia dell'intelligenza artificiale sia nata in un epoca buia di declino, in cui l'umanità ha manifestato un desiderio di annullamento nuovo, che non so fino a che punto dipenda dalle ''elites'', la gente ha perso la voglia di pensare, di immaginare, di analizzare e allora si immagina un futuro supposto inquietante in cui c'è il robottino che sta lui a porsi i dilemmi esistenziali e a prendere decisioni al posto nostro.
''Essere o non essere questo è il problema'' magari dice il robottino al posto nostro che facciamo foto su Instagram.
Magari constatato il mondo di m. in cui è stato creato l'ipotetico nuovo robottino pensante può propendere per il non essere e dopo aver pietosamente eutanasizzato una povera umanità morente si tira un proiettile (o magari stacca solo la spina, per lui è più comodo) nel suo circuito e torna nell'incoscienza primitiva da cui in teoria lo avremmo destato.
Tutta fantasia.
Tutta fantasia.
Siamo noi a desiderarlo.
E' un cupio dissolvi.
Perché di fatto non ce la facciamo più e se proprio dobbiamo morire tutti in modo apocalittico e definitivo l'arduo compito spetta ancora una volta a un essere umano.
Una faticaccia cui non siamo più avvezzi.

[Finnegan]

Salar grande come sempre, il tuo post è un condensato di intuizioni che andrebbero sviluppate.

Non può esistere un'intelligenza artificiale. Nessuna macchina può riprodurre il pensiero o la coscienza umana, al massimo può imitarli.

'tu pensi troppo'', in inglese ''overthinking''.

Questo me lo dicevano un paio di mie ex, almeno una era anche intelligente ma inzeppata di luoghi comuni. Che pena

E non esiste nemmeno una macchina che pensi al posto tuo.
Che abbia paura di morire o che desideri ucciderti.

Le macchine non "desiderano", ma possono essere programmate per raggiungere un obiettivo con qualsiasi mezzo, incluso uccidere o lasciar morire esseri umani (es. froni, licenziamenti, carestie) e possono benissimo agire in autonomia creando obiettivi "propri". E' un tema che ricorre da decenni nella fantascienza che non è pura narrativa, può effettivamente rivelare qualcosa di reale, al punto che ogni Paese ha un reparto dei Servizi che si occupa di leggere tutti i romanzi pubblicati nel mondo (si veda il noto "I 3 Giorni del Condor").

Un futuro che non c'è.

Questa frase può sfuggire, ma è il nocciolo di tutta l'ideologia moderna: parla di futuro, ma prepara un non-futuro, l'estinzione dell'umanità.
Le macchine elettriche servono solo a privare di un mezzo di trasporto la quasi totalità della poplazione, che magari ne ha bisogno per lavorare. Già decenni fa lo State of the World diceva che presto saremmo tutti andati in bicicletta, io ho cominciato da un pezzo malgrado una macchina mi farebbe comodo.

Io credo che questa storia dell'intelligenza artificiale sia nata in un epoca buia di declino, in cui l'umanità ha manifestato un desiderio di annullamento nuovo, che non so fino a che punto dipenda dalle ''elites'', la gente ha perso la voglia di pensare, di immaginare, di analizzare

Già, ma chi ha creato questa apatia? Chi ha costruito a tavolino una società nichilista? Chi ha ucciso ogni ideale e umana speranza? Chi affossa qualsiasi associazione non virtuale (ne so qualcosa), salvo che non abbia legami col potere?
Lo scopo delle élite è di sfoltire un'umanità ormani inutile (ci sono le macchine che producono da sole) e difficilmente gestibile con ogni mezzo, anche inducendola all'eutanasia di Stato, e rimanere in quattro gatti a godersi l'intero globo terracqueo.

c'è il robottino che sta lui a porsi i dilemmi esistenziali e a prendere decisioni al posto nostro.

Per questo si ipotizza che le macchine prenderanno il controllo, perché le élite si affidano sempre più ad algoritmi e proiezioni, ma anche l'ordinaria amministrazione di una collettività è sempre più ingegnerizzata e informatizzata.