 |
| Campagna per fermare i robot assassini |
Rachele Gonnelli - 19.03.2019
Piccolo come un giocattolino, un ragno meccanico appoggiato sul palmo di una mano quando è a riposo, ma capace di volare, schivare gli ostacoli, scartare di lato, velocissimo, di riconoscere una faccia attraverso i dati immagazzinati e i sensori, di individuarla come bersaglio e come una fulminea ape elettronica si tuffa per penetrarne l’osso frontale in mezzo agli occhi con una carica di tre grammi di esplosivo.
Ecco, questo delicato marchingegno kamikaze senza colpe né dubbi è un killer robots, un mini drone programmato per decidere autonomamente chi uccidere e chi no, il protagonista prescelto per le guerre «intelligenti» del futuro, un futuro non tanto lontano.
GIÀ DA UN PAIO D’ANNI negli Stati uniti si è sviluppato un dibattito sulla messa al bando preventiva di questi sistemi d’arma che, utilizzando robotica di precisione e tutte le tecnologie più innovative nel campo dell’intelligenza artificiale, sono chiamati ad agire militarmente, nuovi soldatini guidati da una complessa serie di algoritmi piuttosto che dalla imprecisa e tremolante mano umana.
Già 28 Paesi, tra cui la Cina, hanno chiesto la loro messa al bando; ci sono a Bruxelles tavoli di esperti che studiano la materia e riferiscono a governi europei estremamente preoccupati del possibile lancio di questa nuova gamma di micidiali prodotti, ordigni intelligenti ma non troppo, visto che possono scambiare uno scuolabus per uno struzzo e forse per un commando terrorista attraverso errori di progettazione e quelli che gli esperti chiamano «bias» o «bachi di sistema», in ogni caso capaci di rivoluzionare lo scenario di una conflittualità mondiale permanente come quando e molto di più fu esploso il primo fungo nucleare.
Pochi giorni fa la Rete italiana per il disarmo – vincitrice del premio Nobel per la pace 2017 come partner dell’Ican – ha lanciato la campagna «Stop killer robots» anche in Italia – dopo Francia, Germania e Usa – con un appello firmato da 110 scienziati italiani, ricercatori, dottorandi e professori universitari, quasi tutti informatici, ingegneri della conoscenza, esperti di robotica e di Ai, intelligenza artificiale, che chiede alla comunità internazionale di fermare l’elaborazione di sistemi d’arma a guida autonoma.
«In realtà ci può anche essere una autonomia totale dell’arma per quanto riguarda l’autodiagnosi, per vedere se c’è un malfunzionamento, o sulla mobilità ma non sul targeting e sul firing, cioè sulla scelta dell’obiettivo da colpire e sul far fuoco», spiega Diego Latella, segretario dell’Unione scienziati per il disarmo (Uspid) e informatico ricercatore del Cnr.
QUELLO CHE GLI SCIENZIATI chiedono anche nella petizione lanciata dall’associazione Life for Future (finanziata anche da Elon Musk di Tesla ndr) è la messa al bando delle armi completamente autonome quando i gradi di autonomia sono tre – spiega Latella – e si definiscono con la minimizzazione dell’intervento umano: «human in the loop» a totale controllo dell’uomo, «human on the loop», quando l’uomo interviene, «human out the loop», quando la presenza umana non è richiesta per niente.
«Non si tratta qui di dividerci tra apocalittici e integrati – dice Guglielmo Tamburrini, professore di filosofia della scienza alla Federico II di Napoli – ma di maturare una sensibilità morale ad ogni grande innovazione tecnologica e se è vero che l’intelligenza artificiale e la robotica hanno un grande impatto positivo applicate alla sanità o ai trasporti, persino ad attività di sorveglianza e di difesa, armi che vagano in uno spazio alla ricerca del nemico da colpire indipendentemente da qualsiasi controllo umano pongono l’umanità stessa a rischio».
SI PONGONO PROBLEMI ETICI e giuridici, visto che interrompendo la catena umana di comando, sarebbe impossibile definire la responsabilità dei crimini di guerra, mettendo in mora tutto il diritto internazionale e la convenzione di Ginevra. Piccoli e grandi Terminator poi non sono completamente prevedibili e si potrebbero verificare inarrestabili genocidi in una lotta tra uomo e macchina di cui abbiamo avuto un assaggio con il recente caso del jet etiope precipitato.
----------------------------------
dalla pagina https://ilmanifesto.it/gli-war-games-sono-gia-iniziati-tossine-biotech-e-sciami-di-droni-killer/
I war games sono già iniziati: tossine biotech e sciami di droni-killer
Guerra fredda 2.0. L’allarme dell'ultimo rapporto Bio Plus X del Sipri: nuove minacce da un possibile mix bellico di AI, stampa3D con bioink e robotica
Rachele Gonnelli - 10.04.2019
Piccoli e silenziosi, il nemico non deve sentirli arrivare: i mini droni interattivi sono la nuova ossessione degli alti papaveri degli eserciti. Per il momento fanno «volare» nuvole di soldi: 99 milioni di dollari per introdurli nel vecchio programma Shadow del Pentagono e 75 milioni di sterline per integrarli nella Royal Navy britannica – con o senza Brexit – solo per parlare degli ultimi stanziamenti di questo inizio aprile.
E intanto si sperimentano sempre più autonomi e precisi, nell’individuare mine e sottomarini, nel pattugliare territori di confine, deserti e giungle, nel riconoscere bersagli, nel trasportare munizioni e riparare armi tramite la tecnologia della «stampa3D». Ma soprattutto – per il momento – sono un fiore all’occhiello nei «giochi di guerra», cioè nelle esercitazioni tattiche che tanto piacciono ai militari e che fanno parte di questa epoca di «Fase-zero» (o Zero Phase) nella tassonomia della guerra.
È così che si chiama in gergo militare americano la nuova versione della guerra fredda, comprensiva del cyberspazio.
Un’epoca caratterizzata anche e soprattutto di spionaggio online, disinformazione di massa organizzata attraverso fake news e social media com’è stato durante la campagna elettorale di Donald Trump, cyber-attacchi per mandare in panne i sistemi informatici governativi com’è successo non più tardi di un mese fa in Spagna (è stato a metà marzo e il ministero della Difesa iberico ha attribuito la responsabilità a una non meglio identificata «potenza straniera»), diffusione di allarmi tipo l’antrace, o eliminazione di agenti segreti con cocktail, tisane e profumi infettati da radioisotopi di potenza letale .
Del resto torri robotiche di sorveglianza sono state studiate tra Stati uniti e Messico come «muro digitale» per un certo tempo preferito dal presidente Trump. Si trattava del progetto «Anduril» ideato – e realizzato in esperimento lungo la frontiera del Rio Grande – dal più celebre giovane supporter del presidente: il 26enne Palmer Luckey.
E del resto una barriera dello stesso genere sarebbe stata proposta, e poi scartata dalla Ue, anche tra Turchia e Siria, sempre in funzione «anti-invasione» di migranti, proprio come «anti-invasione» sono le torri realizzate dalla Samsung per monitorare la fascia di territorio tra le due Coree – unico esempio realizzato di Killer robots in funzione –, letali per qualsiasi essere umano si trovi ad attraversare la terra di nessuno tra le due barriere di confine.
Lo scenario successivo a questa «Fase-zero» è però molto, molto più inquietante. L’ultimo rapporto del Sipri (Stockholm International Peace Research Institute), autorevole organizzazione di analisi delle spese militari e politiche della sicurezza nel mondo, lancia un allarme sui possibili esiti bellici di alcuni recenti sviluppi tecnologici. Un allarme che comprende i Killer robots, sistemi d’arma integralmente automatici, capaci cioè di decidere quando e se colpire indipendentemente da qualsiasi decisione umana, ma va oltre.
Il rapporto, uscito a fine marzo – Bio Plus X: Arms control and the convergente of biology and emerging technologies – del Sipri, sostiene che i progressi della biotecnologia (la manipolazione genetica degli organismi, dai batteri ai tessuti umani) potrebbero essere messi a servizio della proliferazione di armi biologiche e avere un effetto disruptive esponenziale se unite alle altre tre tecnologie “emergenti”: l’intelligenza artificiale (in sigla Ai, comprensiva del machine learning), la robotica e la additive manufacturing (in sigla Am, più comunemente nota come stampa3D).
Attualmente la convergenza di queste tecnologie innovative in ambito bellico è non solo possibile ma difficilmente controllabile anche attraverso la diffusione delle informazioni e la creazione di laboratori-cloud, dove gli esperimenti possono essere compiuti anche in remoto, da piccoli gruppi disarticolati e informali di sviluppatori. Non si tratta certo di fermare i progressi scientifici, da cui dipendono gli straordinari avanzamenti in ambito civile e soprattutto sanitario sia diagnostico, sia per le cure personalizzate del cancro e delle malattie rare e persino sui modelli predittivi di nuove epidemie.
Per il Sipri però l’unico strumento di controllo esistente, la Convenzione contro la proliferazione delle armi biologiche e tossiche del 1972, si dimostra insufficiente e deve essere quanto meno riformato e adeguato alle nuove minacce biotecnologiche.
Sipri propone un comitato consultivo scientifico di monitoraggio permanente che affianchi le istituzioni di controllo legate al trattato del 1972, standard di sicurezza per i dati genomici e di privacy, codici di condotta per gli scienziati, corsi obbligatori sull’etica della ricerca e la biosicurezza negli istituti di ricerca e nelle università e altro ancora. Nel frattempo la commissione delle Nazioni unite sul monitoraggio delle nuove armi che si è riunita a Ginevra a fine marzo, non ha preso nessuna decisione.
Neanche per rispondere alle sollecitazioni della campagna Stop Killer robots che si sta diffondendo in oltre 28 Paesi. Francesco Vignarca, coordinatore della campagna in Italia e portavoce della Rete Disarmo, sostiene che per superare le resistenze russe, cinesi e statunitensi alla messa al bando delle armi interamente autonome dal controllo umano «adesso non si può che sensibilizzare l’opinione pubblica, i parlamenti e i governi, per attivare un percorso negoziato verso un nuovo trattato».
Già nelle prossime settimane è stata chiesta dalla campagna Stop Killer robots una audizione sia al Senato sia alla Camera e a maggio sarà organizzato un evento seminariale all’interno del Festival dei diritti umani.
