La “prima legge della robotica” ideata da Isaac Asimov è stata infranta.
Creato il primo robot che sceglie se ferire o no l’essere umano.
ROMA – Robot che si ribellano all’uomo e minacciano l’umanità.
Troppe volte ci siamo domandati quanto in là si può giocare a fare dio con la tecnologia: la più gettonata trama dei racconti di fantascienza potrebbe un giorno fare i conti con la realtà?
Sembra proprio di sì.
La “prima legge della robotica” ideata da Isaac Asimov è stata infranta.
A violare la norma che vieta ai robot di ferire gli uomini – “Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno” – è stato Alexander Reben, un ingegnere dell’università di Berkeley che ha creato il primo dispositivo IA in grado di scegliere se pungere o no un dito, provocando una ferita.
Non a caso il robot è stato chiamato “The First Law”, La Prima Legge.
The First Law è in grado di pungere un dito, ma in modo del tutto casuale.
In definitiva, può decidere o meno di infliggere dolore senza che il suo creatore lo possa prevedere.
“Anche se esistono droni ‘killer’, c’è sempre qualche persona che prende decisioni o programma il sistema. Il modo in cui questo robot si differenzia da ciò che già esiste è il processo decisionale che fa. Una mina per esempio è fatta per esplodere quando calpestata. Un drone ha una persona che lo manovra, inserire la mano in un frullatore in esecuzione è la vostra decisione. Il fatto che a volte il robot decide di non ferire una persona (in un modo imprevedibile) è in realtà quello che porta a riflettere sulle questioni importanti e che lo distingue. I sistemi precedenti sono fatti anche per uccidere quando premendo un grilletto, ma ferire senza motivo è generalmente visto come un torto morale. Ovviamente, un ago porta una quantità minima di ferite, tuttavia – ora che questa classe di robot esiste, dovrà essere affrontata”.
Sebbene i “robot killer” possano sembrare ancora inverosimili, questa invenzione suggerisce che forse abbiamo fatto un passo avanti verso questa realtà distopica.
Il robot è costato circa 200 dollari per costruirlo in appena 3 giorni.
Ma Reben non sta cercando di commercializzarlo.
Al contrario, lo stesso creatore ha voluto realizzare il robot per far riflettere prima che sia troppo tardi sui rischi di intelligenze artificiali “pericolosamente” evolute:
“La grande preoccupazione sulle intelligenze artificiali è che possano andare fuori controllo. I giganti della tecnologia affermano che siamo ben lontani da questo, ma pensiamoci prima che sia troppo tardi. Io sto provando che robot pericolosi possono esistere, dobbiamo assolutamente confrontarci sul tema”.
L’argomento non è assurdo come si può pensare.
Recentemente un team di Google ha affermato di aver realizzato il “pulsante rosso” per in grado di “arrestare” le azioni nocive dell’intelligenza artificiale ma anche di impedirgli di comprendere l’esistenza del sistema di emergenza in modo tale da poterlo raggirare facilmente.
