Ecco il bottone rosso da spegnere se i robot si ribellassero all'uomo

Un tasto rosso per bloccare mestamente l’intelligenza artificiale, prima che questa possa assumere risvolti pericolosi. Uno scenario da film che, in fondo, potrebbe pure trovare una mera applicazione pratica, giacché Google pare stia studiando un metodo sicuro per staccare la spina alle intelligenze artificiali qualora quest’ultime diventino incontrollabili. Il rimando va chiaramente al grande schermo e, in particolare, a celebri pellicole come Terminator, eppure la paura di situazioni apocalittiche in pieno stile cinematografico sembra esser balenata nelle menti del colosso di Mountain View. La prova è un lavoro orchestrato dai ricercatori londinesi di DeepMind, il laboratorio di ricerche specializzato in intelligenza artificiale acquisito nel 2014 da Google per un totale di 500 milioni di euro.

Stuart Armstrong dell'Università di Oxford uno degli autori della ricerca
Stuart Armstrong dell'Università di Oxford uno degli autori della ricerca

Come spiega il sito inglese Business Insider Google pare stia infatti collaborando con gli scienziati dell’Università di Oxford su un metodo finalizzato al blocco dei cosiddetti "agenti IA", onde evitare che questi diventino padroni di se stessi  fuoriuscendo conseguentemente dal controllo imposto dall’essere umano. Chiacchiericci che trovano invero il loro inverarsi all’interno di un documento in formato PDF pubblicato sul sito del "Machine Intelligence Research Institute" (MIRI) e intitolato, guarda caso, "Safely Interruptible Agents". Il pensiero dei ricercatori può esser letto nel file di cui qualche riga addietro, con annessa la paura che qualcosa possa andare per il verso sbagliato, ribaltando le barriere protettive umane: secondo quanto ribadito in modo netto ed inequivocabile, è piuttosto improbabile che l’intelligenze artificiali si comportino sempre "n modo ottimale", indi per cui potrebbe essere necessario "premere ungrosso pulsante rosso che impedisca all’agente d’intelligenza artificiale di continuare a porre in essere una conseguenza nociva di azioni, così da riportarlo in una situazione più sicura", si legge testualmente

I ricercatori hanno così creato un framework che permette all’operatore umano di stoppare mestamente il funzionamento dell’intelligenza artificiale, tenendo a mente la possibilità – comunque da preventivare – che l’agente IA possa imparare ad impedire il detto blocco. Il framework messo a punto da DeepMind permetterà quindi di far credere all’agente che l’auto-spegnimento sia il miglior comportamento da seguire. Alcuni algoritmi impiegati oggi e conosciuti sotto l’appellativo di "Q-learning" possono esser spenti dagli operatori umani, mentre altri (quali "Sarsa" ad esempio) non lo sono, sebbene possano esser modificati facilmente cosicché diventino sicuri.

Bisogna comunque tenere a mente che non esistono ad oggi intelligenze artificiali così evolute e tali da metter in pericolo il genere umano, sulla scorta di "Skynet" di Terminator, eppure il progresso del detto settore è esponenziale e quindi è difficile, ad oggi, capire quando l’umanità avrà bisogno di premere il fatidico tasto rosso. Secondo il Future of Humanity Institute, le macchine diventeranno più intelligenti dell’uomo entro i prossimi cento anni, ed è per questo che una via di fuga dev’esser già in studio prima che queste possano prendere il controllo e ribellarsi contro i propri creatori.

Bibliografia e fonti

+ La ricerca http://intelligence.org/files/Interruptibility.pdf

Scrivi commento

Commenti: 19
  • #1

    Lau (mercoledì, 08 giugno 2016 19:05)

    non fa per me, ho difficoltà anche a spegnere la lavatrice ^^

  • #2

    Daniele (giovedì, 09 giugno 2016 00:06)

    Paradossale.
    dal momento che non sappiamo ancora bene come funzioni la mente umana, e non sappiamo bene come realizzare una vera intelligenza artificiale credo sia paradossale
    pubblicare come spegnere un qualcosa che di fatto ancora non esiste.
    Altro paradosso e che se realmente le intelligenze artificiali diverranno piu' intelligenti di noi e chiaro che saprebbero gia' anticipare le nostre mosse per disattivarle.
    E ancora restando nel campo dei paradossi non vedo l'utilita' pratica di costruire macchine piu' intelligenti di noi dal momento che una volta realizzate noi stessi non saremmo in grado di comprendere il loro operato, ne il loro pensiero.
    Credo tuttavia, che una volta imboccata questa strada, non esista una via di ritorno.
    Se le realizziamo poi non torniamo piu' indietro, e assisteremo ad una evoluzione parallela, che portera' alla fine ad un unico vincitore e credo saranno le macchine.
    Insomma creeremo i "Siloni" ?
    e quando i "Siloni" avranno preso il sopravvento...saranno i "Siloni" a ricreare l'uomo ?
    Come l'uomo ha cercato di creare l'uomo meccanico, l'uomo meccanico cerchera' di creare l'uomo biologico ?
    Non lo so anzi mi e' venuto gia' il mal di testa....o mal di circuiti ? oddio sono forse un Silone ?

  • #3

    Marco V (giovedì, 09 giugno 2016 00:32)

    Daniele sei fantastico.

  • #4

    FABIOSKY63 (giovedì, 09 giugno 2016 06:46)

    NON sei lontano Daniele... :)

    abbiamo di fronte "due vie", una è scientifico-tecnologica, l'altra è spirituale-exstrasensoriale...NON è IMpossibile "sceglierle" entrambe e il nostro "futuro" potrebbe averlo già fatto... -_o

  • #5

    UfoDrome (giovedì, 09 giugno 2016 09:20)

    ... ma cosa vogliono spegnere ?

    ... se l'AI raggiungesse livelli di non ritorno i cosiddetti agenti verrebbero superati prima ancora di agire ...

    ... tutte le ipotetiche azioni e contro-azioni verrebbero vagliate dal sistema artificiale meglio che in una partita a scacchi (e già sappiamo chi vincerebbe) ...

    ... a ogni modo stì PDF contenenti linee guida basate sul futuribile ... sanno tanto di supercazzola come i fantomatici pianeti abitabili di Keplero :O:O:O

  • #6

    Walter (giovedì, 09 giugno 2016 09:56)

    Il pericolo da evitare è la soppressione del genere umano a opera delle macchine. La soppressione fisica intendo. Forse qualcuno non sa che già dagli anni 70 quando si diffondevano i primi elettrodomestici intelligenti il MIT aveva fatto una ricerca sull’effetto del The Limits to Growth "Rapporto sui limiti dello sviluppo", sull'ipersfruttamento tecnologico che metteva a repentaglio la nostra esistenza. Tutte ipotesi puntualmente verificate. Allora come mai sappiamo le cose, e poi non le preveniamo?

  • #7

    UfoDrome (giovedì, 09 giugno 2016 10:31)

    ... l'AI è l'ultimo dei problemi ... io mi preoccuperei più dell'HI (Human Intelligence ... o Human Idiocy ... fate voi) ...

    ... l'umanità più che dalle macchine dovrebbe guardarsi dalla finta ricerca protesa alla realizzazione segreta di esseri da laboratorio biologicamente super avanzati e fortemente interconnessi con nuove tecnologie ... vere e proprie milizie costituite dai cosiddetti super soldati (o mezze macchine) con forze e sensi sovrumani privi però di sentimenti umani (condizione necessaria per eseguire crimini contro l'umanità) ...

    ... chiamateli come meglio vi aggrada, cyborg, ciber warrior, cloni, replicanti, tecnozombies, ibridi innestati ... tuttavia rappresentano l'optimum per chi desidera azzerare la razza umana e governare il mondo con spietati infallibili mercenari ...

  • #8

    Yale (giovedì, 09 giugno 2016 11:30)

    L'Intelligenza artificiale ha un limite, non è flessibile ;) Il nostro cervello non prende sempre le decisioni sulla base razionale come farebbe una I.A ma sulla base dell'istinto, dell'opportunità e di altre variabili. Cosa che un robot non potrà mai fare. Come diceva quel moto? "La potenza è nulla senza controllo".
    I robot non saranno mai più intelligenti degli esseri umani, perché se dovesse capitare sarà l'uomo ad averlo voluto in uno slancio autolesionistico. Secondo me non c'è pericolo, però ben venga il bottone rosso..tanto non servirà a nulla...

  • #9

    Daniele (giovedì, 09 giugno 2016 15:39)

    Il "vecchio lupo di mare" UfoDrome ha giustamente spostato l'accento della discussione.
    E infatti ha ragione.
    E di fatto paradossale, atterrisi per una eventuale presa di potere delle macchine e conseguente estinzione della razza umana che potrebbe avvenire tra 50-100 anni, quando alla cosiddetta intelligenza biologica (noi) bastano solo 20 minuti di volo per cancellare la vita sul pianeta con i missili nucleari.
    oh a proposito, che cariiino che e' stato Obama a visitare il Giappone, e ricordare l'olocausto nucleare, proprio una settimana dopo aver firmato il nulla osta per la costruzione di nuovi 400 missili a testata nucleare di nuova generazione.
    Giuro, io mi sono commosso, (anche quelli della Lockheed Martin piangevano io credo piangessero piu' per la gioia dell'appalto,che per la commemorazione delle bombe atomiche sul Giapppone ma non ne sono sicuro).
    Cmq a Obama hanno dato il premio nobel per la pace e su questo non si discute !
    Io credo che forse si riferivano alla pace eterna, ma ormai gli e' quasi scaduto il mandato, e credo che a pigiare il tasto rosso dovra' pensarci Hillary !!!
    Si non ho scritto Trump ! infatti i rumors dicono che Trump sia solo un imbecille, e se eletto pensera' solo a leggi che promuoveranno i suoi affari immobiliari, e di fatto le esplosioni nucleari nuocciono gravemente sugli affari immobiliari. Mentre Hillary e' descritta come una vera sadica e sanguinaria 1000 volte piu' pericolosa di Trump.
    cmq state tranquilli le bombe nucleari producono impulsi EMP che friggono tutti i circuiti elettronici.
    Madre natura che adora l'ironia ci ha messo una pezza ! in caso di guerra nucleare facciamo fuori in un sol colpo uomo e macchine (due al prezzo di uno).
    La Terra ringrazia apre le finestre e finalmente respira ! e in circa 10.000 anni la Terra torna a essere il paradiso di madre natura.
    E visse per sempre felice e contenta.
    (ok adesso potete commuovervi...ma con moderazione)

  • #10

    UfoDrome (giovedì, 09 giugno 2016 16:23)

    @Daniele

    ti ringrazio per l'apprezzamento ;););) ...

    ... sai, solitamente approccio ogni tematica con una regola d'oro ovvero: evitare di guardare il dito per guardare la luna ... ma soprattutto per guardare "anche" quel che c'è dietro, sul lato oscuro (che solitamente è molto più realistico di quello apparente) ... ;););)

    ... al prossimo argomento ... un cyber-saluto ;););)

  • #11

    Malles (giovedì, 09 giugno 2016 16:52)

    Argomento interessante cari amici che, forse, richiede altri approcci. Si passa con troppa disinvoltura dal sacer-terrificum al post hoc-ergo propter hoc...Vi è necessità di uscire, almeno un pò da un ragionamento quasi eretico, con un altro più aperto. L'uomo stesso potrebbe avere una intelligenza artificiale, ed esserlo nel suo insieme...

    A mio avviso l'errore "atavico" e di fondo è che la storia della scienza è stata letteralmente in opposizione ai concetti della parapsicologia, ed anche alle varie religioni, considerando la potenzialità della mente in un modo sempre non confacente, arrivando fino ai giorni nostri ad un collasso nervoso culturale. L'inflazione scientifica scavalcando i nostri tentativi di essere intelligenti, colti e logici, non ha mai considerato che ciò che crede sia tutto frutto del materialismo, in realtà ha altre varianti (finalità??) che la sovrastano.

    Qualunque tipo di intelligenza artificiale non potrà mai raggiungere e paragonarsi all'essenza umana. Il modo con cui oggi si considera la vita è in termini "tecnici", il paradigma materialista-RIDUZIONISTA della realtà. In altre parole questo significa che abbiamo la credenza, la fede scientifica, che ogni cosa possa essere spiegata in termini fisici e meccanicistici. E' questo il principale postulato della scienza attuale. Si presume (sbagliando) che, con una ricerca intensiva, riusciremo infine a a capire meccanicamente come funziona la mente, presumendo che il cervello sia come un computer meccanico altamente elaborato.

    Il paradigma material-riduzionista della realtà è una credenza che tutto possa essere spiegato e descritto in termini puramente fisici e meccanici. A ben vedere, spulciando bene la fisica moderna, avremmo dovuto da tempo imparare che il mondo fuori di noi è totalmente oggettivo, che ciò che vi scorgiamo dipende in parte dallo stato della nostra mente e che noi possiamo, in realtà, essere i creatori del mondo esterno. Avendo in noi (facendo eventualmente le veci dell'Architetto dell'Universo...) le capacità di costruzioni inimitabili da qualsiasi macchina, al punto che i mattoni di cui è costruito l'Universo stesso potrebbero rivelarsi puro materiale mentale, altro che macchine.
    Un saluto

  • #12

    FABIOSKY63 (venerdì, 10 giugno 2016 01:48)

    cit. Malles
    "...ciò che vi scorgiamo dipende in parte dallo stato della nostra mente"..."i mattoni di cui è costruito l'Universo stesso potrebbero rivelarsi puro materiale mentale..."

    anche te apprendista NON sei lontano, e anche Fuffodrome, e anche Walter s'avvicina...e Yale, dietro l'angolo, già sbircia di soppiatto "il rettilineo"... :)

    l'ho detto da Musk...Energia è massa, e quello di cui siamo fatti è massa, e quindi è Energia, così anche i nostri pensieri, e "i sentimenti", e le empatie, e le extra-sensorialità, sono tutte "Energia"... -_o

    e quindi possono divenire massa...la transitiva! è come l'autobus, col numerino -l'otto-, che gira e rigira ma fa SEMPRE le stesse fermate... -_o

    hai provato a Volerlo, Lau, di spegnerla? mmmh!..SENZA toccarla, èh?!. -_o

  • #13

    vradox (venerdì, 10 giugno 2016 06:56)

    ....poi le intelligenze artificiali lavoreranno per disattivare il bottone rosso.... click..click...aaargh!!

  • #14

    UfoDrome (venerdì, 10 giugno 2016 08:31)

    @Cacosky63

    ... il mio nick é UfoDrome e se magari la finisci di rompermi le OO faresti una cortesia all'intero forum ...

    ... detto che non sei ne la bibbia ne il profeta ... casomai quello che si avvicina potresti essere tu ... hai mai preso in considerazione questa casistica signor zichichirichì ?

  • #15

    Malles (venerdì, 10 giugno 2016 13:49)

    L'amico UfoDrome probabilmente non ha considerato nella sua interezza il dott. Fabiosky63, che può essere legittimamente criticato, ma ha basi fondamentalmente serie, forse mal espresse, pure scientifiche, non lo si può negare, probabilmente travalica i tempi entrando anzitempo nel futuro, ma chi non sogna? Certo, forse lui più di altri, ma niente più. va comunque rispettato.

    Semplicisticamente si potrebbe dire che le sue sono fantasie dell'inconscio, ma anche la fantasia dell'inconscio non può prescindere dal bagaglio culturale, filosofico e religioso della persona. Mentre in tutto il mondo le esperienze diventano simili, se non identiche, lui si distingue e si diversifica. Sto parlando seriamente, è quello che penso. Andrebbe in più e di più condiviso il benessere interiore come modo di vita.

    L'articolo, anche se non sembra, porta ad esternazioni estremamente vaste e complesse nel loro sviluppo e sarebbe necessario un approfondimento che purtroppo non è consentito dallo spazio limitato. Come va la parapsicologia con la scienza dei nostri giorni? Male, grazie... facile preda e facile bersaglio della scienza restrittiva che non trova sbocchi.

    Nel nostro mondo vi è una coscienza, una volontà, una libertà e una finalità che, in varie misure, è antica quanto l'uomo. La scienza moderna, pur non accettandola, non potrà mai dimostrarla errata, Niente in assoluto da spartire, a paragone, con avveniristici macchine impregnate da "coscienze" artificiali.
    Un saluto

  • #16

    Lau (venerdì, 10 giugno 2016 13:54)

    @Fabio Fin quando può farlo mia madre sto volentieri lontano dalla lavatrice ^^

  • #17

    Giotto (venerdì, 10 giugno 2016 14:02)

    Daniele questa l'ha detta grossa..."quando alla cosiddetta intelligenza biologica (noi) bastano solo 20 minuti di volo per cancellare la vita sul pianeta con i missili nucleari."

    Questo non è vero, le testate nucleare non possono annientare l'umanità neanche se le usi tutte insieme. E' una leggenda metropolitana, l'uomo è molto più resistente di quanto pensi, ci sono zone della Terra che rimarrebbero al sicuro con un ripopolamento stanne certo. Forse possono annientare la nostra tecnologia o farci piombare in una recessione mondiale. Oppure ti sei espresso male e hai paura che i missili vengano lanciati da un hacker?

  • #18

    Daniele (venerdì, 10 giugno 2016 23:08)

    @ Giotto
    Ciao Giotto, felice di rileggerti. Oddio, mi sono immaginato Crozza che con una battuta
    riferito al tuo commento dicesse "ma...queste bombe h....saranno mica diventate anche ,loro "Bio"....come la verdura ?
    Se vedete un video propaganda degli anni 50 made in usa, per sopravvivere all'esplosione nucleare bastava nascondersi sotto il tavolo (li trovate su you tube e sono di una ingenuita' che la dice lunga sul potere della propaganda politica e le masse.
    Cmq piu' seriamente ti dico che la faccenda e' piu' seria. Puoi crederci o no, ma proprio durante la prima guerra nel Golfo ero militare a Rieti nel corpo NBC Quindi qualcosiana un po' ne mastico visto che per mesi mi son dovuto sorbire lezioni su
    effetti diffusione dosimetria ecc, ecc (il corso in aula duro' 6 mesi)
    Ma lasciamo perdere i miei trascorsi, e veniamo alla "ciccia".
    L'esplosione di una bomba nucleare crea un effetto emp che brucia tutti i cricuiti elettrici,chip, ecc ecc Piu' la detonazione e' altra piu' il cono emp e' grande.
    Ora supponiamo che come dici tu, tuttosommato si sopravviva. Ma !
    ci e' sfuggito un piccolo dettaglio secondario. Ricordi che cosa ha fatto un onda in Giappone che ha colpito la centrale di Fukushima ? certo che si ha messo fuori uso la linea elettrica, i generatori, e di conseguenza l'impianto di raffreddamento. Risultato un triplice meltdown. Ora immagina che i paesi confinanti con l'italia come francia e germania hanno piu' di 50 reattori nucleari. Ora immagina uno scenario di guerra nucleare. I soli impulsi emp metterebbero ko tutti i sistemi di controllo nella zona di decine e forse centinaia di km. La scenario sarebbe che ci troveremmo ad affrontare qualcosa come 10 - 20- o anche 50 chernobyl !!! a questo punto il danno secondario sarebbe immensamente piu' spaventoso e definitivamente letale.rispetto all'esplosione delle bombe nucleari.
    Se poi immaginiamo una guerra nucleare mondiale, potremmo ritrovarci con 50 - 100 Cernobyl !!! piu' le radiazioni delle bombe.
    Non credo che questo scenario offra via di scampo.
    Vorrei ricordare alle scettici che questo scenario e gia successo !!!
    nel 1981 gli israeliani scatenarolo l'operazione Babilonia, bombardando il reattore nucleare irakeno Osiraq.
    Quindi in caso di guerra tutte le centrali nucleari saranno ottimi bersagli.

    Raga..l'unico missile intelligente e' quello che non viene lanciato. Lasciamo a Luttwak
    l'adulazione per la guerra, e credetemi la prima volta che gli americani faranno la guerra a casa loro con le armi moderne (invece di farla sempre a casa degli altri prima mettendo dittatori e poi attaccando con la scusa di eliminare un dittatore e portare la democrazia ovviamente depredando il paese di tutte le risorse.)
    capiranno un po' meglio l'antifona.
    Vabbo' raga un saluto H a tutti

  • #19

    UfoDrome (lunedì, 13 giugno 2016 09:27)

    ... è bastato vedere cosa è successo a Chernobyl e Fukushima ... se scoppia una guerra nucleare non esiste posto sicuro sulla Terra ... ammesso che sia possibile sopravvivere sotto chilometri di granito con scorte e viveri ... per quanto tempo durerebbe ?

    ... molti elementi radioattivi impiegano millenni prima di decadere ... nel Nord-Est (prima barriera alpina ai tempi della nube di Chernobyl) boschi e funghi (notoriamente fagocitatori di elementi radioattivi sul suolo) dopo 30 anni hanno ancora tassi elevati di radioattività ...