Google: arriva il pulsante rosso per spegnere i computer troppo cattivi

All’indomani della prima composizione musicale fatta con un computer grazie al progetto “Magenta”, arriva sempre da casa Google il “pulsante rosso”, come precauzione per spegnere l’intelligenza artificiale qualora diventasse troppo pericolosa. La tecnologia aiuta gli umani in tanti aspetti della vita quotidiana ma Big G ha pensato, saggiamente, di porre un freno a eventuali episodi di “insurrezione”. Scenari da “Ex Machina”, “Terminator” o da “Futurama” in cui i robot e le intelligenze artificiali si ribellano ai loro creatori, fino ad adesso, sono accaduti nei film e nei cartoni animati dato che non esistono, al momento, intelligenze tanto evolute. Ma si sa, prevenire è meglio che curare eventuali scenari cinematografici che hanno fatto tanta paura sul grande schermo o in televisione.

Così, il team DeepMind – azienda acquisita nel 2014 da Google – insieme all’Università di Oxford, ha pubblicato i risultati del recente studio sul magazine Machine Intelligence Research Institute dell’università californiana di Berkeley. Secondo i creatori del “pulsante rosso”, questo sarebbe in grado di “arrestare” le azioni nocive dell’intelligenza artificiale ma anche di impedirgli di comprendere l’esistenza del sistema di emergenza in modo tale da poterlo raggirare facilmente.

“Il nostro framework – spiegano da Google – fa sì che il supervisore umano prenda temporaneamente il controllo dell’agente e lo induca a credere di voler spegnersi da solo”. Tuttavia non è ancora chiaro, hanno sottolineato gli scienziati al sito Business Insider, “se tutti i tipi di algoritmo possano essere ‘interrotti’ facilmente e in modo sicuro”. Per questo lo studio continua e verrà illustrato in maniera più ampia alla Conference on Uncertainty in Artificial Intelligence (UAI) in agenda a New York a fine giugno.

(dire.it)

(140)