Perché Stephen Hawking ci ha messi in guardia sull’Intelligenza artificiale

?Temo che l'Intelligenza artificiale possa sostituire del tutto gli umani?. Questo aveva detto Stephen Hawking in un'intervista a Wired USA nel corso del 2017. Una dichiarazione fondata su ciò che la tecnologia già oggi permette di fare: ?Se qualcuno può creare virus per computer che si auto-producono, non vedo perché non si possa fare lo stesso per un sistema AI che si replichi costantemente. Sarebbe una nuova forma di vita, capace di superare l'uomo?.

Il fisico scomparso il 14 marzo ha studiato a fondo i temi legati alla scienza e all'informatica, non solo a livello tecnico ma anche etico. Non a caso, da diverso tempo si era posto in maniera alquanto critica nei confronti della ricerca nel campo AI priva di un criterio di fondo, mossa cioè dal solo obiettivo di andare oltre gli schemi presenti, quasi vi fosse una gara alle organizzazioni e istituti in grado prima di altri di confermare l'esistenza di una coscienza in silicio. Tutto molto sbagliato perché, in questo modo, non si argina il primo e fondamentale problema del super-cervello artificiale che verrà: il predominio sulla razza umana.

Cosa diceva Hawking

Il sunto dell'Hawking-pensiero sul pericolo del troppo lasciarsi andare all'innovazione incontrollata è questo: ?Abbiamo bisogno di regolare il nostro comportamento, basandoci su ciò che ci contraddistingue dalle macchine: la logica e la ragione. Il vero rischio con una AI che eccelle in qualcosa è la competenza. Quando un robot avrà degli obiettivi farà di tutto per raggiungerli, qualunque ostacolo incontrerà sul suo cammino?.

Le formiche e il formicaio

C'è un esempio calzante ed estremamente utile con cui il fisico intendeva la differente attività del cervello umano da quello informatico: ?Un responsabile di un progetto idroelettrico, che sul terreno scopre un importante formicaio, probabilmente lo sposterà, per far spazio all'opera. Un giorno (con le macchine al lavoro ndr.) quel formicaio potremmo essere noi?.

Non c'è alcun motivo per non lasciare entrare il futuro nella nostra società ma farlo con la dovuta discrezione è quanto mai necessario dinanzi a tecnologie che hanno un grosso potenziale ma anche varie incognite difficilmente prevedibili adesso.

Arma di distruzione

Non va nemmeno frainteso il discorso di Hawking in merito alla AI come arma di distruzione di massa. Molte delle tecniche dirompenti realizzate dall'uomo, con l'aiuto delle scoperte scientifiche, sono diventati mezzi da rivoltare contro i suoi stessi simili. Pensiamo agli impulsi elettromagnetici (emp), che in medicina (in piccole quantità) possono tornare utili per curare dolori ossei (c'è uno studio del 2015 pubblicato su Rheumatology da un gruppo di ricercatori dell'Università di Messina) mentre in campo militare mettono al repentaglio la vita di milioni di persone, per l'ipotesi di una bomba all'idrogeno.

I crash di sistema

Sulla stessa falsariga, robot costruiti per aiutare l'uomo, se manomessi e comandati a distanza, potrebbero diventare molto pericolosi, in fabbrica, in mezzo alla città, in casa. Basti considerare dove l'AI sarà implementata nell'immediato: automobili senza pilota, catene di montaggio (sebbene in forme primarie c'è già da tempo), centri commerciali, grandi aree di smistamento merci e così via. Le macchine non impazziscono al modo degli umani ma vanno in tilt, vivono fail e crash che, almeno in teoria, devono essere governati nell'immediato.

La paura prende vita

Vada per gli automi intelligenti nati per certe operazioni, che basati su software rischiano comunque di rappresentare una minaccia ma cosa accade quando vengono creati artefatti senzienti proprio per far paura e incutere timore, seppur come intrattenimento? È il caso della giapponese On-ART Corp, che ha assemblato diversi robot con sembianze di dinosauri, per mostrare al mondo quanto l'incubo di Jurassic Park sia vicino a una concreta realizzazione. Tutto per gioco, ovviamente, prima che qualche hacker non prenda possesso della console di controllo e trasformi un giocattolo in congegno da guerra.

Musk era con lui

Al fianco di Hawking, nel recente passato, si era posto Elon Musk. Proprio lui, l'uomo dalla Tesla nello Spazio, il lungimirante imprenditore che ci porterà su Marte con una navicella priva di conducente, aveva dato ragione al fisico sull'eventualità che un'Intelligenza artificiale avanzata sia oltre la nostra capacità di infilarsi nei processi e gestire il tutto in sicurezza.

Il lavoro di OpenAI

?Se l'umanità decide collettivamente che la creazione di un super-io digitale è la mossa giusta, allora dovremmo agire molto attentamente. L'AI è uno di quei rari campi dove credo che agire proattivamente sia più importante che reagire?. Per questo aveva fondato, e poi mollato per motivi di incongruenza professionale, l'organizzazione OpenAI, con lo scopo di collaborare con istituzioni e ricercatori tramite brevetti aperti, finalizzati a una Friendly AI, una tecnologia amichevole e non distruttiva.

Il regolatore globale

Che sia una no-profit, una comunità di esperti o il governo mondiale, come lo chiamava Hawking, a dover stabilire regole precise sullo sviluppo di dispositivi smart potenti e autonomi non importa. Quello che è fondamentale è che vi sia unità di intenti: ?Tutto ciò può sembrare molto spaventoso ma sono ottimista - diceva Stephen solo 12 mesi fa - l'uomo ha affrontato tante sfide e non si tirerà certo indietro questa volta?.

Per saperne di più:

• Stephen Hawking, ecco perché il suo lavoro è importante
• Leggere con Stephen Hawking: i libri fondamentali
• Perché Stephen Hawking è entrato nella cultura pop