Questa combinazione di immortalità e replicabilità

Se rimanesse un’attività di ricerca scientifica, un’A.I. mortale potrebbe portarci più vicini a una replica del nostro cervello. Ma Hinton è arrivato a pensare, con rammarico, che l’intelligenza digitale potrebbe essere più potente. Nell’intelligenza analogica, “se il cervello muore, muore anche la conoscenza”, ha detto. Nell’intelligenza digitale, invece, “se un particolare computer muore, le forze delle sue connessioni possono essere utilizzate su qualsiasi altro computer. E anche se dovessero morire tutti i computer, una volta immagazzinate da qualche parte tutte le forze delle connessioni, basterebbe creare un altro computer digitale ed eseguirle. Diecimila reti neurali possono imparare diecimila cose diverse contemporaneamente, e poi condividere ciò che hanno imparato”. Secondo Hinton, questa combinazione di immortalità e replicabilità ci dice che “dovremmo preoccuparci che l’intelligenza digitale prenda il posto dell’intelligenza biologica”.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nel disegno (Wikipedia) un’immagine simbolica dell’intelligenza artificiale.

Computazione mortale

Negli ultimi anni passati a Google, Hinton ha concentrato i suoi sforzi sulla creazione di un’intelligenza artificiale più simile alla mente, utilizzando tipi di hardware che emulassero più da vicino il cervello. Nelle A.I. di oggi la forza delle connessioni tra i neuroni artificiali è memorizzata numericamente: è come se il cervello tenesse una contabilità di se stesso. Invece nel cervello analogico tale forza è incorporata fisicamente nelle connessioni tra neuroni. Hinton ha cercato di creare una versione artificiale di questo sistema, utilizzando particolari tipi di chip.
“Se ci riuscissi, sarebbe fantastico”, mi ha detto. I chip sarebbero in grado di imparare variando le proprie “conduttanze”. Poiché la forza di ogni connessione sarebbe integrata nell’hardware, sarebbe impossibile copiarle tutte da una macchina all’altra: ogni intelligenza artificiale dovrebbe imparare da sola. “Dovrebbero andare a scuola”, ha detto. “Ma si passerebbe da consumare un megawatt a trenta watt”. Mentre parlava, Hinton si era sporto in avanti, fissando i suoi occhi nei miei, e per un attimo ho intravisto l’evangelizzatore. Hinton ha chiamato quest’approccio “computazione mortale” poiché la conoscenza acquisita da ogni A.I. andrebbe perduta una volta smontato l’hardware. “Rinunceremmo all’immortalità”, ha detto. “In letteratura si rinuncia a essere un dio per la donna che si ama, vero? In questo caso, otterremmo qualcosa di molto più importante, ovvero l’efficienza energetica”. Tra le altre cose, l’efficienza energetica incoraggia l’individualità. Il mondo è in grado di sostenere miliardi di cervelli, tutti diversi, perché un cervello umano può funzionare anche solo con farina d’avena. E ciascun cervello può continuare ad apprendere, anziché essere addestrato una sola volta prima di essere buttato nel mondo là fuori.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Ramsey Cardy) Geoffrey Hinton.

Se non mi impedissi di farlo

“Penso che le sensazioni siano dichiarazioni di ipotesi alternative su ciò che potrebbe causare un’azione”, mi aveva detto Hinton quel giorno. “Se dico che ho voglia di dare un pugno sul naso a qualcuno, ciò che in realtà intendo dire è: se non avessi inibizioni sociali – se non mi impedissi di farlo – gli darei un pugno sul naso. Così, quando dico che “provo una sensazione di rabbia”, sto in realtà usando una sorta di abbreviazione per dire “ho voglia di compiere un atto aggressivo”. Parlare di sensazioni è dunque un modo per parlare di inclinazioni all’azione.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Ramsey Cardy) Geoffrey Hinton.

Meno di un secondo per mettersi in pari

Hinton aveva fatto un calcolo a mente. Supponiamo che nel 1985 avesse iniziato a eseguire un programma su un veloce computer di ricerca di allora e che lo avesse lasciato in esecuzione finoora. Se oggi avesse iniziato a eseguire lo stesso programma, sui sistemi più veloci attualmente in uso nell’intelligenza artificiale, avrebbe impiegato meno di un secondo per mettersi in pari.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Ramsey Cardy) Geoffrey Hinton.