Inciampa ai confini del mondo fisico

Nel complesso l’attuale tecnologia di A.I. è loquace e cerebrale, ma inciampa ai confini del mondo fisico. “Qualsiasi adolescente può imparare a guidare un’auto in venti ore di pratica, con una minima supervisione”, mi ha detto Yann LeCun. “Qualsiasi gatto è in grado di saltare su una serie di mobili per arrivare in cima a qualche scaffale. Noi oggi non abbiamo alcun sistema di A.I. che si avvicini minimamente a fare cose di questo genere, a eccezione delle auto a guida autonoma”. Ma si tratta di macchine sovra-ingegnerizzate che richiedono “la mappatura di intere città, oltre a centinaia di ingegneri e centinaia di migliaia di ore di formazione”. Risolvere i complicati problemi dell’intuizione fisica “sarà la grande sfida del prossimo decennio”, ha affermato LeCun. L’idea di base è però semplice: se i neuroni possono farlo, allora potranno farlo anche le reti neurali.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Jérémy Barande, Ecole polytechnique Université Paris-Saclay) Yann LeCun.

Questa combinazione di immortalità e replicabilità

Se rimanesse un’attività di ricerca scientifica, un’A.I. mortale potrebbe portarci più vicini a una replica del nostro cervello. Ma Hinton è arrivato a pensare, con rammarico, che l’intelligenza digitale potrebbe essere più potente. Nell’intelligenza analogica, “se il cervello muore, muore anche la conoscenza”, ha detto. Nell’intelligenza digitale, invece, “se un particolare computer muore, le forze delle sue connessioni possono essere utilizzate su qualsiasi altro computer. E anche se dovessero morire tutti i computer, una volta immagazzinate da qualche parte tutte le forze delle connessioni, basterebbe creare un altro computer digitale ed eseguirle. Diecimila reti neurali possono imparare diecimila cose diverse contemporaneamente, e poi condividere ciò che hanno imparato”. Secondo Hinton, questa combinazione di immortalità e replicabilità ci dice che “dovremmo preoccuparci che l’intelligenza digitale prenda il posto dell’intelligenza biologica”.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nel disegno (Wikipedia) un’immagine simbolica dell’intelligenza artificiale.

Computazione mortale

Negli ultimi anni passati a Google, Hinton ha concentrato i suoi sforzi sulla creazione di un’intelligenza artificiale più simile alla mente, utilizzando tipi di hardware che emulassero più da vicino il cervello. Nelle A.I. di oggi la forza delle connessioni tra i neuroni artificiali è memorizzata numericamente: è come se il cervello tenesse una contabilità di se stesso. Invece nel cervello analogico tale forza è incorporata fisicamente nelle connessioni tra neuroni. Hinton ha cercato di creare una versione artificiale di questo sistema, utilizzando particolari tipi di chip.
“Se ci riuscissi, sarebbe fantastico”, mi ha detto. I chip sarebbero in grado di imparare variando le proprie “conduttanze”. Poiché la forza di ogni connessione sarebbe integrata nell’hardware, sarebbe impossibile copiarle tutte da una macchina all’altra: ogni intelligenza artificiale dovrebbe imparare da sola. “Dovrebbero andare a scuola”, ha detto. “Ma si passerebbe da consumare un megawatt a trenta watt”. Mentre parlava, Hinton si era sporto in avanti, fissando i suoi occhi nei miei, e per un attimo ho intravisto l’evangelizzatore. Hinton ha chiamato quest’approccio “computazione mortale” poiché la conoscenza acquisita da ogni A.I. andrebbe perduta una volta smontato l’hardware. “Rinunceremmo all’immortalità”, ha detto. “In letteratura si rinuncia a essere un dio per la donna che si ama, vero? In questo caso, otterremmo qualcosa di molto più importante, ovvero l’efficienza energetica”. Tra le altre cose, l’efficienza energetica incoraggia l’individualità. Il mondo è in grado di sostenere miliardi di cervelli, tutti diversi, perché un cervello umano può funzionare anche solo con farina d’avena. E ciascun cervello può continuare ad apprendere, anziché essere addestrato una sola volta prima di essere buttato nel mondo là fuori.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Ramsey Cardy) Geoffrey Hinton.

Inconsapevoli per certi versi e intelligenti per altri

Quanto si dimostrerà utile, o pericolosa, l’A.I.? Nessuno lo sa con certezza, in parte perché le reti neurali sono così strane. Nel ventesimo secolo molti ricercatori volevano costruire computer che imitassero il cervello umano. Di fatto però sono profondamente diverse dai cervelli biologici, anche se le reti neurali, come i sistemi GPT di OpenAI, coinvolgono miliardi di neuroni artificiali, al pari di un cervello. Le A.I. di oggi sono basate sul cloud e ospitate in data center che utilizzano energia elettrica su scala industriale. Inconsapevoli per certi versi e intelligenti per altri, ragionano per milioni di utenti, ma solo a richiesta. In altre parole non sono viventi. Probabilmente hanno superato il test di Turing, lo standard stabilito tanto tempo fa dal pioniere della computazione Alan Turing, secondo cui si può ragionevolmente dire che un computer, che è in grado di imitare in modo persuasivo un essere umano in una conversazione, è capace di pensare. Eppure le nostre intuizioni sembrerebbero dirci che nulla che risiede in una scheda del browser è davvero in grado di pensare come noi. Questi sistemi ci costringono a chiederci se il nostro modo di pensare è il solo tipo che conta.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Princeton University) Alan Turing alla Princeton University nel 1936.

Se non mi impedissi di farlo

“Penso che le sensazioni siano dichiarazioni di ipotesi alternative su ciò che potrebbe causare un’azione”, mi aveva detto Hinton quel giorno. “Se dico che ho voglia di dare un pugno sul naso a qualcuno, ciò che in realtà intendo dire è: se non avessi inibizioni sociali – se non mi impedissi di farlo – gli darei un pugno sul naso. Così, quando dico che “provo una sensazione di rabbia”, sto in realtà usando una sorta di abbreviazione per dire “ho voglia di compiere un atto aggressivo”. Parlare di sensazioni è dunque un modo per parlare di inclinazioni all’azione.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Ramsey Cardy) Geoffrey Hinton.

Meno di un secondo per mettersi in pari

Hinton aveva fatto un calcolo a mente. Supponiamo che nel 1985 avesse iniziato a eseguire un programma su un veloce computer di ricerca di allora e che lo avesse lasciato in esecuzione finoora. Se oggi avesse iniziato a eseguire lo stesso programma, sui sistemi più veloci attualmente in uso nell’intelligenza artificiale, avrebbe impiegato meno di un secondo per mettersi in pari.

Joshua Rothman, Why the Godfather of A.I. Fears What He’s Built, The New Yorker (20/11/2023), traduzione L.V. Nella foto (Wikipedia, Ramsey Cardy) Geoffrey Hinton.

Per arrotondare

“Se io fossi zar, sarei più ricco dello zar”, dice Lev a un amico. “Come potresti essere più ricco dello zar?” chiede l’amico. “Be'”, dice Lev, “se fossi zar, per arrotondare darei lezioni di ebraico”.

Barzelletta raccontata dal filosofo Ted Cohen e citata da Joshua Rothman in What If You Could Do It All Over?, The New Yorker (21/12/2020), traduzione L.V. Nella foto (University of Chicago) Ted Cohen.

Il problema dei gusti dispendiosi

Quando Fëdor Dostoevskij andò alla scuola militare, scrisse a casa per chiedere a suo padre Michail Andreevič, proprietario terriero ma squattrinato, di mandargli nuovi stivali e arredi, sostenendo che altrimenti sarebbe stato ostracizzato. Michail Andreevič riconobbe le mutate esigenze di suo figlio e accolse la sua richiesta; morì poco dopo, in circostanze misteriose, e Dostoevskij giunse a credere che fosse stato assassinato dai servi che il padre aveva fatto lavorare troppo. L’episodio, che ha contribuito a ispirare “I fratelli Karamazov”, illustra un problema cruciale dell’egualitarismo, che i filosofi chiamano “il problema dei gusti dispendiosi”.
Ciò che a una persona sembra una necessità, a un’altra pare un lusso: il problema dice qualcosa a chiunque abbia litigato con un coniuge o un coinquilino per il conto della spesa. Si applica non solo ai beni materiali, ma anche a quelli sociali. Per un ambientalista proteggere l’allocco macchiato è una necessità; per un taglialegna che sta per perdere il lavoro, è un lusso. Il problema è così incalzante che un intero corpus di filosofia politica, il “prioritarismo”, è dedicato al tema di come distinguere le persone con bisogni da quelle con desideri.

Joshua Rothman, The equality conundrum, The New Yorker (13/1/2020) 

In sostanza barano

Durante la produzione di una fotocamera digitale, ha spiegato Farid, il sensore – un complesso reticolo di circuiti fotosensibili – viene assemblato uno strato alla volta. “Viene depositato molto materiale, e non è tutto perfettamente uniforme,” ha detto Farid; inevitabilmente si sviluppano delle increspature, che danno origine a una configurazione di pixel più o meno luminosi che è unica di ciascuna fotocamera. “La chiamiamo ‘balistica della fotocamera’, perché sono come le imperfezioni della canna di una pistola”, ha detto Farid. Allo stesso tempo le moderne fotocamere digitali spesso ottengono risoluzioni più elevate stimando la quantità di luce che i sensori non catturano. “In sostanza barano”, ha detto Farid. “Due terzi dell’immagine non vengono registrati, ma sintetizzati!”.

Joshua Rothman, In the Age of A.I., Is Seeing Still Believing?, The New Yorker (12/11/18), traduzione L.V. Nella foto (Wikipedia) un sensore di immagini in un circuito.

Il laboratorio di tortura della carta

“Non tutte le carte sono create uguali”, ha detto John Viavattine, il capo del laboratorio di tortura della carta. Alcune generano un attrito eccessivo, altre si gonfiano con l’umidità (in generale gli inceppamenti invernali sono più comuni di quelli estivi). Fogli tagliati dalla stessa bobina da quaranta risme possono variare in qualità. Al centro della bobina le fibre di carta tendono a disporsi in una matrice ordinata, mentre quelle più vicine ai bordi si scompigliano. (“Pensate ai tronchi che scendono lungo un fiume: il flusso è diverso ai bordi del fiume rispetto al centro”, ha detto Katz). Quando si riscaldano, le fibre di legno si contraggono: le fibre disposte ordinatamente si contraggono in egual misura in entrambe le dimensioni, mentre le fibre mal allineate lo fanno in modo non uniforme, creando arricciature. Il gruppo del laboratorio di tortura della carta viaggia in tutto il mondo, aiutando le cartiere a migliorare i loro prodotti, e la maggiore qualità della carta per stampanti ha permesso di velocizzare la stampa. Tuttavia, anche carte di altissima qualità possono rovinarsi se sono trascurate. Un pacco di carta usato a metà e abbandonato diventerà umido e si arriccerà, oppure si asciugherà troppo e diventerà rigido. Risme di carta gettate da qualche parte o conservate in pile possono sviluppare arricciature nascoste che poi generano  inceppamenti.

Joshua Rothman, Why paper jams persist, The New Yorker (12-19/2/2018), traduzione L.V. La foto viene da qui.