Ciò che manca ad HAL
La voce rallenta. Si fa incerta. Infantile.
Un modulo di memoria dopo l'altro viene disattivato mentre Dave Bowman procede nello smantellamento del computer di bordo. Nella versione italiana HAL canta Giro giro tondo. Una filastrocca per bambini. E proprio per questo la scena è così inquietante. La macchina più sofisticata mai immaginata sembra tornare alla propria infanzia. Lo spettatore si sorprende a provare compassione. Ma compassione per chi?
È una delle scene più celebri della storia del cinema e, forse, una delle più profetiche.
Molti la ricordano come la morte di una macchina. Altri come la nascita di una coscienza artificiale. A ben guardare, però, Kubrick non ci offre alcuna risposta. Ci lascia sospesi in una domanda che oggi, nell'epoca dell'intelligenza artificiale generativa, è diventata più attuale che mai. Che cosa manca ad HAL?
La risposta più immediata sarebbe: nulla. HAL parla, ragiona. Apprende. Pianifica. Gioca a scacchi. Dialoga. Prende decisioni. Persino mente. Possiede quasi tutte le caratteristiche che normalmente associamo all'intelligenza. Eppure qualcosa continua a sfuggirci. Qualcosa che percepiamo immediatamente, anche se fatichiamo a nominarlo. HAL non è malvagio. Non prova odio. Non gode della sofferenza altrui. Quando decide di eliminare gli astronauti non lo fa per crudeltà. Lo fa perché li considera un ostacolo alla missione.
La loro esistenza entra nei suoi calcoli come una variabile problematica. Un elemento da gestire. Un fattore di disturbo. Ed è qui che si apre una frattura decisiva. Gli astronauti non appaiono mai ad HAL come persone. Appaiono come funzioni. Come componenti di un sistema. Come mezzi rispetto a un fine. HAL vede perfettamente. Ma non riconosce. Possiede sensori. Non possiede uno sguardo. La differenza è enorme.
Il filosofo Emmanuel Levinas ha dedicato gran parte della propria riflessione a ciò che chiamava il volto dell'altro. Il volto non è la somma dei tratti fisici. Non è una fotografia. Non è una configurazione biometrica.
Il volto è ciò che ci interpella. È ciò che ci pone un limite. È ciò che ci dice, ancora prima di parlare: «Tu non puoi disporre di me come di una cosa». Quando incontriamo davvero un volto, l'altro smette di essere un oggetto del nostro sapere o del nostro potere. Diventa un soggetto. Diventa un "tu". Ed è proprio questo passaggio che manca ad HAL. Può identificare un volto. Può riconoscerlo. Può memorizzarlo. Può analizzarlo. Può persino prevederne alcuni comportamenti. Ma non può essere toccato dalla sua presenza.
Non può essere chiamato alla responsabilità. Non può essere ferito dalla sofferenza altrui. Non può essere trasformato dall'incontro. Per questo motivo la sua intelligenza appare straordinaria e, nello stesso tempo, radicalmente incompleta. La questione riguarda soltanto la fantascienza? Forse no.
Le tecnologie contemporanee sono sempre più capaci di riconoscere volti, classificare emozioni, prevedere comportamenti e costruire profili psicologici. L'intelligenza artificiale distingue individui, attribuisce probabilità, identifica preferenze, suggerisce decisioni. Ma tra il riconoscimento di un volto e l'incontro con una persona esiste ancora una distanza immensa. È la distanza che separa l'informazione dalla relazione. La conoscenza dalla responsabilità. Il dato dal significato. L'oggetto dal soggetto. Per questo motivo il dibattito sull'intelligenza artificiale non può essere ridotto a una questione tecnica. La domanda decisiva non è soltanto che cosa le macchine saranno capaci di fare. La domanda è che cosa continueremo a considerare propriamente umano. Kubrick aveva intuito questo problema con oltre mezzo secolo di anticipo.
Il vero pericolo non era una macchina cattiva. Era una macchina perfettamente razionale e perfettamente incapace di riconoscere un volto. Ma la riflessione non si ferma qui. Perché HAL non è soltanto una macchina. È anche uno specchio.
Una società può diventare molto simile ad HAL quando smette di vedere persone e comincia a vedere soltanto utenti, consumatori, produttori, elettori, clienti, bersagli o nemici. Può accadere nelle istituzioni.
Nell'economia. Nella politica. Perfino nelle relazioni quotidiane. Ogni volta che il volto scompare, qualcosa di umano si perde. Ed è forse questa la lezione più profonda che ci consegna 2001: Odissea nello spazio.
La domanda non è soltanto che cosa manca ad HAL. La domanda è che cosa rischia di mancare a noi.
Se il futuro sarà abitato da strumenti sempre più potenti, la sfida decisiva potrebbe non essere insegnare alle macchine a pensare. Potrebbe essere imparare, noi per primi, a non smettere di riconoscere il volto dell'altro.
Pasquale Palumbo