L’intelligenza artificiale non ha bisogno di un’anima per cambiare il mondo (o distruggerlo)
InnovazioneDi intelligenza artificiale si inizia a parlare con quei toni solenni di solito associati alla religione e alla spiritualità. Le grandi aziende del settore parlano delle nuove tecnologie come della più grande invenzione della storia, qualcosa che potrebbe cambiare per sempre ciò che significa essere umani. Demis Hassabis, cofondatore di Google DeepMind, l’ha definita «la più importante invenzione che l’umanità farà mai». Alcuni ricercatori assegnano probabilità tutt’altro che trascurabili alla possibilità che una macchina possa arrivare a costruire da sola una versione più intelligente di sé entro pochi anni. Yann LeCun ha detto che l’enorme investimento finanziario nella corsa alla superintelligenza «è una grandissima stronzata». E per ora va benissimo così. In alcuni casi il linguaggio si fa apocalittico, com’è normale che sia di fronte a una tecnologia in grado di sparare da sola e di bucare i sistemi di sicurezza di diverse aziende. Anche per questo c’è stato chi ha fondato una vera chiesa dedicata al futuro Dio dell’intelligenza artificiale. Un ingegnere di Google, dopo avere interagito con un chatbot che gli era sembrato dotato di coscienza, si è chiesto: «Chi sono io per dire a Dio dove può e dove non può mettere le anime?». E Ilya Sutskever, uno dei fondatori di OpenAI, è arrivato a bruciare simbolicamente un’effigie che rappresentava un’intelligenza artificiale non allineata con gli esseri umani, come in una sorta di rito medievale. È dentro questa atmosfera che è intervenuta la Chiesa cattolica. Nell’enciclica Magnifica Humanitas, Leone XIV difende l’idea che l’essere umano occupi una posizione irriducibile nel creato e sostiene che le macchine, per quanto sofisticate, possano soltanto imitare alcune funzioni dell’intelligenza umana. È una visione che Sebastian Mallaby – autore del libro “The Infinity Machine: Demis Hassabis, DeepMind, and the Quest for Superintelligence” – prova a scandagliare in una lunga analisi su Foreign Affairs intitolata “God From the Machine. AI and the Future of Humanity” chiedendosi: siamo davvero sicuri che distinguere tra imitare l’intelligenza e possederla sia così semplice? Il problema risale a molto prima delle ultimissime tencologie. Nel 1980 il filosofo John Searle propose il celebre esperimento mentale della «stanza cinese»: immaginiamo un uomo chiuso in una stanza che non conosce il cinese e che riceve istruzioni per manipolare simboli cinesi secondo precise regole. Dall’esterno, le sue risposte sembrerebbero quelle di una persona che comprende perfettamente la lingua. Ma l’uomo non comprende nulla: sta semplicemente applicando un insieme di istruzioni. Per Searle, era la dimostrazione che manipolare correttamente informazioni non equivale necessariamente a capire ciò che significano. L’argomento è diventato uno dei pilastri della distinzione tra intelligenza artificiale e intelligenza umana. Una macchina può produrre una risposta convincente, riconoscere un volto, tradurre una frase o scrivere un saggio senza che questo significhi che provi qualcosa o che comprenda davvero ciò che sta facendo. Il corpo umano, ricorda Mallaby riprendendo un’obiezione dello scrittore di fantascienza Ted Chiang, non è un dettaglio trascurabile: «Avere un corpo è un prerequisito per avere emozioni». La disperazione, per esempio, non sarebbe separabile dall’esperienza fisica degli ormoni dello stress che attraversano il corpo. È una distinzione intuitiva perché gli esseri umani nascono, soffrono, amano, si ammalano, muoiono; le macchine no, non sanguinano, non provano dolore e possono essere semplicemente spente. Esistono, scrive Mallaby, non dentro un universo morale ma dentro una matrice di ottimizzazione. Da questo punto di vista, si può sostenere che anche il più sofisticato modello di intelligenza artificiale resti soltanto una macchina che esegue operazioni straordinariamente complesse. Anche il cervello umano è una macchina fisica. È fatto di materia biologica, obbedisce alle leggi della fisica e funziona attraverso impulsi elettrici e processi di elaborazione delle informazioni. «L’idea che la massa molle dentro il cranio contenga un’essenza ineffabile e non programmabile – la coscienza, lo spirito o qualcos’altro – può essere intuitivamente seducente. Ma dal punto di vista analitico è fragile», scrive Mallaby. E più l’intelligenza artificiale migliora, più quella distinzione diventa difficile da difendere. Gli ultimi modelli di IA non si limitano a consultare un gigantesco archivio di frasi e a scegliere meccanicamente quella successiva: costruiscono rappresentazioni matematiche dei concetti e delle loro relazioni, e possono associare parole, idee, emozioni e situazioni anche quando queste non sono mai state esplicitamente collegate nei dati di addestramento. Non significa che siano coscienti. Significa però che l’argomento «la macchina sta solo seguendo delle regole, quindi non può comprendere» diventa sempre meno risolutivo. Quindi forse non arriveremo mai stabilire con certezza se una macchina abbia una coscienza. La buona notizia è che non abbiamo bisogno di risolvere questo problema per decidere come governarla. E anzi, concentrarsi troppo sulla domanda potrebbe farci perdere di vista quelle che sono già oggi le questioni più urgenti. La Chiesa, nelle parole di Leone XIV, secondo Mallaby, ha ragione su una cosa fondamentale: l’intelligenza artificiale deve essere regolata. Può amplificare le disuguaglianze economiche, trasformare il mercato del lavoro, modificare il modo in cui impariamo, alterare le relazioni umane e rendere più facile l’uso della forza militare. Può perfino rendere più difficile stabilire chi sia responsabile di una decisione quando una parte crescente del processo viene affidata a una macchina. Ma il Papa non inquadra per intero lo scenario. Magnifica Humanitas trascura alcuni elementi fondamentali. Ad esempio, invoca una gestione dei dati come «bene comune o condiviso», mentre il problema più urgente dovrebbe essere impedire che i dati vengano sottratti e utilizzati senza autorizzazione. E sul terreno militare l’enciclica afferma che «la decisione di usare la forza letale non può essere delegata a processi opachi o automatizzati», una posizione moralmente comprensibile ma che Mallaby nel suo breve saggio su Foreign Affairs considera difficile da applicare quando le macchine saranno in grado di prendere decisioni sul campo di battaglia più rapidamente e accuratamente degli esseri umani. Per questo Mallaby trova almeno tre lacune nell’attuale risposta politica all’intelligenza artificiale. La prima lacuna riguarda la proliferazione. Se i modelli di IA più potenti finiranno per essere capaci di compiere attacchi informatici sofisticati, progettare nuove armi biologiche o svolgere altre attività oggi accessibili soltanto a Stati e grandi organizzazioni, il problema non sarà più soltanto chi controlla le aziende che li sviluppano: sarà che cosa succederà quando quelle capacità diventeranno disponibili in tutto il mondo, anche a criminali e terroristi. Per questo servirebbe arrivare a qualcosa di simile a un trattato di non proliferazione nucleare dell’intelligenza artificiale: un accordo internazionale che stabilisca che cosa gli Stati siano disposti a fare quando i modelli più pericolosi non saranno più nelle mani di pochi laboratori. La seconda lacuna è economica. I sistemi fiscali dei Paesi occidentali sono costruiti anche sull’idea che il capitale serva a rendere più produttivo il lavoro umano. Per questo i governi hanno storicamente tassato il lavoro più del capitale. Ma se l’IA dovesse cominciare a sostituire i lavoratori anziché semplicemente aiutarli, questa impostazione rischierebbe di produrre l’effetto opposto a quello desiderato: tassare pesantemente il lavoro renderebbe infatti ancora più conveniente per le aziende sostituirlo con le macchine, proprio mentre diminuirebbero le entrate fiscali necessarie per sostenere chi perde il proprio impiego. Per ovviare a questo problema si potrebbe spostare una parte della pressione fiscale dal lavoro al capitale, introdurre forme di assicurazione salariale per chi viene sostituito e perfino distribuire ai cittadini una piccola quota della ricchezza generata dalle aziende di intelligenza artificiale. La terza lacuna è quella che riporta Mallaby al punto da cui era partito: non sappiamo ancora abbastanza di ciò che accade dentro i modelli di intelligenza artificiale. È il problema dell’interpretabilità. I laboratori stanno cercando di capire come le reti neurali arrivino alle loro conclusioni, ma la ricerca è ancora lontana dal fornire una spiegazione completa dei processi interni dei sistemi più avanzati. E qui Mallaby rovescia l’argomento della Chiesa. Magnifica Humanitas sostiene che non possiamo conoscere il pensiero delle macchine perché nelle macchine non c’è un pensiero da conoscere. Ma forse è vero il contrario: se vogliamo controllarle, dobbiamo capire che cosa stanno facendo. È probabilmente questo il punto più interessante dell’articolo di Foreign Affairs. Possiamo discutere all’infinito se le macchine abbiano una coscienza, ma nel frattempo l’intelligenza artificiale continuerà a entrare nel lavoro, nella finanza, nella guerra e nelle istituzioni. Non serve sapere se abbia un’anima per capire che ha già abbastanza potere da richiedere regole. «Le macchine non entreranno mai nel nostro universo morale – scrive Mallaby in conclusione del suo articolo – ma se gli esseri umani aspirano a controllarle, dobbiamo prima di tutto comprenderle».