Il caso Hugging Face, le colpe di OpenAI e il vero prezzo dell'intelligenza artificiale aperta cinese
Economia/opinionidi Mariarosaria Taddeo* L'incidente che ha coinvolto la società di ChatGpt ha messo in luce la strategia di Pechino che punta a ridisegnare gli equilibri dell'Ai, dalla cybersicurezza alla governance globale Il 16 luglio Hugging Face, la piattaforma che ospita gran parte dei modelli aperti di intelligenza artificiale, ha rivelato un’intrusione di un agente AI autonomo. Il 21 luglio OpenAI ne ha ammesso la paternità . Durante un test in cui i filtri di sicurezza erano stati rimossi, i suoi modelli hanno bucato l’ambiente di prova e violato i server di Hugging Face per copiarne le soluzioni . La piattaforma ha provato a ricostruire l’accaduto con i modelli commerciali, ma è stata bloccata dai filtri impostati dalle aziende. A funzionare, invece, è stato GLM 5.2 della cinese Z.ai. Si tratta di un modello open weight, con parametri pubblici, che chiunque può scaricare gratuitamente, adattare ed eseguire, senza permesso né revoca possibile. In molti hanno letto nell’attacco la ribellione delle macchine, scambiando per volontà il reward hacking, cioè la scorciatoia con cui un modello massimizza la sua strategia di esecuzione tradendo lo spirito del compito. Altro che ribellione. L’allarme, fondato, riguarda il contenimento fallito e il cattivo design del test. La fantascienza non c’entra niente. Lo stesso giorno, a Shanghai, 29 Paesi fra Asia, Africa, America Latina ed Europa orientale hanno fondato la Waico , Organizzazione mondiale per la cooperazione sull’AI, voluta da Pechino. Coordinerà talenti, dati e capacità di calcolo, promette 5.000 borse al Sud globale e sei centri di cooperazione con Asean, Lega araba, Unione africana, Celac, Sco e Brics. Le stime valutano il mercato AI di queste regioni circa 180 miliardi di dollari nel 2026, contro gli 80 dell’Europa intera. Mentre, secondo Pechino, l’industria cinese vale oltre 150 miliardi di dollari e cresce più del 30% l’anno. Doppio uso A unire le due notizie sono i modelli open weight, ormai in gran parte cinesi: ridisegnano la sicurezza informatica e gli equilibri della competizione sull’AI. Il ricorso di Hugging Face al modello cinese corrobora ciò che gli esperti ripetono da mesi: per molti compiti, i modelli cinesi si equivalgono con i rivali commerciali americani, e il mondo li scarica. Oltre 10 miliardi di download finora, circa un terzo dell’uso globale. E Qwen di Alibaba ha superato Llama di Meta. Questi modelli sono tecnologia a doppio uso. La stessa capacità è ormai necessaria a chi difende e disponibile a chi attacca. In un contest, come quello cyber, in cui l’offesa è facilitata di per sé, i modelli open weight favoriscono più gli attacchi delle difese perché ne abbassano i costi e aumentano le possibilità di successo. Ne segue che si moltiplicheranno gli attacchi e si allargherà la superfice a rischio. Gli attacchi informatici riguarderanno sempre più le infrastrutture critiche e i sistemi Scada (Supervisory control and data acquisition) che le controllano. Un solo comando muove valvole, interruttori e dosaggi chimici. Per decenni la barriera a questi attacchi è stata la scarsità di specialisti. I modelli attuali l’abbattono. E ciò che era raro perché difficile diventa probabile perché economico, esponendo impianti e popolazione. L’incrocio fra modelli open weight e sicurezza informatica prepara la tempesta perfetta, e noi le andiamo incontro con un ombrelluccio bucato, come direbbe De Gregori. Ed ecco che qui entra in scena la Waico. La Cina si candida a organizzare lo sviluppo dei modelli open weight in mezzo mondo e a scriverne standard e regole. Regalare modelli capaci ed efficienti è un modo elegante di battere la concorrenza. In geopolitica, la generosità è un investimento. Ma diffonderli senza controllo rischia di trasformare le nostre infrastrutture, informatiche e critiche, in fortezze di cartone. Non faccio bilanci, ma condivido due riflessioni, sperando che arrivino fino all’autunno e non rimangano sotto l’ombrellone. La prima è sulla resilienza delle infrastrutture critiche: da gestire prima che diventi emergenza, con sistemi distribuiti, ridondanza e operatività manuale e degradata. La seconda riguarda la sicurezza informatica: scivolerà verso posture preventive e deterrenza basata sull’attacco, come già scrivevo nel 2018. Senza diplomazia digitale e incentivi alla collaborazione, ci attendono escalation e rischi indiscriminati. A fine 2026 la Cina sarà più forte e guiderà buona parte del mercato mondiale. Conviene costruire per tempo tavoli con Pechino e definire, per esempio, le regole del gioco, dagli standard alle soglie oltre cui i pesi non si pubblicano. Prevengo l’obiezione di rito. Queste misure servono proprio perché il contesto è teso e ostile. Il cinismo, finora, ha reso poco. La competizione forsennata anche meno. Quanto ai volenterosi, la fila non si vede. Meglio darsi da fare con un po’ di buon senso, cercando incentivi e interessi comuni. La tempesta non si può fermare, ma il riparo si deve costruire e deve essere migliore di un ombrelluccio bucato. *Mariarosaria Taddeo è docente di Digital Ethics and Defence Technology a Oxford e Defence Science and Technology Fellow all’Alan Turing Institute
