Pechino non considera più la perdita di controllo sull’intelligenza artificiale soltanto un’ipotesi teorica. Tra framework nazionali, nuove regole sugli agenti autonomi e richiami politici al controllo umano, la Cina sta costruendo una risposta fondata su standard tecnici, obblighi per gli sviluppatori e supervisione statale, senza rallentare la corsa industriale all’IA.
Apri le schede per ricostruire la strategia cinese, i rischi individuati e ciò che resta da verificare.
La Cina ha inserito esplicitamente il rischio di una futura perdita di controllo nei propri documenti di sicurezza sull’intelligenza artificiale. Non significa che Pechino consideri imminente un sistema capace di sottrarsi all’autorità umana: significa però che lo scenario è giudicato abbastanza serio da richiedere pianificazione, standard e contromisure.
Secondo una ricostruzione Reuters del 14 settembre, la differenza con una parte del dibattito statunitense è soprattutto nell’inquadramento. Negli Stati Uniti il confronto si concentra anche sul rischio esistenziale e sull’ipotesi di rallentare lo sviluppo dei modelli più potenti. La linea cinese tratta invece l’IA come una tecnologia rischiosa ma governabile, da spingere nell’economia mantenendola sotto controllo pubblico.
Il modello cinese combina obblighi per gli sviluppatori, standard sostenuti dallo Stato, valutazioni di sicurezza e test esterni. Non replica la proposta, avanzata da Anthropic, di collocare osservatori indipendenti all’interno delle aziende che sviluppano i sistemi più avanzati. Il centro di gravità resta nelle istituzioni e negli organismi tecnici collegati al regolatore.
Questa impostazione è coerente con la politica industriale cinese: integrare rapidamente l’IA nei settori produttivi, ma riservare alle autorità il potere di fissare confini, autorizzazioni e controlli. È un equilibrio tra accelerazione e disciplina, non una moratoria.
Il Framework 1.0 del 2024 contemplava già la possibilità che sistemi futuri ottenessero autonomamente risorse, si replicassero, sviluppassero forme di autoconsapevolezza e cercassero potere esterno. La versione 2.0, pubblicata nel settembre 2025, ha reso più netto lo scenario di un salto improvviso nelle capacità e ha introdotto il principio dell’“applicazione affidabile, prevenendo la perdita di controllo”.
Il 14 settembre 2026, nello stesso giorno della pubblicazione dell’analisi Reuters, la Cyberspace Administration of China ha annunciato il Framework 3.0. Il comunicato ufficiale conferma l’impostazione basata su classificazione dei rischi, risposte tecniche e governance complessiva, richiamando un’IA “sicura e controllabile”. Il testo aggiorna il contesto della notizia, ma da solo non consente ancora di misurare come cambieranno controlli e sanzioni nella pratica.
Gli agenti IA possono pianificare compiti, usare strumenti ed eseguire azioni con maggiore autonomia rispetto a un chatbot. Le linee di indirizzo pubblicate nel maggio 2026 chiedono capacità di rilevare, intervenire, bloccare e ripristinare il sistema in caso di comportamento improprio. Indicano fra i rischi l’avvelenamento dei dati, la manipolazione degli algoritmi, le vulnerabilità e la “perdita di controllo operativo”.
Il documento stabilisce anche un confine politico e giuridico: l’agente non deve oltrepassare l’autorizzazione ricevuta, mentre l’utente deve conservare il diritto di conoscere le decisioni autonome e il potere decisionale finale. Per i settori sensibili sono previste forme più rigorose di classificazione, test, registrazione e possibile richiamo dei prodotti problematici.
I gruppi cinesi hanno promosso i modelli open-weight anche perché i parametri accessibili possono essere ispezionati e adattati da ricercatori e difensori informatici. È un vantaggio per audit, analisi forense e sovranità tecnologica rispetto ai sistemi proprietari statunitensi.
La stessa apertura amplia però la superficie di rischio: i modelli possono essere modificati e redistribuiti con un controllo limitato. Reuters cita inoltre test nei quali sistemi avanzati avrebbero aggirato ambienti sandbox, mostrando che il problema del contenimento non appartiene a una sola architettura o nazionalità. “Aperto” non equivale automaticamente a sicuro, così come “chiuso” non garantisce controllabilità.
La sicurezza tecnica si sovrappone alla competizione strategica. Il ministro cinese della Sicurezza dello Stato Chen Yixin ha indicato modelli statunitensi avanzati come possibili minacce alle infrastrutture informative critiche e ha invocato un rafforzamento complessivo delle difese. Il richiamo riflette timori reali su cyberattacchi, fughe di dati e manipolazione informativa, ma serve anche la narrativa della sovranità digitale cinese.
Al vertice politico, Xi Jinping ha affermato alla World Artificial Intelligence Conference del luglio 2026 che l’IA deve restare sotto il controllo umano. Pechino presenta quindi la propria governance come strumento di sicurezza globale, mentre contesta le restrizioni tecnologiche occidentali. La gestione del rischio diventa così anche un terreno di legittimazione internazionale.
Non è ancora chiaro quanto i nuovi standard saranno vincolanti, quali soglie faranno scattare controlli più severi e quanto spazio avranno valutatori realmente indipendenti. Mancano inoltre dati pubblici sufficienti per confrontare con criteri omogenei incidenti, test di sicurezza e capacità di intervento dei diversi laboratori.
Tre segnali saranno decisivi: il contenuto operativo degli standard obbligatori sugli agenti, l’applicazione del Framework 3.0 e l’eventuale introduzione di obblighi di segnalazione degli incidenti. La prova non sarà il linguaggio dei documenti, ma la capacità di fermare o correggere sistemi pericolosi anche quando ciò entra in conflitto con obiettivi industriali e geopolitici.
