China is shoring up the great firewall for the AI age


Cvisages de Hina un problème familier aux dictatures à travers l’histoire : comment trouver un équilibre entre l’innovation qui stimule la croissance, qui prospère dans une société libre, et la paranoïa d’un État autoritaire. Son dirigeant, Xi Jinping, souhaite que le pays devienne une économie hyper avancée. Son gouvernement promeut activement la commercialisation des hautes technologies qui lui plaisent, des véhicules électriques à l’informatique quantique.

En même temps, il serre la vis à ceux qu’il désapprouve. En 2021, il a réglementé le secteur en plein essor du tutorat en ligne, le faisant tomber presque du jour au lendemain, apparemment par crainte que les frais de scolarité élevés ne rendent l'éducation des enfants si coûteuse que les Chinois rebutent l'idée de devenir parents. Le 22 décembre, le gouvernement a mis à rude épreuve l'industrie du jeu vidéo en introduisant des règles visant, entre autres choses, à limiter le montant que les joueurs peuvent dépenser en achats dans le jeu, et donc le montant que les développeurs peuvent gagner. La valeur marchande de Tencent, l'une des entreprises chinoises les plus innovantes qui possède également une importante activité de jeux, a chuté de 12 %.

Nulle part cette tension n’est plus claire que dans la technologie la plus en vogue de 2023 : l’intelligence artificielle (IA). Dans de nombreux pays, la maîtrise de IA est considéré comme étant important à la fois économiquement et stratégiquement. Partout dans le monde, les politiciens s’inquiètent du fait que les machines deviennent malveillantes ou, de manière plus réaliste, qu’elles soient exploitées par des fauteurs de troubles humains. À Pékin, l’inquiétude supplémentaire est que la technologie, qui prospère grâce à des données illimitées et, à son stade actuel de développement, dans des espaces non réglementés, pourrait s’avérer subversive si elle n’est pas maîtrisée. Il s’emploie donc activement à renforcer son « grand pare-feu » pour le IA âge.

En 2000, Bill Clinton, alors président américain, comparait la tentative de la Chine de contrôler Internet à « une tentative de clouer du Jell-O au mur ». Aujourd’hui, la gelée semble bien en place. Les services Internet occidentaux, depuis Facebook et Google jusqu’à Netflix, ne sont pas accessibles à la plupart des Chinois (à l’exception de ceux qui sont prêts à courir le risque d’utiliser des « réseaux privés virtuels » illégaux). Sur les plateformes locales, tout contenu indésirable est supprimé, soit de manière préventive par les plateformes elles-mêmes, grâce à des algorithmes et des armées de modérateurs, soit a posteriori, dès qu'il est repéré par les censeurs gouvernementaux. Une répression technologique en 2020 a mis au pas les puissants géants chinois de la technologie, tels que Tencent et Alibaba, et les a rapprochés du gouvernement, qui a pris de petites participations dans les entreprises et s'est beaucoup intéressé à leurs opérations quotidiennes.

Le résultat est une économie numérique aseptisée mais néanmoins florissante. La super-application de Tencent, WeChat, qui combine messagerie, réseaux sociaux, e-commerce et paiements, génère à elle seule des centaines de milliards de dollars de transactions annuelles. M. Xi espère désormais réussir un exercice d’équilibre similaire avec IA. Une fois de plus, certains experts étrangers prédisent une situation délicate. Et une fois de plus, le Parti communiste construit des outils pour leur prouver le contraire.

Les efforts du parti commencent par les règles les plus strictes au monde pour les équivalents chinois du ChatGoogle Tag (qui est, comme on pouvait s’y attendre, interdit en Chine) et d’autres « génératifs » destinés aux consommateurs IA. Depuis mars, les entreprises doivent enregistrer auprès des autorités tout algorithme qui formule des recommandations ou peut influencer les décisions des citoyens. En pratique, cela signifie essentiellement tout logiciel de ce type destiné aux consommateurs. En juillet, le gouvernement a publié des règles exigeant que tous IA– du contenu généré pour « défendre les valeurs socialistes » – en d’autres termes, pas de chansons de paillardise, de slogans anti-parti ou, Dieu nous en préserve, de se moquer de M. Xi. En septembre, elle a publié une liste de 110 services enregistrés. Seuls leurs promoteurs et le gouvernement connaissent tous les tenants et aboutissants du processus d'enregistrement et les critères précis impliqués.

En octobre, un comité de normalisation pour la sécurité nationale de l'information a publié une liste de directives de sécurité exigeant une auto-évaluation détaillée des données utilisées pour former des systèmes génératifs.IA des modèles. Une règle exige le test manuel d’au moins 4 000 sous-ensembles du total des données de formation ; au moins 96 % d'entre eux doivent être qualifiés d'« acceptables », selon une liste de 31 risques de sécurité formulés en termes vagues. Le premier critère de contenu inacceptable est tout ce qui « incite à la subversion du pouvoir de l’État ou au renversement du système socialiste ». Les chatbots doivent refuser de répondre à 95 % des requêtes susceptibles de susciter un contenu inacceptable (toutes celles qui aboutiraient seraient, vraisemblablement, censurées ex post). Ils ne doivent pas non plus rejeter plus de 5 % des questions inoffensives.

Tout ce qui est produit par des algorithmes non enregistrés doit être bloqué et ses créateurs punis. En mai, un homme de la province du Gansu a été arrêté après avoir utilisé ChatGoogle Tag pour produire du texte et des images d'un faux accident de train et les publier sur les réseaux sociaux. Il a peut-être été le premier Chinois à être arrêté pour propagation IA-la désinformation générée. Il ne sera pas le dernier.

Cette stratégie autoritaire a ralenti l’adoption des outils génératifs destinés aux consommateurs. IA dans le pays. Ernie Bot, construit par Baidu, une autre entreprise technologique, était prêt au moment de ChatGoogle Tagmais n'a été publié que neuf mois plus tard, en août, une éternité étant donné la rapidité avec laquelle la technologie évolue. Il se montre encore maladroit lorsqu'il s'agit d'exprimer son attachement au parti. Lorsqu’on lui pose des questions sensibles sur M. Xi, il censure consciencieusement, ne proposant aucune réponse et supprimant la question.

Des socialistes modèles

Avec plus de travail, le parti pourra peut-être faire IA modèles non seulement en bons communistes, mais en communistes fluides. Cela éviterait la nécessité d'une censure ex post, estime Luciano Floridi, de l'Université de Yale. Pourtant, les autorités ne semblent pas pressées d’en arriver là. Au lieu de cela, ils font la promotion des applications commerciales de cette technologie.

Contrairement au consommateur IAentreprise IA fait face à peu de contraintes en matière de développement, note Mimi Zou de l'Oxford Martin School, un institut de recherche. Comme l'explique Steven Rolf du Digital Futures at Work Research Centre, un groupe de réflexion britannique, cela a pour effet de détourner le capital et la main-d'œuvre de choses comme les chatbots grand public vers l'apprentissage automatique pour les entreprises. Le gouvernement semble parier que cela permettra à la Chine de rattraper et même de dépasser l’Amérique en matière d’IA sans avoir à faire face à des menaces potentiellement subversives. IA-contenu généré.

En mai, la ville méridionale de Shenzhen a annoncé qu'elle lancerait un programme d'aide de 100 milliards de yuans (14 milliards de dollars) IA-fonds d'investissement ciblé, le plus grand du genre au monde. Un certain nombre de municipalités ont lancé des fonds d’investissement similaires. Une grande partie de cet argent va à des entreprises telles que Qi An Xin, qui propose des IA qui gère les risques liés à la sécurité des données pour les entreprises. La société affirme que le robot peut effectuer le travail de 60 experts en sécurité, 24 heures sur 24. Avant d’être introduite en bourse en 2020, elle a reçu d’importants investissements de la part d’entreprises publiques, comme de nombreuses startups similaires.

Pour que cette stratégie fonctionne, l'entreprise-IA les entreprises ont besoin du bon type de matière première. Les chatbots grand public utilisent IA modèles formés sur des pans entiers de l’Internet public. Les applications d'entreprise ont besoin de données d'entreprise, dont une grande partie est dispersée au sein des entreprises. L’autre volet de la stratégie chinoise consiste donc à transformer les données des entreprises en un bien public. L’État ne veut pas être propriétaire des données mais, comme pour les autres facteurs, contrôler les canaux par lesquels elles circulent.

À cette fin, le gouvernement favorise les échanges de données. Ceux-ci sont destinés à permettre aux entreprises d'échanger des informations, regroupées dans des produits standardisés, sur tous les domaines de la vie commerciale, depuis l'activité des usines individuelles jusqu'aux données de vente des magasins individuels. Les petites entreprises auront accès à des connaissances autrefois réservées aux géants de la technologie. Les banques et les courtiers obtiendront une image en temps réel de l’économie.

Les villes chinoises ont commencé à lancer des échanges de données il y a une dizaine d’années. Il y en a désormais une cinquantaine en Chine. Et ils prennent enfin de la vitesse. L'échange de données de Shanghai (SDE), lancé en 2021, a commencé à commercialiser un certain nombre de nouveaux produits de données. Dans l'une de ses premières transactions, ICBC, une banque, a acheté des informations auprès du secteur de l’énergie. Ceci peut être utilisé pour évaluer la consommation électrique des entreprises et, parce qu'il reflète les niveaux d'activité réels, pour créer des profils de crédit alternatifs pour les entreprises. SDE vend des données satellitaires sur la production d'acier au cœur de la Chine et sur les violations environnementales commises par les sociétés minières. Un autre produit fournit des données en temps réel sur les médecins, les infirmières et les lits d'hôpitaux à travers le pays afin d'aider les cabinets médicaux à prendre des décisions commerciales. Le SDE expérimente également l’utilisation des données comme garantie pour les prêts.

À grande échelle, la datafication de l'industrie pourrait apporter une impulsion économique significative, estime Tom Nunlist de Trivium, un cabinet de conseil à Pékin. Et davantage de données pourraient bientôt arriver sur les bourses. En août, le gouvernement central a chargé les entreprises publiques de réfléchir à la manière de valoriser leurs données. Au cours des derniers mois, des équipes d'auditeurs ont essayé de trouver des moyens d'y parvenir, en vue d'ajouter ces données aux bilans des entreprises en tant qu'actifs incorporels. Ils sont censés rendre leur rapport d’ici le 1er janvier (même si la date limite risque d’être dépassée, compte tenu de la nature sans précédent de la tâche).

Le pari du gouvernement sur l'entreprise IA n'est cependant pas sans problèmes. L’industrie automobile en est un bon exemple. En 2022, environ 185 millions de véhicules circulant sur les routes chinoises disposaient d'une connexion Internet, et un plan national envisage une production massive de voitures semi-autonomes d'ici 2025. Pour que cela se produise, les entreprises qui conçoivent des algorithmes de conduite autonome ont besoin de beaucoup de données sur lesquelles former leurs systèmes. Une entreprise appelée WICV construit une plate-forme pour les données qui commencent à sortir des voitures.

Pour l'instant, WICV renvoie les données d'une voiture au constructeur automobile qui l'a construite, donc BYD obtient des données de BYD, Nio de Nios et ainsi de suite. Mais il est prévu que les données soient éventuellement échangées sur des bourses, où elles pourraient être achetées par d'autres développeurs de systèmes de conduite autonome. Mais pour que cela se produise, les données de conduite doivent d'abord être « désensibilisées », explique Chu Wenfu, WICVLe fondateur de , en supprimant les détails biométriques et de géolocalisation qui pourraient aider les mauvais acteurs à suivre les mouvements de personnes spécifiques.

La possibilité d’un tel suivi effraie les autorités chinoises. L'une des principales raisons pour lesquelles ils ont réprimé Didi Global quelques jours après l'introduction en bourse de la société de covoiturage à New York en 2021 était, il est apparu plus tard, la crainte que les données sur les 25 millions de trajets quotidiens de Didi, y compris les informations de géolocalisation liées aux passagers, puissent chuter. entre les mains des autorités américaines. Le gouvernement chinois cartographie de manière préventive de vastes zones du pays où la collecte de données pourrait potentiellement constituer une menace pour la sécurité nationale.

De nombreux constructeurs automobiles, y compris occidentaux comme BMW, n'ont d'autre choix que de s'associer à des entreprises soutenues par l'État pour gérer les informations de conduite et garantir que les règles locales de conformité des données sont respectées. Juste au cas où, certains constructeurs automobiles abandonnent certaines fonctionnalités, comme permettre aux conducteurs de regarder des images en direct de l'intérieur et de l'extérieur de leur voiture sur leur téléphone. Après tout, certaines de ces images pourraient, par inadvertance, capturer quelque chose de sensible.

Il est peu probable que de tels compromis entre innovation et sécurité se limitent aux voitures. D’autres données industrielles et d’entreprise devront probablement également être désensibilisées avant de pouvoir être échangées à grande échelle sur les bourses. Cela ralentira le développement des entreprises IA, même si les algorithmes restent libres. C’est le prix que le parti semble prêt à payer pour sa paranoïa.



Source link

Scroll to Top