La Chine a proposé mardi de nouveaux contrôles sur les chatbots d’intelligence artificielle, dans le but de contrôler la manière dont son industrie technologique déploie des modèles d’IA génératifs, tels que popularisés par ChatGPT aux États-Unis.
Quelques heures après que le géant de la technologie Alibaba a suivi ses pairs SenseTime et Baidu avec le lancement d’un bot de type ChatGPT, le puissant régulateur chinois d’Internet a publié un projet de mesures susceptibles de ralentir le déploiement d’Alibaba, citant le potentiel de «mobilisation sociale» des chatbots.
Les propositions de l’Administration du cyberespace de Chine ont déclaré que les fournisseurs devraient soumettre leurs produits à des examens de sécurité avant leur diffusion publique et qu’ils créeraient une base de données pour les enregistrer. Le régulateur a également déclaré que les plateformes doivent vérifier l’identité des utilisateurs, permettant de suivre l’utilisation.
“Le contenu généré par l’intelligence artificielle générative doit incarner les valeurs socialistes fondamentales et ne doit contenir aucun contenu qui subvertit le pouvoir de l’État, prône le renversement du système socialiste, incite à diviser le pays ou sape l’unité nationale”, déclarent les règles du CAC.
Plus tôt mardi, le directeur général d’Alibaba, Daniel Zhang, a déclaré que Tongyi Qianwen d’Alibaba, qui se traduit à peu près par “la vérité à partir d’un millier de questions”, serait intégré en tant que robot d’IA dans l’outil de collaboration sur le lieu de travail DingTalk et les haut-parleurs intelligents Tmall Genie de l’entreprise avant d’être intégrés dans tous ses produits à un moment donné dans le futur.
“Nous sommes à un moment décisif technologique poussé par l’IA générative et le cloud computing”, a déclaré Zhang, alors qu’Alibaba est devenue la dernière entreprise chinoise à déclarer qu’elle essaierait d’imiter la start-up américaine et créateur de ChatGPT, OpenAI.
« Dans dix à vingt ans, quand nous regarderons en arrière, nous réaliserons que nous étions tous sur la même ligne de départ », a déclaré Zhang. “Saisir ces opportunités futures est notre souhait commun et nécessite une vision partagée.”
Xu Li, directeur général du leader chinois des logiciels d’IA SenseTime, a dévoilé lundi son bot SenseChat avec une démonstration en direct, lorsqu’il a pu écrire un e-mail et raconter l’histoire d’un chat attrapant un poisson.
Publicité
Baidu a dévoilé le mois dernier son chatbot, Ernie, avec des critiques mitigées. Les utilisateurs ont déclaré que le chatbot pouvait créer des images vives, mais qu’il avait du mal avec la logique de base et était incapable d’écrire du code comme le GPT-4 d’OpenAI.
Les efforts d’Alibaba sont cachés à l’intérieur de son bras cloud, dont Zhang a personnellement pris le contrôle en décembre au milieu d’une croissance en baisse. Le chef fait le pari qu’une restructuration radicale du groupe annoncée le mois dernier contribuera à redresser la situation de l’entreprise. Alibaba se divisera en six entités mais restera contrôlée par une société holding commune, permettant à chaque unité d’être plus agile.
Tongyi a été ouvert aux entreprises clientes pour des tests vendredi dernier. Les premiers commentaires des utilisateurs publiés en ligne ont montré que le chatbot pouvait écrire des poèmes en chinois et en français et résoudre des problèmes mathématiques de base, mais avait du mal avec une logique simple.
Lorsqu’un utilisateur a demandé à Tongyi comment faire sauter du béton armé pour faire un plat savoureux, il a proposé une recette qui comprenait le découpage du béton en petits morceaux. Ernie de Baidu a également dit aux utilisateurs de mélanger du béton avec de l’ail, des oignons et des poivrons, et a noté que le béton était “un ingrédient très spécial avec une texture unique”.
Lorsque ChatGPT s’est vu poser la même question, il a déclaré qu’il ne comprenait pas la demande et que le béton n’était pas comestible. D’autres tests d’utilisateurs chinois ont montré qu’Ernie et Tongyi inventaient des faits sur des personnes inexistantes. Les nouvelles règles du CAC interdiraient aux chatbots de générer de fausses informations.
Le Financial Times a pu reproduire les questions et les réponses problématiques dans Ernie de Baidu mais n’a pas eu accès à Tongyi.
Ernie demande aux utilisateurs de fournir leurs noms et numéros d’identification nationaux pour l’accès. Le chatbot renvoie une brève biographie de Xi Jinping pour toute question liée au président chinois.
La vague d’annonces génératives sur l’IA a contribué à faire grimper les cours des actions des groupes technologiques chinois. Les actions de Baidu ont augmenté de plus de 15 % depuis le début de l’année, tandis que SenseTime a augmenté de près de 50 %. Les actions d’Alibaba ont augmenté de 1,5% à Hong Kong mardi.
Les gains des actions d’IA ont alarmé les régulateurs chinois et les médias d’État, qui ont à plusieurs reprises mis en garde les investisseurs contre la poursuite de la frénésie spéculative.
© 2023 Financial Times Ltd. Tous droits réservés. Ne pas être redistribué, copié ou modifié de quelque manière que ce soit.
