Agrandir / Le drapeau de l’UE devant un arrière-plan généré par l’IA.
UE / Diffusion stable
Mercredi, les responsables de l’Union européenne ont voté pour mettre en œuvre des réglementations proposées plus strictes concernant l’IA, selon Reuters. Le projet mis à jour de la loi “AI Act” comprend une interdiction de l’utilisation de l’IA dans la surveillance biométrique et exige que des systèmes comme ChatGPT d’OpenAI révèlent quand le contenu a été généré par l’IA. Bien que le projet ne soit toujours pas contraignant, il donne une bonne indication de la façon dont les régulateurs de l’UE envisagent l’IA.
Les nouvelles modifications de la proposition de loi de la Commission européenne, qui n’ont pas encore été finalisées, visent à protéger les citoyens de l’UE des menaces potentielles liées à la technologie d’apprentissage automatique.
Les changements surviennent au milieu de la prolifération de systèmes d’IA génératifs qui imitent les capacités de conversation humaines, tels que ChatGPT et GPT-4 d’OpenAI, qui ont déclenché des appels à l’action controversés parmi les scientifiques de l’IA et les dirigeants de l’industrie concernant les risques sociétaux potentiels. Cependant, le projet de loi sur l’IA proposé par l’UE date de plus de 2 ans, il ne s’agit donc pas simplement d’une réponse instinctive au battage médiatique sur l’IA. Il comprend des dispositions qui protègent contre d’autres types de dommages causés par l’IA qui sont plus ancrés dans l’ici et maintenant qu’une prise de contrôle hypothétique de l’IA.
“Alors que les entreprises Big Tech tirent la sonnette d’alarme sur leurs propres créations, l’Europe est allée de l’avant et a proposé une réponse concrète aux risques que l’IA commence à poser”, a déclaré Brando Benifei, co-rapporteur du projet de loi. (Un co-rapporteur est similaire à un co-parrain d’un projet de loi au Congrès américain, partageant avec une autre personne la responsabilité de rédiger et de guider la législation proposée tout au long du processus législatif.)
Le nouveau projet de loi sur l’IA comprend une disposition interdisant aux entreprises de récupérer des données biométriques (telles que des photos d’utilisateurs) sur les réseaux sociaux à des fins de formation à la reconnaissance faciale. La nouvelle d’entreprises comme Clearview AI utilisant cette pratique pour créer des systèmes de reconnaissance faciale a suscité de vives critiques de la part des défenseurs de la vie privée en 2020. Cependant, Reuters rapporte que cette règle pourrait être une source de discorde avec certains pays de l’UE qui s’opposent à une interdiction générale de l’IA dans la surveillance biométrique. .
Publicité
Le nouveau projet de l’UE impose également des mesures de divulgation et de transparence sur l’IA générative. Les services de synthèse d’images comme Midjourney seraient tenus de divulguer le contenu généré par l’IA pour aider les gens à identifier les images de synthèse. Le projet de loi exigerait également que les entreprises d’IA générative fournissent des résumés du matériel protégé par le droit d’auteur récupéré et utilisé dans la formation de chaque système. Alors que l’industrie de l’édition soutient cette proposition, selon le New York Times, les développeurs technologiques s’opposent à sa faisabilité technique.
De plus, les créateurs de systèmes d’IA générative seraient tenus de mettre en place des garanties pour empêcher la génération de contenus illégaux, et les entreprises travaillant sur des “applications à haut risque” devraient évaluer leur impact potentiel sur les droits fondamentaux et l’environnement. Le projet actuel de loi de l’UE désigne les systèmes d’IA susceptibles d’influencer les électeurs et les élections comme “à haut risque”. Il classe également les systèmes utilisés par les plateformes de médias sociaux avec plus de 45 millions d’utilisateurs dans la même catégorie, englobant ainsi des plateformes comme Meta et Twitter.
Selon Reuters, Microsoft et IBM applaudissent les nouvelles règles proposées par les législateurs de l’UE, bien qu’ils espèrent un affinement supplémentaire de la législation proposée. “Nous pensons que l’IA nécessite des garde-fous législatifs, des efforts d’alignement au niveau international et des actions volontaires significatives de la part des entreprises qui développent et déploient l’IA”, a déclaré un porte-parole de Microsoft au service de presse.
Cependant, malgré les appels croissants à la réglementation de l’IA, certaines entreprises comme Meta ont minimisé les menaces potentielles des systèmes d’apprentissage automatique. Lors d’une conférence à Paris mercredi, Yann LeCun, scientifique en chef de l’IA chez Meta, a déclaré : “L’IA est intrinsèquement bonne parce que l’effet de l’IA est de rendre les gens plus intelligents”.
En outre, certains critiques pensent que l’alarme concernant le risque existentiel des systèmes d’IA est exagérée et ne sert qu’à aider des entreprises comme Microsoft et OpenAI à s’emparer de la réglementation, en utilisant leur influence et leur influence pour façonner les réglementations à leur avantage. En particulier en ce qui concerne la réglementation potentielle de l’IA basée aux États-Unis, les critiques affirment que permettre aux géants de la technologie d’écrire les règles pourrait nuire aux petites entreprises et étouffer la concurrence.
La Commission européenne a présenté pour la première fois le projet de règles de la loi sur l’IA en avril 2021, et certains ont critiqué la lenteur des réglementations sur la scène mondiale, mais avec la technologie qui évolue si rapidement, il est difficile de suivre. Le chef de l’industrie européenne, Thierry Breton, a souligné la nécessité d’agir rapidement plutôt que de retarder les progrès. “L’IA soulève de nombreuses questions, d’un point de vue social, éthique, économique”, a-t-il déclaré. “Mais ce n’est pas le moment d’appuyer sur un ’bouton pause’. Au contraire, il s’agit d’agir vite et de prendre ses responsabilités.”
Les experts disent qu’après un débat considérable sur les nouvelles règles entre les pays membres de l’UE, une version finale de la loi sur l’IA n’est pas attendue avant la fin de cette année.
