Agrandir / Le président américain Joe Biden et le vice-président Kamala Harris rencontrent le cabinet “Investir en Amérique” pour discuter du programme d’investissement en Amérique dans la salle Roosevelt de la Maison Blanche à Washington, DC, le 5 mai.
Jeudi, le président Joe Biden a tenu une réunion à la Maison Blanche avec les PDG des principales sociétés d’IA, dont Google, Microsoft, OpenAI et Anthropic, soulignant l’importance d’assurer la sécurité des produits d’IA avant leur déploiement. Au cours de la réunion, Biden a exhorté les dirigeants à faire face aux risques posés par l’IA. Mais certains experts en IA ont critiqué l’exclusion des chercheurs en éthique qui ont mis en garde contre les dangers de l’IA depuis des années.
Au cours des derniers mois, les modèles d’IA génératifs tels que ChatGPT ont rapidement gagné en popularité et suscité un battage technologique intense, poussant les entreprises à développer des produits similaires à un rythme rapide.
Cependant, les inquiétudes grandissent quant aux problèmes potentiels de confidentialité, aux préjugés en matière d’emploi et à la possibilité de les utiliser pour créer des campagnes de désinformation. Selon la Maison Blanche, l’administration a appelé à plus de transparence, à des évaluations de sécurité et à une protection contre les attaques malveillantes lors d’une “discussion franche et constructive” avec les dirigeants.
Les participants les plus en vue de la réunion étaient Sundar Pichai de Google, Satya Nadella de Microsoft, Sam Altman d’OpenAI et Dario Amodei d’Anthropic.
Le vice-président Kamala Harris a présidé la réunion, et dans une vidéo de Biden “passant” publiée sur Twitter, le président a déclaré : “Je suis juste venu dire merci. Ce que vous faites a un potentiel énorme et un danger énorme. Je sais vous comprenez cela. Et j’espère que vous pourrez nous expliquer ce qui, selon vous, est le plus nécessaire pour protéger la société ainsi que pour l’avancement. C’est vraiment, vraiment important.
L’automne dernier, l’administration Biden a publié un ensemble de directives appelées “AI Bill of Rights” qui vise à protéger les Américains des effets néfastes des systèmes automatisés, notamment les préjugés, la discrimination et les problèmes de confidentialité.
Publicité
Les chercheurs en éthique de l’IA répondent
Alors que l’invitation de Biden a montré l’intérêt de la direction pour un sujet politique brûlant, les critiques des antécédents éthiques des entreprises invitées n’ont pas été impressionnés par la réunion, beaucoup remettant en question le choix d’inviter des personnes à la réunion qui, selon eux, représentent des entreprises qui ont créé le problèmes avec l’IA que la Maison Blanche cherche à résoudre.
Sur Twitter, le chercheur en intelligence artificielle, le Dr Timnit Gebru, a écrit : “Il semble que nous passions la moitié de notre temps à parler à divers législateurs et agences et nous avons TOUJOURS cette merde. Une salle pleine de mecs qui nous ont donné les problèmes et nous ont virés pour avoir parlé de les risques, étant appelé par ce satané président à « protéger les droits des gens ». »
En 2020, Google a licencié Gebru à la suite d’un différend concernant un article de recherche qu’elle a co-écrit et qui mettait en évidence les risques et les biais potentiels dans les modèles linguistiques à grande échelle. L’incident a déclenché un débat au sein de la communauté des chercheurs en IA sur l’engagement de Google envers l’éthique de l’IA.
De même, la chercheuse en éthique de l’IA de l’Université d’Oxford, Elizabeth Renieris, a tweeté : “Malheureusement, et avec tout le respect que je leur dois, POTUS, ce ne sont pas les gens qui peuvent nous dire ce qui est” le plus nécessaire pour protéger la société “en matière d’IA.”
La critique reflète le clivage commun entre ce que l’on appelle souvent la “sécurité de l’IA” (un mouvement lâche principalement concerné par le risque existentiel hypothétique de l’IA, ouvertement associé aux employés d’OpenAI) et “l’éthique de l’IA” (un groupe de chercheurs largement préoccupé par les mauvaises applications et les impacts des systèmes d’IA actuels, y compris les préjugés et la désinformation).
Dans ce sens, l’auteur, le Dr Brandeis Marshall, a suggéré d’organiser une “contre-réunion” à la réunion de la Maison Blanche qui inclurait Hugging Face, le Distributed AI Research Institute, le UCLA Center of Critical Internet Inquiry et la Algorithmic Justice League.
Jeudi également, la Maison Blanche a annoncé un investissement de 140 millions de dollars pour lancer sept instituts de recherche sur l’IA par l’intermédiaire de la National Science Foundation. De plus, Anthropic, Google, Hugging Face, Nvidia, OpenAI et Stability AI participeront à des évaluations publiques de leurs systèmes d’IA au DEF CON 31.
Après la réunion de la Maison Blanche, Harris a publié une déclaration disant : « Le secteur privé a la responsabilité éthique, morale et légale d’assurer la sûreté et la sécurité de ses produits. Et chaque entreprise doit se conformer aux lois existantes pour protéger le peuple américain. attendons avec impatience le suivi et le suivi dans les semaines à venir.”
