Agrandir / Une image générée par l’IA d'”un logo d’oiseau cyborg Twitter composé de milliers de puces informatiques”.
À mi-parcours
Bien qu’il ait récemment appelé à une pause de six mois dans le développement de puissants modèles d’IA, le PDG de Twitter, Elon Musk, a récemment acheté environ 10 000 GPU pour un projet d’IA générative au sein de Twitter, rapporte Business Insider, citant des personnes familières avec l’entreprise. La nature exacte du projet reste toutefois un mystère.
Les GPU, ou unités de traitement graphique, sont des puces spécialement conçues à l’origine pour l’infographie, mais leurs conceptions massivement parallèles les rendent également idéales pour le traitement génératif de l’IA. La formation (la création) d’un nouveau modèle d’IA nécessite généralement une grande quantité de puissance de calcul, y compris de nombreux GPU, ce qui signifie que l’acquisition de Musk pourrait représenter un engagement important pour développer un modèle d’IA d’apprentissage en profondeur au sein de Twitter.
Fin février, The Information a annoncé que Musk avait approché des chercheurs en IA pour former un nouveau laboratoire d’IA pour concurrencer ChatGPT d’OpenAI, y compris d’anciens chercheurs de DeepMind. Igor Babuschkin et Manuel Kroiss. Auparavant, Musk s’était publiquement plaint de la partialité des produits d’OpenAI, affirmant qu’ils étaient trop “réveillés”. Musk a cofondé OpenAI en 2015 mais a quitté l’entreprise après un désaccord interne en 2018.
En ce qui concerne le projet d’IA basé sur Twitter, Business Insider rapporte qu’il s’agit d’un grand modèle de langage (LLM), le type de technologie d’IA générative qui alimente ChatGPT. L’entreprise pourrait potentiellement utiliser sa bibliothèque massive de tweets d’utilisateurs pour aider à former le modèle de sortie en langage naturel.
Publicité
L’investissement de Musk dans les GPU pour ce projet est estimé à plusieurs dizaines de millions de dollars. Les unités GPU seront probablement hébergées dans le centre de données Twitter d’Atlanta, l’un des deux exploités par la société, selon la source de Business Insider.
Les applications possibles de l’IA générative au sein de Twitter pourraient inclure l’amélioration de la recherche sur Twitter ou la création de nouvelles méthodes publicitaires. De plus, l’achat de matériel pourrait représenter une posture publique – Business Insider cite une personne familière avec le projet disant que l’achat des GPU montre que Musk est “engagé” dans le développement de l’IA au sein de l’entreprise.
Fin mars, Musk était signataire d’une lettre ouverte largement diffusée rédigée par le Future of Life Institute (une organisation partiellement financée par Musk) qui appelait à un moratoire de six mois sur le développement de modèles d’IA plus puissants que GPT-4, qui est actuellement le modèle de langage le plus puissant d’OpenAI. Les chercheurs ont cité les risques potentiels pour la civilisation humaine de l’IA galopante.
Alors que le concept de pause s’est avéré irréalisable, peu de temps après, certains critiques ont affirmé que Musk voulait une “pause” pour que ses entreprises puissent rattraper OpenAI. Bien qu’il n’y ait aucune annonce indiquant si le modèle d’IA de Twitter sera “plus puissant” que le GPT-4, ces dernières mesures peuvent être considérées comme sapant les appels à la prudence de Musk sur le sujet.
