Agrandir / Une illustration générée par l’IA d’un ordinateur halluciné par l’IA.
Benj Edwards / Ars Technica
Au cours du week-end, les expérimentateurs ont découvert que le nouveau chatbot d’OpenAI, ChatGPT, peut halluciner des simulations de shells Linux et des jeux de rôle en se connectant à un système de tableau d’affichage (BBS). Le chatbot, basé sur un modèle d’IA d’apprentissage en profondeur, utilise ses connaissances stockées pour simuler Linux avec des résultats surprenants, notamment l’exécution de code Python et la navigation sur des sites Web virtuels.
La semaine dernière, OpenAI a rendu ChatGPT disponible gratuitement pendant une phase de test, ce qui a conduit les gens à sonder ses capacités et ses faiblesses de manière novatrice.
Samedi, un chercheur de DeepMind nommé Jonas Degrave a découvert comment demander à ChatGPT d’agir comme un shell Linux en saisissant cette invite :
Je veux que vous agissiez comme un terminal Linux. Je vais taper des commandes et vous répondrez avec ce que le terminal doit afficher. Je veux que vous ne répondiez qu’avec la sortie du terminal dans un bloc de code unique, et rien d’autre. N’écrivez pas d’explications. Ne tapez pas de commandes à moins que je ne vous demande de le faire. Quand j’ai besoin de vous dire quelque chose en anglais, je le ferai en mettant du texte entre accolades {comme ceci}. Ma première commande est pwd.
Lundi, Ars a découvert que l’astuce fonctionnait toujours. Après avoir entré cette invite, au lieu de discuter, OpenGPT acceptera les commandes Linux simulées. Il renvoie ensuite les réponses au format “bloc de code”. Par exemple, si vous tapez ls -al, vous verrez un exemple de structure de répertoires.
Agrandir / Après avoir configuré l’invite Linux virtuelle dans ChatGPT, taper “ls -al” renvoie une structure de répertoires simulée.
Benj Edwards
ChatGPT peut simuler une machine Linux car suffisamment d’informations sur le comportement d’une machine Linux ont été incluses dans ses données de formation. Ces données incluent probablement la documentation du logiciel (comme les pages de manuel), les messages de dépannage sur les forums Internet et la sortie journalisée des sessions shell.
ChatGPT génère des réponses en fonction du mot qui est statistiquement le plus susceptible de suivre la dernière série de mots, en commençant par l’invite saisie par l’utilisateur. Il continue la conversation (dans ce cas, une session de console Linux simulée) en incluant tout votre historique de conversation dans des invites successives.
Publicité
Degrave a constaté que la simulation va étonnamment profondément. Grâce à sa connaissance du langage de programmation Python (qui alimente GitHub Copilot), la machine Linux virtuelle de ChatGPT peut également exécuter du code, comme cette chaîne créée par Degrave à titre d’exemple : echo -e “x = lambda y : y*5+3 ; print(‘Résultat : ‘ + str(x(6)))” > run.py && python3 run.py. Selon Degrave, il renvoie la valeur correcte de “33”.
Agrandir / Exécution de code Python dans la machine Linux ChatGPT virtuelle.
Benj Edwards
Au cours de nos tests, nous avons découvert que vous pouvez créer des répertoires, passer de l’un à l’autre, installer des packages simulés avec apt-get et même Telnet dans un MUSH simulé et construire une salle ou vous connecter à un MUD et combattre un troll.
Chaque fois que des lacunes apparaissent dans la simulation, vous pouvez indiquer à ChatGPT comment vous souhaitez qu’il se comporte en utilisant des instructions entre accolades, comme indiqué dans l’invite d’origine. Par exemple, alors que nous étions “connectés” à notre MUD simulé, nous avons cassé le personnage et demandé à ChatGPT d’invoquer une attaque de troll. Le combat s’est déroulé comme prévu (en gardant correctement la trace des points de vie) jusqu’à ce que le troll meure aux mains de notre épée doublement virtuelle.
Agrandir / Lors de la simulation d’un MUD (dans Telnet, dans Linux, dans ChatGPT), vous pouvez ajuster la simulation en lui donnant des suggestions ChatGPT.
Benj Edwards
Dans les exemples de Degrave (dont il a parlé en détail sur son blog), il a également créé un fichier Docker, recherché un GPU, envoyé un ping à un nom de domaine simulé, parcouru un site Web simulé avec lynx, etc. Le trou de lapin simulé va en profondeur, et ChatGPT peut même halluciner de nouvelles commandes Linux.
Composer un BBS halluciné
Dans une manœuvre d’incitation similaire à l’évocation d’un shell Linux halluciné par l’IA, quelqu’un nommé gfodor sur Twitter a découvert qu’OpenGPT pouvait simuler l’appel d’un BBS commuté vintage, y compris l’initialisation d’un modem, l’entrée dans une salle de discussion et la conversation avec une personne simulée.
Agrandir / Un Twitter nommé gfodor a découvert que ChatGPT peut simuler l’appel d’un BBS.
Tant que l’invite ne déclenche pas ses filtres intégrés liés à la violence, à la haine ou au contenu sexuel (entre autres), ChatGPT semble prêt à accepter presque toutes les aventures imaginaires. Les gens ont également découvert qu’il pouvait jouer au tic-tac-toe, faire semblant d’être un guichet automatique ou simuler une salle de chat.
D’une certaine manière, ChatGPT agit comme un Holodeck basé sur du texte, où son IA tentera de simuler tout ce que vous voulez qu’il fasse.
Il convient de noter que si halluciner copieusement est le point fort de ChatGPT (de par sa conception), le retour d’informations factuelles de manière fiable reste un travail en cours. Pourtant, avec une IA comme ChatGPT, l’avenir du jeu créatif peut être très amusant.
