Hier, des centaines d’amis et de collègues d’Eckersley ont rempli les bancs pour une sorte de service commémoratif inhabituel dans le sanctuaire aux allures d’église de l’Internet Archive à San Francisco – un symposium avec une série de conférences consacrées non seulement aux souvenirs d’Eckersley en tant que personne, mais un tour de l’œuvre de sa vie. Face à un sanctuaire dédié à Eckersley au fond de la salle remplie de ses écrits, de son vélo de route bien-aimé et de quelques échantillons de sa garde-robe gothique victorienne, Turan, Gallagher et 10 autres conférenciers ont fait des présentations sur la longue liste de contributions d’Eckersley : ses années poussant la Silicon Valley vers de meilleures technologies de préservation de la vie privée, sa co-fondation d’un projet révolutionnaire pour chiffrer l’ensemble du Web et son pivot de fin de vie pour améliorer la sécurité et l’éthique de l’IA.
L’événement a également servi comme une sorte de lancement en douceur pour AOI, l’organisation qui va maintenant poursuivre le travail d’Eckersley après sa mort. Eckersley a envisagé l’institut comme un incubateur et un laboratoire appliqué qui travaillerait avec les principaux laboratoires d’IA pour résoudre le problème qu’Eckersley en était venu à croire qu’il était peut-être encore plus important que le travail de confidentialité et de cybersécurité auquel il avait consacré des décennies de son carrière : rediriger l’avenir de l’intelligence artificielle loin des forces qui causent la souffrance dans le monde, vers ce qu’il a décrit comme « l’épanouissement humain ».
“Nous devons faire de l’IA non seulement ce que nous sommes, mais ce que nous aspirons à être”, a déclaré Turan dans son discours lors de l’événement commémoratif, après avoir diffusé un enregistrement de l’appel téléphonique dans lequel Eckersley l’avait recruté. “Donc, cela peut nous élever dans cette direction.”
La mission qu’Eckersley a conçue pour AOI est née d’un sentiment croissant au cours de la dernière décennie que l’IA a un “problème d’alignement”: que son évolution se précipite à un rythme toujours plus rapide, mais avec des objectifs simplistes qui sont en décalage avec ceux de la santé et le bonheur de l’humanité. Au lieu d’inaugurer un paradis de surabondance et de loisirs créatifs pour tous, Eckersley pensait que, sur sa trajectoire actuelle, l’IA est bien plus susceptible d’amplifier toutes les forces qui détruisent déjà le monde : destruction de l’environnement, exploitation des pauvres et rampante nationalisme, pour n’en citer que quelques-uns.
L’objectif d’AOI, comme le décrivent Turan et Gallagher, n’est pas d’essayer de freiner les progrès de l’IA, mais d’éloigner ses objectifs de ces forces destructrices à l’esprit unique. Ils soutiennent que c’est le meilleur espoir de l’humanité d’empêcher, par exemple, les logiciels hyperintelligents qui peuvent laver le cerveau des humains par la publicité ou la propagande, les sociétés dotées de stratégies et de pouvoirs divins pour récolter jusqu’au dernier hydrocarbure de la terre, ou les systèmes de piratage automatisés qui peuvent pénétrer n’importe quel réseau dans le monde pour provoquer un chaos mondial. “Les échecs de l’IA ne ressembleront pas à des nanobots rampant partout sur nous tout d’un coup”, déclare Turan. “Ce sont des catastrophes économiques et environnementales qui auront l’air très reconnaissables, similaires à ce qui se passe en ce moment.”
Gallagher, maintenant directeur exécutif d’AOI, souligne que la vision d’Eckersley pour l’institut n’était pas celle d’une Cassandra catastrophique, mais d’un berger qui pourrait guider l’IA vers ses rêves idéalistes pour l’avenir. «Il n’a jamais pensé à la façon de prévenir une dystopie. Sa façon de penser éternellement optimiste était : ‘comment pouvons-nous créer l’utopie ?’ », dit-elle. “Que pouvons-nous faire pour construire un monde meilleur, et comment l’intelligence artificielle peut-elle contribuer à l’épanouissement humain ?”
