Imaginons un instant : un bunker, caché sous terre, dans lequel des chercheurs d’OpenAI se réfugient pour se protéger des conséquences d’une intelligence artificielle qui aurait dépassé l’humanité. Cela pourrait paraître sorti tout droit d’un film de science-fiction, mais cette idée, qui semble tirée d’un roman d’anticipation, a réellement été envisagée au sein même de la Silicon Valley.
Une proposition surprenante d’Ilya Sutskever
C’est un scénario qui semble digne d’un thriller technologique. À l’été 2023, Ilya Sutskever, cofondateur et directeur scientifique d’OpenAI, aurait suggéré à ses collègues qu’il serait peut-être nécessaire de construire un bunker souterrain pour protéger les chercheurs de l’entreprise. Pourquoi ? Parce qu’une intelligence artificielle (IA) d’un niveau supérieur à l’humain pourrait engendrer un chaos mondial. Lors d’une réunion interne, alors qu’il évoquait la possibilité de créer une intelligence artificielle générale (AGI) capable de surpasser l’intellect humain, Sutskever a fait une remarque qui a laissé ses collègues abasourdis : « Une fois que nous serons tous dans le bunker… ». Cette déclaration a fait l’effet d’une bombe. Un bunker, pour quelle raison ?
L’AGI : Un risque pour la stabilité mondiale ?
L’idée d’un bunker pour protéger les chercheurs ne découle pas simplement d’une imagination débordante. C’est un sujet qui revient fréquemment dans les discussions internes d’OpenAI, selon plusieurs témoins ayant été interrogés. Ilya Sutskever, bien qu’extrêmement respecté dans la communauté scientifique, a exprimé des craintes réelles face à une AGI qui, selon lui, pourrait dérégler l’ordre social et politique mondial. Les chercheurs se trouveraient en première ligne, potentiellement visés par les tensions mondiales découlant de la course pour contrôler une telle technologie.
Ce n’est pas simplement une question de technologie. Si OpenAI parvenait à créer la première IA véritablement supérieure à l’humain, cela ouvrirait la porte à une compétition féroce entre les puissances mondiales. Et, comme souvent dans les rivalités internationales, la violence pourrait rapidement remplacer la diplomatie. Face à cette perspective, un simple laboratoire ou des bureaux protégés ne suffiraient pas, estime Ilya Sutskever. Il envisagerait un refuge fortifié, à l’abri de toute menace extérieure, pour que les chercheurs puissent poursuivre leurs travaux en toute sécurité.
Une forteresse pour les cerveaux d’OpenAI
Le bunker que propose Sutskever n’est pas simplement un lieu de refuge temporaire. Il serait destiné à héberger les membres clés d’OpenAI dans un environnement sécurisé, à l’abri de toute pression externe. L’objectif est de leur offrir un espace pour continuer à réfléchir et à travailler sans crainte de perturbations. Cette forteresse, qui pourrait ressembler à un havre de paix dans un monde devenu chaotique, serait un refuge pour les cerveaux créateurs de l’AGI. Et pour les plus sceptiques, Ilya Sutskever a précisé que la participation à ce plan serait volontaire, mais qu’il considérait cette solution comme une nécessité pour préserver la stabilité du monde.
Quelles implications pour l’avenir ?
L’énoncé de Sutskever a laissé perplexes nombre de ses collègues, mais aussi de nombreux observateurs extérieurs. À l’heure où l’IA devient de plus en plus sophistiquée, le débat autour de l’AGI s’intensifie. Le plus grand défi pour l’humanité réside dans l’équilibre entre l’innovation technologique et les risques qui en découlent. Sutskever, en prédisant une AGI plus puissante que l’humain, semble prendre très au sérieux les dangers potentiels d’une telle avancée. Bien que cette idée d’un bunker soit en quelque sorte une vision extrême, elle soulève une question cruciale : jusqu’où peut-on repousser les limites de l’intelligence artificielle sans risquer de tout perdre ?
Loin d’être une simple réflexion philosophique, cette proposition met en lumière les défis techniques, éthiques et sociaux liés à la création d’une intelligence artificielle autonome. Si un jour une AGI devait voir le jour, comment garantir qu’elle ne devienne pas une menace pour l’humanité, et que les créateurs de cette technologie puissent continuer à travailler dans un environnement protégé et sécurisé ?
