Le Seigneur des Anneaux, OpenAI et ETH Workshop : Pourquoi Vitalik n’est-il pas devenu le Sam Altman qui a été chassé ?

Auteur original : 0xAlpha

Rédacteur en chef original : GaryMa Wu a déclaré que la blockchain

Récemment, nous avons regardé le « film » « Master of AI », une trilogie de drames produits par les gros bonnets du capital-risque et les géants de la technologie de la Silicon Valley avec un investissement de plus de 10 milliards de dollars, dont trois épisodes de « Partners in AI », « Two Paths » et « The Return of the King ». Beaucoup ont applaudi le retour de Sam Altman sur le « trône », certains le comparant même au retour de Jobs chez Apple.

Cependant, les deux ne sont tout simplement pas comparables. « Master of AI » est une toute autre histoire, il raconte une bataille entre deux voies : rechercher le profit, ou ne pas poursuivre ? C’est le nœud du problème !

Revenons sur les débuts du Seigneur des Anneaux. Lorsque Gandalf voit le Seigneur des Anneaux dans la maison de l’oncle Bilbo, il se rend vite compte qu’une chose aussi puissante ne peut pas être manipulée par des gens ordinaires. Seules certaines personnes saintes et d’un autre monde, comme Frodon, peuvent y faire face. C’est pourquoi Frodon est le cœur de l’équipe – il est le seul à pouvoir porter quelque chose d’aussi puissant sans être englouti par lui. Pas Gandalf, pas ALGO, pas Legolas, pas Gimli, seulement Frodon. La clé de toute l’histoire du Seigneur des Anneaux est la nature unique de Frodon.

*Note : Sam Altman est le PDG d’OpenAI, Ilya Sutskever est l’un des cofondateurs d’OpenAI (il n’était pas d’accord avec Sam Altman sur le choix de la voie d’OpenAI et a finalement été marginalisé), et Greg Brockman est le CTO d’OpenAI. Reid Hoffman est un entrepreneur et investisseur en capital-risque bien connu qui a été cofondateur de LinkedIn. Jessica Livingston est l’une des partenaires fondatrices de Y Combinator, une société de capital-risque. Peter Thiel est un entrepreneur bien connu, un investisseur en capital-risque et cofondateur de PayPal. *

Maintenant, revenons au début de Master of AI. En 2015, Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk et un certain nombre d’entreprises technologiques ont annoncé la création d’OpenAI et se sont engagés à injecter plus d’un milliard de dollars dans le fonds de capital-risque. Il s’agit d’un groupe des cerveaux les plus intelligents du monde, presque aussi intelligents que Gandalf. Ils savent aussi qu’ils construisent quelque chose de puissant, comme le Seigneur des Anneaux, qui ne devrait pas être détenu et contrôlé par quiconque poursuivant ses propres intérêts. Elle doit être maîtrisée par des personnes désintéressées, comme Frodon. Ainsi, au lieu de lancer une entreprise à but lucratif, ils ont créé OpenAI en tant qu’organisation de recherche à but non lucratif, vraisemblablement à but non lucratif.

L’idée qu’« une chose aussi puissante ne devrait pas être contrôlée par une entreprise à but lucratif » n’était peut-être pas le consensus des cofondateurs d’OpenAI au moment de sa fondation. C’est probablement la raison pour laquelle ces fondateurs se sont réunis lorsqu’ils ont décidé de lancer OpenAI en premier lieu. Avant la création d’OpenAI, Google avait déjà démontré le potentiel d’exercer ce superpouvoir. Il semble qu’OpenAI soit une « coalition de protecteurs » composée de ces « protecteurs de l’humanité » visionnaires pour contrer le monstre de l’IA que Google est en train de devenir, une entreprise à but lucratif. Ilya a peut-être été persuadée de quitter Google pour diriger la R&D d’OpenAI en raison de sa croyance en cette philosophie, car la décision d’Ilya n’aurait aucun sens de tout autre point de vue. En 2015, personne n’était en mesure de fournir une meilleure plate-forme de développement d’IA que Google. Même si les promoteurs d’OpenAI sont tous des magnats de la Silicon Valley, aucun d’entre eux n’est un praticien de l’IA (ils ne codent pas du tout). Sans parler de l’inconvénient financier : OpenAI n’est clairement pas aussi bien financé que Google. Les fondateurs ont promis 1 milliard de dollars, mais seulement 10 % environ ont été tenus (100 millions de dollars d’Elon Musk ou 30 millions de dollars d’autres donateurs). Du point de vue des rendements financiers personnels, une organisation à but non lucratif ne peut pas fournir à Ilya une meilleure compensation financière que de travailler chez Google. La seule chose qui pourrait convaincre Ilya de quitter Google pour diriger OpenAI est cette philosophie. Les idées philosophiques d’Ilya ne sont pas aussi connues du public que celles de son directeur de thèse. Geoffrey Hinton a quitté Google en 2023 en raison de sa désillusion à l’égard de la politique de l’ère Ronald Reagan et de son mécontentement à l’égard du financement militaire de l’IA.

En bref, les fondateurs voulaient qu’OpenAI soit leur Frodon, portant le « Seigneur des Anneaux » pour eux.

Cependant, la vie dans la science-fiction ou les films est beaucoup plus facile. Dans le film, la solution est très simple. Tolkien a simplement créé le personnage de Frodon, un homme altruiste qui peut résister à la tentation du Seigneur des Anneaux, protégé des attaques physiques du « Seigneur des Anneaux ».

Pour rendre le personnage de Frodon plus crédible et naturel, Tolkien a même créé une race naïve, gentille et altruiste : les Hobbits. En tant qu’archétype du hobbit au grand cœur, Frodon est naturellement devenu l’élu, capable de résister à des tentations auxquelles même un sage Gandalf ne pouvait résister. Si la nature de Frodon est attribuée aux caractéristiques raciales des hobbits, alors la solution de Tolkien au plus grand problème du « Seigneur des Anneaux » est essentiellement raciste, plaçant les espoirs de l’humanité sur le caractère noble d’une certaine race. En tant que non-raciste, bien que je puisse apprécier l’intrigue de super-héros (ou de races de super-héros) résolvant des problèmes dans des romans ou des films, je ne peux pas être naïf au point de penser que le monde réel est aussi simple que les films. Dans le monde réel, je ne crois pas en cette solution.

Le monde réel est juste beaucoup plus compliqué. Dans le cas d’OpenAI, la plupart des modèles construits par OpenAI (en particulier la famille GPT) sont des monstres de puissance de calcul, s’appuyant sur des puces électriques (principalement des GPU). Dans le monde capitaliste, cela signifie qu’il a un grand besoin de capitaux. Par conséquent, sans la bénédiction du capital, le modèle d’OpenAI ne serait pas devenu ce qu’il est aujourd’hui. En ce sens, Sam Altman est une figure clé en tant que centre de ressources de l’entreprise. Grâce aux relations de Sam dans la Silicon Valley, OpenAI bénéficie d’un solide soutien de la part d’investisseurs et de fournisseurs de matériel.

Il y a une raison pour laquelle les ressources qui affluent dans OpenAI pour générer des modèles : les profits. Attendez, OpenAI n’est-il pas une organisation à but non lucratif ? Eh bien, techniquement oui, mais quelque chose a changé au fond. Tout en conservant sa structure nominale à but non lucratif, OpenAI se transforme davantage en une entité à but lucratif. C’est ce qui s’est produit en 2019 lors du lancement d’OpenAI Global LLC, une filiale à but lucratif créée pour attirer légalement des fonds de capital-risque et donner des actions aux employés. Cette décision astucieuse aligne OpenAI sur les intérêts des investisseurs (et non des donateurs cette fois-ci, donc probablement à la recherche du profit). Grâce à cette cohérence, OpenAI peut se développer avec la bénédiction du capital. OpenAI Global LLC a eu un impact profond sur la croissance d’OpenAI, en particulier lié à Microsoft, en obtenant un investissement de 1 milliard de dollars (et plus tard des milliards) et en exécutant le monstre informatique d’OpenAI sur la plate-forme de supercalcul basée sur Azure de Microsoft. Nous savons tous qu’un modèle d’IA réussi nécessite trois choses : des algorithmes, des données et de la puissance de calcul. OpenAI rassemble les meilleurs experts mondiaux de l’IA pour les algorithmes de leur modèle (rappel : cela dépend aussi du capital, et l’équipe de professionnels d’OpenAI n’est pas bon marché). Les données de ChatGPT proviennent principalement de l’Internet ouvert, il ne s’agit donc pas d’un goulot d’étranglement. La puissance de calcul basée sur les puces et l’électricité est un projet coûteux. En un mot, la moitié de ces trois éléments sont principalement fournis par la structure des bénéfices d’OpenAI Global LLC. Sans cet approvisionnement constant en carburant, OpenAI n’aurait pas pu aller aussi loin sans les seuls dons.

Mais cela a un coût. Il est presque impossible d’être béni par le capital tout en conservant son indépendance. Ce que l’on appelle aujourd’hui un cadre sans but lucratif est plus nominal que substantiel.

Il y a beaucoup d’indications que la querelle entre Ilya et Sam est précisément liée à ce choix de voie : llya semble essayer d’empêcher OpenAI de dévier de la direction qu’ils ont initialement fixée.

Il existe également une théorie selon laquelle Sam a fait une erreur dans ce qu’on appelle l’événement de rupture du modèle Q, qui a conduit à ce coup d’État manqué. Mais je ne crois pas que le conseil d’administration d’OpenAI licencierait un PDG très prospère pour s’être trompé sur une question particulière. Cette soi-disant erreur dans la cassure du modèle Q, si elle existe, est au mieux un déclencheur.

Le vrai problème avec OpenAI est peut-être qu’il s’est écarté de son chemin initial. En 2018, Elon Musk s’est séparé de Sam pour la même raison. Et il semblerait qu’en 2021, la même raison ait conduit un groupe d’anciens membres à quitter OpenAI pour lancer Anthropic. De plus, au moment de l’épisode, la lettre anonyme d’Elon Musk publiée sur Twitter pointait également du doigt le problème.

Faire du profit ou ne pas en faire, la question semble trouver une réponse à la fin du « Retour du Roi » : avec le retour de Sam et l’exil d’Ilya, la bataille pour la route est terminée. OpenAI est destinée à être une entreprise rentable de facto (probablement toujours avec une coquille à but non lucratif).

Mais ne vous méprenez pas. Je ne dis pas que Sam est un mauvais gars et qu’Ilya est un bon gars. Je souligne simplement qu’OpenAI est dans un dilemme, que l’on peut appeler un dilemme de super-entreprise :

Une entreprise qui fonctionne dans le but de faire du profit peut être contrôlée par le capital qui y est investi, ce qui peut présenter certains dangers, surtout si l’entreprise construit un outil super puissant. Et s’il n’opère pas dans le but de réaliser des bénéfices, il peut être confronté à un manque de ressources, et dans un secteur à forte intensité de capital, ce qui signifie qu’il peut ne pas être en mesure de construire un produit du tout.

En fait, la naissance de tout outil surpuissant soulève des préoccupations similaires en matière de contrôle, qui ne se limite pas à la sphère de l’entreprise. Prenons, par exemple, le film Oppenheimer, qui vient de sortir. Lorsque la bombe atomique a explosé avec succès, Oppenheimer a ressenti plus de peur que de joie. Les scientifiques de l’époque voulaient créer une organisation supranationale pour monopoliser les forces nucléaires. L’idée est similaire à ce que les fondateurs d’OpenAI pensaient à l’époque - que quelque chose d’aussi super puissant que la bombe atomique ne devrait pas être entre les mains d’une seule organisation, ni même du gouvernement américain. Ce n’est pas qu’une idée, c’est une action réelle. Theodore Hall, un physicien du projet Manhattan, a divulgué des détails clés de la création de la bombe atomique à l’Union soviétique, reconnaissant dans une déclaration de 1997 que le « monopole américain sur les armes nucléaires » était « dangereux et devrait être évité ». En d’autres termes, Theodore Hall a contribué à la décentralisation de la technologie de la bombe nucléaire. La façon de décentraliser l’énergie nucléaire en divulguant des secrets à l’URSS était clairement une pratique controversée (les Rosenberg ont même été exécutés sur la chaise électrique pour des fuites, malgré les preuves qu’ils avaient été lésés), mais cela reflétait le consensus des scientifiques de l’époque (y compris Oppenheimer, le père de la bombe atomique) - une chose aussi super-puissante ne devrait pas être monopolisée ! Mais je ne vais pas me plonger dans la façon de traiter quelque chose de super puissant, parce que c’est un sujet trop vaste. Recentrons notre attention sur la question des outils surpuissants contrôlés par des entreprises à but lucratif.

Jusqu’à présent, nous n’avons toujours pas mentionné Vitalik dans le titre de l’article. Qu’est-ce que Vitalik a à voir avec OpenAI ou le Seigneur des Anneaux ?

C’est parce que Vitalik et les fondateurs de ETH étaient dans une situation très similaire.

En 2014, lorsque les fondateurs de ETH’Atelier ont lancé ETH Atelier, ils étaient divisés sur la question de savoir si l’entité juridique à créer serait une organisation à but non lucratif ou une société à but lucratif. Le choix final, comme OpenAI à l’époque, s’est porté sur une organisation à but non lucratif, la Fondation ETH. À l’époque, le désaccord entre les fondateurs de ETH’atelier était probablement plus important que celui entre les fondateurs d’OpenAI, ce qui a conduit au départ de certains fondateurs. En revanche, l’établissement d’OpenAI en tant qu’organisation à but non lucratif a fait l’objet d’un consensus parmi tous les fondateurs. Le désaccord sur la voie d’OpenAI est venu plus tard.

En tant qu’étranger, je ne sais pas si le désaccord entre ETH fondateurs provient de leur attente que ETH Workshop soit un « Seigneur des Anneaux » surpuissant et ne devrait donc pas être contrôlé par une entité à but lucratif. Mais cela n’a pas d’importance. Important : Bien que ETH Fang soit devenue une chose puissante, la Fondation ETH Fang est toujours une organisation à but non lucratif à ce jour, et elle n’est pas confrontée à un dilemme de oui ou de non comme OpenAI. En fait, à partir d’aujourd’hui, peu importe que ETH Fondation soit un organisme à but non lucratif ou une entreprise à but lucratif. Peut-être que cette question était plus importante lorsque ETH a été lancé pour la première fois, mais ce n’est plus le cas aujourd’hui. Le puissant ETH Fang lui-même a une vie autonome qui lui est propre et n’est pas contrôlé par la Fondation ETH Fang. Au cours de son développement, la Fondation ETH semble également faire face à un problème de financement similaire à celui d’OpenAI. Par exemple, j’ai entendu Xiao Feng, l’un des premiers donateurs de la Fondation ETH Fang, se plaindre lors d’un séminaire que la Fondation ETH Fang était trop pauvre pour fournir un soutien financier adéquat aux développeurs. Je ne sais pas à quel point la Fondation ETH est pauvre, mais cette contrainte financière ne semble pas avoir affecté le développement de la Fondation ETH. En revanche, certaines fondations blockchain bien financées ne peuvent pas devenir un écosystème florissant simplement en brûlant de l’argent. Dans ce monde, le capital est toujours important, mais seulement dans une certaine mesure. Et dans le cas d’OpenAI, il n’y a pas de capital ? Pas question!

ETH et l’intelligence artificielle sont, bien sûr, des technologies complètement différentes. Mais une chose est similaire : le développement de l’un et de l’autre repose sur un investissement important en ressources (ou en capital). (Remarque : le développement du code ETH lui-même ne nécessite peut-être pas beaucoup de capital, mais je fais référence à la construction de l’ensemble du système ETH.) Afin d’attirer un tel montant d’investissements, OpenAI a dû s’écarter de ses intentions initiales et se transformer discrètement en une entreprise rentable de facto. D’autre part, bien qu’elle attire beaucoup de capitaux dans le système, ETH Fang n’est contrôlée par aucune organisation à but lucratif. Avec la bénédiction du capital et non sous son contrôle - c’est presque un miracle !

Vitalik a pu le faire parce que Vitalik avait son Frodon - Blockchain !

Classons les technologies en deux catégories selon qu’elles produisent réellement un produit : l’une est la technologie de production et l’autre est la technologie de connexion. L’intelligence artificielle appartient à la première, tandis que la blockchain appartient à la seconde. L’IA peut effectuer de nombreuses activités de production, telles que ChatGPT générant du texte, Midjourney générant des images et des robots produisant des voitures dans les usines sans personnel de TSL.

Techniquement, la blockchain ne produit rien. Ce n’est qu’une machine d’état et ne peut même pas lancer d’opérations par elle-même. Mais en tant que technologie de connectivité, son importance réside dans la fourniture d’un paradigme de collaboration humaine à grande échelle qui va au-delà des entreprises à but lucratif traditionnelles. Essentiellement, une société par actions est un engagement entre les actionnaires, les créanciers, le conseil d’administration et la direction. La validité du contrat est que si l’une des parties viole le contrat, l’autre partie peut intenter une action en justice. Et la validité de cette poursuite réside dans le fait que ses résultats sont exécutés par l’appareil d’État (ce que l’on appelle les forces de l’ordre). Donc, fondamentalement, l’entreprise est une relation contractuelle imposée par une machine d’État. Mais aujourd’hui, la blockchain nous apporte une nouvelle façon de contracter qui est imposée par la technologie. Alors que BTC contrats blockchain sont toujours très spécifiques sur le plan fonctionnel (et délibérément conservés comme tels), les contrats intelligents de ETH Fang étendent cette nouvelle façon de contracter pour qu’elle soit universelle. Fondamentalement, ETH Workshop permet aux humains de collaborer à grande échelle d’une toute nouvelle manière dans de nombreux domaines, contrairement aux entreprises à but lucratif du passé. Par exemple, la DeFi est une nouvelle façon pour les gens de collaborer dans le secteur financier.

En ce sens, la blockchain est une « super entreprise » ! C’est grâce à ce paradigme de « super entreprise » que ETH Fang a pu se développer dans l’état florissant qu’il est aujourd’hui, sans avoir à faire face aux malheurs de l’entreprise OpenAI. La blockchain est le Frodon de Vitalik, portant le « Seigneur des Anneaux » sans être consumé par son pouvoir.

Alors maintenant, vous pouvez voir que Frodon a été un personnage clé derrière toutes ces histoires :

• Gandalf a eu de la chance parce qu’il avait Frodon comme ami dans le monde fantastique.
• Vitalik a aussi de la chance car dans le nouveau monde, il a son Frodon – blockchain. Ilya et les autres fondateurs d’OpenAI n’ont pas eu cette chance, car ils étaient dans un vieux monde où Frodon n’existait pas.

Lien vers l’article original