El Señor de los Anillos, OpenAI y ETH Workshop: ¿Por qué Vitalik no se convirtió en el Sam Altman que fue expulsado?

Autor original: 0xAlpha

Editor original: GaryMa Wu dijo que blockchain

Recientemente, vimos la “película” “Master of AI”, una trilogía de dramas producidos por los grandes capitalistas de riesgo y gigantes tecnológicos de Silicon Valley con una inversión de más de $ 10 mil millones, incluidos tres episodios de “Partners in AI”, “Two Paths” y “The Return of the King”. Muchos aplaudieron el regreso de Sam Altman al “trono”, y algunos incluso lo compararon con el regreso de Jobs a Apple.

Sin embargo, los dos simplemente no son comparables. “Master of AI” es una historia completamente diferente, cuenta una batalla entre dos caminos: ¿perseguir ganancias o no perseguirlas? ¡Ese es el quid de la cuestión!

Volvamos al comienzo de El Señor de los Anillos. Cuando Gandalf ve al Señor de los Anillos en la casa del tío Bilbo, rápidamente se da cuenta de que algo tan poderoso no puede ser manejado por la gente común. Solo algunas personas santas y de otro mundo, como Frodo, pueden lidiar con eso. Es por eso que Frodo es el corazón del equipo: es el único que puede llevar algo tan poderoso sin ser tragado por él. Ni Gandalf, ni ALGO, ni Legolas, ni Gimli, sólo Frodo. La clave de toda la historia de El Señor de los Anillos es la naturaleza única de Frodo.

*Nota: Sam Altman es el CEO de OpenAI, Ilya Sutskever es uno de los cofundadores de OpenAI (no estuvo de acuerdo con Sam Altman en la elección del camino de OpenAI y finalmente fue marginado), y Greg Brockman es el CTO de OpenAI. Reid Hoffman es un conocido empresario y capitalista de riesgo que fue cofundador de LinkedIn. Jessica Livingston es una de las socias fundadoras de Y Combinator, una firma de capital de riesgo. Peter Thiel es un conocido empresario, capitalista de riesgo y cofundador de PayPal. *

Ahora, volvamos al principio de Master of AI. En 2015, Sam Altman, Greg Brockman, Reid Hoffman, Jessica Livingston, Peter Thiel, Elon Musk y varias empresas tecnológicas anunciaron la formación de OpenAI y se comprometieron a inyectar más de 1.000 millones de dólares en el fondo de capital riesgo. Este es un grupo de los cerebros más inteligentes del mundo, casi tan inteligentes como Gandalf. También saben que están construyendo algo poderoso, como El Señor de los Anillos, que no debería ser propiedad ni estar controlado por nadie que persiga sus propios intereses. Debe ser dominado por personas desinteresadas, como Frodo. Entonces, en lugar de lanzar una empresa con fines de lucro, establecieron OpenAI como una organización de investigación sin fines de lucro, presumiblemente sin fines de lucro.

La noción de que “algo tan poderoso no debería ser controlado por una empresa orientada a las ganancias” puede no haber sido el consenso de los cofundadores de OpenAI en el momento de su fundación. Lo más probable es que esta sea la razón por la que estos fundadores se unieron cuando decidieron iniciar OpenAI en primer lugar. Antes de que se fundara OpenAI, Google ya había demostrado el potencial para ejercer este superpoder. Parece que OpenAI es una “coalición de protectores” formada por estos visionarios “protectores de la humanidad” para contrarrestar al monstruo de la IA en el que se está convirtiendo Google, una empresa con ánimo de lucro. Ilya puede haber sido persuadida de dejar Google para liderar la investigación y el desarrollo de OpenAI debido a su creencia en esta filosofía, porque el movimiento de Ilya no tendría sentido desde ningún otro punto de vista. En 2015, nadie fue capaz de proporcionar una mejor plataforma de desarrollo de IA que Google. A pesar de que los promotores de OpenAI son todos magnates de Silicon Valley, ninguno de ellos es practicante de IA (no codifican en absoluto). Por no hablar de la desventaja financiera: está claro que OpenAI no está tan bien financiada como Google. Los fundadores prometieron 1.000 millones de dólares, pero solo se cumplió alrededor del 10% (100 millones de Elon Musk o 30 millones de otros donantes). Desde el punto de vista de los rendimientos financieros personales, una organización sin ánimo de lucro no puede proporcionar a Ilya una mejor compensación económica que trabajar en Google. Lo único que podría convencer a Ilya de dejar Google para liderar OpenAI es esta filosofía. Las ideas filosóficas de Ilya no son tan conocidas por el público como su supervisor de doctorado. Geoffrey Hinton dejó Google en 2023 debido a la desilusión con la política de la era de Ronald Reagan y la insatisfacción con la financiación militar de la IA.

En resumen, los fundadores querían que OpenAI fuera su Frodo, llevando el “Señor de los Anillos” para ellos.

Sin embargo, la vida en la ciencia ficción o en el cine es mucho más fácil. En la película, la solución es muy simple. Tolkien simplemente creó el personaje de Frodo, un tipo desinteresado que puede resistir la tentación de El Señor de los Anillos, protegido de los ataques físicos por el “Señor de los Anillos”.

Para hacer que el personaje de Frodo fuera más creíble y natural, Tolkien incluso creó una raza ingenua, amable y desinteresada: los Hobbits. Como el arquetipo de hobbit erecto y de buen corazón, Frodo se convirtió naturalmente en el elegido, capaz de resistir tentaciones que incluso un sabio Gandalf no podría resistir. Si la naturaleza de Frodo se atribuye a las características raciales de los hobbits, entonces la solución de Tolkien al mayor problema de “El Señor de los Anillos” es esencialmente racista, depositando las esperanzas de la humanidad en el noble carácter de una determinada raza. Como no racista, si bien puedo disfrutar de la trama de superhéroes (o razas de superhéroes) resolviendo problemas en novelas o películas, no puedo ser tan ingenuo como para pensar que el mundo real es tan simple como las películas. En el mundo real, no creo en esta solución.

El mundo real es mucho más complicado. En el caso de OpenAI, la mayoría de los modelos construidos por OpenAI (especialmente la familia GPT) son monstruos de poder de cómputo, que dependen de chips alimentados por electricidad (en su mayoría GPU). En el mundo capitalista, esto significa que tiene una gran necesidad de capital. Por lo tanto, sin la bendición del capital, el modelo de OpenAI no se habría convertido en lo que es hoy. En este sentido, Sam Altman es una figura clave como centro de recursos de la compañía. Gracias a las conexiones de Sam en Silicon Valley, OpenAI cuenta con un fuerte apoyo de inversores y proveedores de hardware.

Hay una razón para que los recursos que fluyen hacia OpenAI impulsen los modelos: las ganancias. Espera, ¿no es OpenAI una organización sin fines de lucro? Bueno, técnicamente sí, pero algo ha cambiado en el fondo. Si bien mantiene su estructura nominalmente sin fines de lucro, OpenAI se está transformando más en una entidad con fines de lucro. Esto sucedió en 2019 cuando se lanzó OpenAI Global LLC, una subsidiaria con fines de lucro creada para atraer legalmente fondos de riesgo y dar acciones a los empleados. Este movimiento inteligente alinea a OpenAI con los intereses de los inversores (no de los donantes esta vez, por lo que probablemente en busca de ganancias). A través de esta consistencia, OpenAI puede crecer con la bendición del capital. OpenAI Global LLC ha tenido un profundo impacto en el crecimiento de OpenAI, específicamente vinculado a Microsoft, asegurando una inversión de $ 1 mil millones (y luego miles de millones) y ejecutando el monstruo informático de OpenAI en la plataforma de supercomputación basada en Azure de Microsoft. Todos sabemos que un modelo de IA exitoso requiere tres cosas: algoritmos, datos y potencia informática. OpenAI reúne a los mejores expertos en IA del mundo para los algoritmos de sus modelos (un recordatorio: esto también depende del capital, y el equipo de profesionales de OpenAI no es barato). Los datos de ChatGPT provienen principalmente de la Internet abierta, por lo que no es un cuello de botella. La potencia de cómputo basada en chips y electricidad es un proyecto costoso. En pocas palabras, la mitad de estos tres elementos son proporcionados principalmente por la estructura de ganancias de OpenAI Global LLC. Sin este suministro constante de combustible, OpenAI no habría podido llegar tan lejos solo sin donaciones.

Pero esto tiene un costo. Es casi imposible ser bendecido por el capital mientras se mantiene la independencia. Lo que ahora se llama un marco sin fines de lucro es más nominal que sustantivo.

Hay muchos indicios de que la enemistad entre Ilya y Sam se debe precisamente a esta elección de camino: llya parece estar tratando de evitar que OpenAI se desvíe de la dirección que establecieron originalmente.

También existe la teoría de que Sam cometió un error en el llamado evento de ruptura del modelo Q, que condujo a este golpe fallido. Pero no creo que la junta directiva de OpenAI despida a un CEO muy exitoso por equivocarse en un tema en particular. Este supuesto error en la ruptura del modelo Q, si existe, es, en el mejor de los casos, un desencadenante.

El verdadero problema con OpenAI puede ser que se ha desviado de su camino original. En 2018, Elon Musk se separó de Sam por la misma razón. Y parece que en 2021, la misma razón llevó a un grupo de antiguos miembros a abandonar OpenAI para iniciar Anthropic. Además, en el momento del episodio, la carta anónima de Elon Musk publicada en Twitter también apuntaba al problema.

Obtener ganancias o no obtener ganancias, la pregunta parece encontrar una respuesta al final de “El retorno del rey”: con el regreso de Sam y el exilio de Ilya, la batalla por el camino ha terminado. OpenAI está destinada a ser una empresa rentable de facto (probablemente todavía con un shell sin fines de lucro).

Pero no me malinterpreten. No estoy diciendo que Sam sea un tipo malo e Ilya sea un tipo bueno. Solo estoy señalando que OpenAI se encuentra en un dilema, que puede llamarse un dilema de superempresa:

Una empresa que opera con el objetivo de obtener ganancias puede ser controlada por el capital invertido en ella, lo que puede plantear algunos peligros, especialmente si la empresa está construyendo una herramienta súper poderosa. Y si no opera con el objetivo de obtener ganancias, puede enfrentar una falta de recursos, y en un sector intensivo en capital, lo que significa que es posible que no pueda construir un producto en absoluto.

De hecho, el nacimiento de cualquier herramienta superpoderosa plantea preocupaciones similares sobre el control, que no se limitan a la esfera corporativa. Tomemos, por ejemplo, la película Oppenheimer, recientemente estrenada. Cuando la bomba atómica explotó con éxito, Oppenheimer sintió más miedo que alegría. Los científicos de la época querían crear una organización supranacional para monopolizar las fuerzas nucleares. La idea es similar a lo que pensaron los fundadores de OpenAI en ese momento: que algo tan superpoderoso como la bomba atómica no debería estar en manos de una sola organización, ni siquiera del gobierno de Estados Unidos. No es solo una idea, es una acción real. Theodore Hall, un físico del Proyecto Manhattan, filtró detalles clave de la creación de la bomba atómica a la Unión Soviética, reconociendo en una declaración de 1997 que el “monopolio estadounidense de las armas nucleares” era “peligroso y debía evitarse”. En otras palabras, Theodore Hall ayudó a descentralizar la tecnología de las bombas nucleares. La forma de descentralizar la energía nuclear mediante la filtración de secretos a la URSS era claramente una práctica controvertida (los Rosenberg incluso fueron ejecutados en la silla eléctrica por filtraciones, a pesar de la evidencia de que fueron perjudicados), pero esto reflejaba el consenso de los científicos de la época (incluido Oppenheimer, el padre de la bomba atómica): ¡una cosa tan superpoderosa no debería monopolizarse! Pero no voy a profundizar en cómo lidiar con algo súper poderoso, porque ese es un tema demasiado amplio. Volvamos a centrar nuestra atención en el tema de las herramientas superpoderosas controladas por empresas con fines de lucro.

Hasta ahora, todavía no hemos mencionado a Vitalik en el título del artículo. ¿Qué tiene que ver Vitalik con OpenAI o El Señor de los Anillos?

Esto se debe a que Vitalik y los fundadores de ETH se encontraban en una situación muy similar.

En 2014, cuando los fundadores de ETH Workshop lanzaron ETH Workshop, estaban divididos sobre si la entidad legal que se establecería sería una organización sin fines de lucro o una corporación con fines de lucro. La elección final, al igual que OpenAI en ese momento, fue una organización sin fines de lucro, la Fundación ETH. En ese momento, el desacuerdo entre los fundadores de ETH Workshop fue probablemente mayor que el entre los fundadores de OpenAI, lo que llevó a la salida de algunos fundadores. Por el contrario, establecer OpenAI como una organización sin fines de lucro fue un consenso entre todos los fundadores. El desacuerdo sobre el camino de OpenAI vino después.

Como forastero, no me queda claro si el desacuerdo entre ETH fundadores se debe a su expectativa de que ETH Workshop sería un “Señor de los Anillos” superpoderoso y, por lo tanto, no debería ser controlado por una entidad con fines de lucro. Pero no importa. Importante: Si bien ETH Fang se ha convertido en algo poderoso, la Fundación ETH Fang sigue siendo una organización sin fines de lucro hasta el día de hoy, y no se enfrenta a un dilema de sí o no como OpenAI. De hecho, a día de hoy, no importa que ETH Fundación sea una organización sin ánimo de lucro o una empresa con ánimo de lucro. Quizás este tema era más importante cuando se lanzó ETH por primera vez, pero ese ya no es el caso hoy en día. El poderoso ETH Fang tiene vida propia y no está controlado por la Fundación ETH Fang. En el curso de su desarrollo, la Fundación ETH también parece enfrentarse a un problema de financiación similar al de OpenAI. Por ejemplo, escuché a Xiao Feng, uno de los primeros donantes de la Fundación ETH Fang, quejarse en un seminario de que la Fundación ETH Fang era demasiado pobre para proporcionar un apoyo financiero adecuado a los desarrolladores. No sé qué tan pobre es realmente la Fundación ETH, pero esta restricción financiera no parece haber afectado el desarrollo de la Fundación ETH. Por el contrario, algunas fundaciones de blockchain bien financiadas no pueden convertirse en un ecosistema próspero simplemente quemando dinero. En este mundo, el capital sigue siendo importante, pero solo hasta cierto punto. ¿Y en el caso de OpenAI, no hay capital? ¡No es posible!

ETH y la inteligencia artificial son, por supuesto, tecnologías completamente diferentes. Pero una cosa es similar: el desarrollo de ambos depende de una importante inversión de recursos (o inversión de capital). (Nota: Es posible que el desarrollo del código ETH en sí no requiera mucho capital, pero me refiero a la construcción de todo el sistema ETH). Para atraer una cantidad tan grande de inversión de capital, OpenAI tuvo que desviarse de sus intenciones originales y transformarse silenciosamente en una empresa rentable de facto. Por otro lado, a pesar de atraer mucho capital al sistema, ETH Fang no está controlado por ninguna organización con fines de lucro. Con la bendición del capital y no bajo su control, ¡es casi un milagro!

Vitalik pudo hacer esto porque Vitalik tenía su Frodo - ¡Blockchain!

Clasifiquemos las tecnologías en dos categorías en función de si realmente producen un producto: una es la tecnología de producción y la otra es la tecnología de conexión. La inteligencia artificial pertenece a la primera, mientras que la cadena de bloques pertenece a la segunda. La IA puede realizar muchas actividades de producción, como ChatGPT generando texto, Midjourney generando imágenes y robots produciendo automóviles en las fábricas no tripuladas de TSL.

Técnicamente, blockchain no produce nada. Es solo una máquina de estado y ni siquiera puede iniciar ninguna operación por sí sola. Pero como tecnología de conectividad, su importancia radica en proporcionar un paradigma de colaboración humana a gran escala que va más allá de las empresas tradicionales con fines de lucro. Esencialmente, una corporación es un pacto entre los accionistas, los acreedores, la junta directiva y la gerencia. La validez del contrato es que si una de las partes incumple el contrato, la otra parte puede demandar en los tribunales. Y la validez de este enjuiciamiento radica en el hecho de que sus resultados son llevados a cabo por el aparato estatal (las llamadas fuerzas del orden). Así que, fundamentalmente, la empresa es una relación contractual impuesta por una máquina estatal. Pero ahora, blockchain nos trae una nueva forma de contratación que es impuesta por la tecnología. Si bien BTC contratos de blockchain siguen siendo muy específicos desde el punto de vista funcional (y lo son deliberadamente), los contratos inteligentes de ETH Fang amplían esta nueva forma de contratación para que sea universal. Básicamente, ETH Workshop permite a los humanos colaborar a escala de una manera completamente nueva en muchos campos, a diferencia de las empresas orientadas a las ganancias del pasado. Por ejemplo, DeFi es una nueva forma para que las personas colaboren en el sector financiero.

En este sentido, ¡blockchain es una “súper empresa”! Es gracias a este paradigma de “súper empresa” que ETH Fang ha podido crecer hasta el estado próspero en el que se encuentra hoy, sin tener que enfrentarse a los problemas corporativos de OpenAI. La cadena de bloques es el Frodo de Vitalik, que lleva al “Señor de los Anillos” sin ser consumido por su poder.

Así que ahora puedes ver que Frodo ha sido un personaje clave detrás de todas estas historias:

• Gandalf tuvo suerte porque tenía a Frodo como amigo en el mundo de fantasía.
• Vitalik también tiene suerte porque en el nuevo mundo tiene su Frodo: blockchain.
• Ilya y los otros fundadores de OpenAI no tuvieron tanta suerte, porque estaban en un mundo antiguo donde Frodo no existía.

Enlace al artículo original