MIT: No hay que temer al apocalipsis de la IA La capacidad de verificación es un recurso escaso

来源：Bankless 播客；整理：Felix, PANews

El economista del MIT, Christian Catalini, fue invitado al programa de Ryan y David para profundizar en su nuevo artículo “Algunos aspectos económicos simples de la inteligencia artificial general”. El documento señala que el recurso escaso en la economía de la IA ya no es la inteligencia, sino la validación: es decir, la capacidad humana de revisar, juzgar y confirmar la precisión de las salidas de la IA.

Christian explicó en detalle las dos curvas de costo que están remodelando diversas industrias (costo de automatización y costo de validación), y por qué los puestos de trabajo de nivel inicial están desapareciendo primero, así como por qué incluso los mejores expertos están, sin darse cuenta, formando a sus sucesores (“la maldición de los programadores”). También esbozó tres roles que se mantendrán durante la transformación: directores, creadores de significado y aseguradores de responsabilidad.

PANews ha resumido los puntos destacados de la conversación.

Presentador: Creo que muchos oyentes pueden sentirse como yo, con un tipo de pánico hacia la IA. ¿Por qué crees que las personas están preocupadas por la IA? ¿Son sus preocupaciones razonables?

Christian: Todos sentimos lo mismo. Este es un período de cambios rápidos y transformadores, cuanto más cerca estés del código, más pronto podrás atestiguar esta aceleración, este crecimiento exponencial se ha vuelto muy real en los últimos meses. Esta tecnología ha logrado cosas que muchos pensaban que llevarían mucho más tiempo; es una sensación con la que todos estamos lidiando. Pero creo que el “apocalipsis” es erróneo, la gente tiende a subestimar el potencial que traen estas herramientas. Sí, habrá un período de transición extremadamente difícil, la velocidad de transformación de los trabajos es sin precedentes en la historia. Sin embargo, si utilizas las características más destacadas de esta tecnología e inviertes en ellas, a largo plazo será mayormente positivo, aunque habrá muchos baches en el camino. La economía considera el trabajo como un conjunto de tareas, algunas de las cuales serán automatizadas, lo cual es una buena noticia, pero lo crucial es cómo te reentrenas y mantienes en la vanguardia.

Presentador: ¿Quién crees que será el primero en ser impactado?

Christian: Esa es una excelente pregunta, tengo muchas ideas al respecto. Primero, cuando digo que quienes están más cerca del código serán los primeros en ser impactados, me refiero a que ellos experimentarán primero cuán poderosa es esta tecnología. Como revela la “paradoja de Jevons”, cuando algo se vuelve más eficiente, en realidad consumimos más de ello, por ejemplo, escribimos más software. Creo que la programación se diversificará como muchas otras profesiones, lo que en nuestro artículo llamamos “el ciclo inicial que desaparece”. Si eres un principiante y no has adquirido el “conocimiento tácito” para distinguir entre un buen y un mediocre producto, entonces la IA puede reemplazarte bien en varios campos.

Ahora cualquiera puede fácilmente conseguir un marketing decente, un programador junior o un abogado que pueda manejar la mayoría de situaciones, solo necesitas contratar a un abogado de alto nivel para la validación final. Por otro lado, incluso los mejores expertos, al introducir la IA, también están, consciente o inconscientemente, creando etiquetas, información y huellas digitales que eventualmente llevarán a que su propio trabajo sea automatizado. Los mejores laboratorios están contratando a los mejores talentos en campos como las finanzas para crear estándares de evaluación, integrando ese conocimiento especializado en los grandes modelos. Así que creo que ningún trabajo individual está 100% seguro, incluso el trabajo físico, que está limitado por la capacidad de fabricación robótica, verá enormes avances en los modelos de recompensa en los próximos años. Cualquier cosa que suceda frente a una pantalla puede ser rastreada, replicada y aprendida. Para cada profesión, la clave es pensar: si delego tanto trabajo como sea posible a la IA, ¿dónde aún puedo agregar valor?

En realidad, hay mucho “autoengaño” en torno al “gusto” y “juicio”. Son conceptos muy vagos. Así que en el artículo decimos: no existen los juicios de gusto o de calidad, solo la distinción entre “medible” y “no medible”. Si algo ya ha sido medido, la máquina puede replicarlo. Si algo aún está incrustado en los pesos de tu cerebro, como el caso de un diseñador de élite que ha acumulado miles de horas de experiencia y puede decidir qué lanzar y qué no, eso es lo que llamamos “validación”. Toda validación es ese último paso: los agentes de IA crean el producto, y tú, como decisor, decides si cumple con el estándar para salir al mercado. A medida que las máquinas obtienen mejores datos, las cosas se automatizarán; pero en áreas desconocidas, o donde no hay datos en absoluto, esa parte seguirá perteneciendo a los humanos en los próximos años.

Presentador: Esa es una perspectiva muy profunda. Pero también me pregunto, es natural que los ingenieros automaticen su trabajo. ¿El impacto es el mismo en todas las industrias?

Christian: Tenemos suficiente evidencia para demostrar que el cambio será desigual. Puedes pensarlo así: ¿es este trabajo solo un “embalaje” de algo que la sociedad no necesita en absoluto? Por ejemplo, el trabajo de consultoría general, si se trata principalmente de reempaquetar, refinar y resumir información que ya está ampliamente disponible, eso claramente presenta riesgos. Pero si se trata de aportar un conocimiento especializado escaso, o si se necesita un consultor por razones políticas, esos trabajos sobrevivirán. Pregúntate: ¿este trabajo es rentable porque resuelve un problema complejo, o solo porque existe algún tipo de cuello de botella creado por el hombre?

Presentador: ¿Qué significa realmente la validación? Me resulta difícil desglosar mi trabajo diario en tareas de trabajo cognitivo y tareas de validación.

Christian: Los agentes han aprendido y medido todo de la red y libros, porque son más baratos y escalables, por lo que reemplazarán la parte medible. Pero hay cosas que los agentes aún no saben: es decir, el peso único de la red neuronal en tu cerebro. Eso es algo que obtienes a través de tu propia experiencia y lucha, lo que te convierte en un experto de élite. Por ejemplo, los primeros participantes en criptomonedas, muchos de los cuales eran de Argentina, Venezuela y otros lugares que vivieron hiperinflación, tienen reacciones completamente diferentes a los activos. Esa medida única interna sigue siendo una gran ventaja.

¿Qué es la validación? Es la diferencia entre tu propio estándar de medida del mundo y el estándar que tiene el agente. Como un editor de élite que sabe exactamente qué artículos resonarán; o un CTO de élite, frente a la vasta biblioteca de código generado por IA, que sabe exactamente qué partes clave deben ser revisadas por un humano, que aún no pueden ser medidas por una máquina.

Presentador: Déjame dar un ejemplo. Si veo un video en X sobre Israel siendo bombardeado, pero descubro que es generado por IA. Utilizo mi cerebro para identificar el problema y posiblemente genere un mejor video mediante un nuevo aviso. ¿Eso es mi “capacidad de validación”?

Christian: Ese es un gran ejemplo. Más allá de eso, es posible que pronto estemos en un mundo donde, para la mayoría de las personas, este video sea difícil de distinguir de la realidad. El siguiente paso podría ser que un experto militar note que la dinámica de las llamas no es correcta. En el siguiente paso, incluso los expertos militares podrían no ser capaces de distinguirlo a simple vista, y necesitarían que la IA analice los principios físicos y realice pruebas simuladas. Al final, podría ser completamente indistinguible, y en ese momento, tendríamos que depender de infraestructuras basadas en criptografía para confirmar la autenticidad. En el ámbito médico es lo mismo; los casos marginales finalmente necesitan que los mejores radiólogos utilicen 20 años de experiencia y conocimiento del contexto específico del paciente para contrarrestar el juicio de la IA. Esa es la última capa del “filtrado” en la que nos centramos. Al hacerlo, liberamos una gran cantidad de tiempo. Así que esa es la parte positiva. Podemos hacer más cosas con menos recursos. El costo de las cosas caras bajará. La sociedad consumirá más de estas cosas. Creo que esa es una buena noticia.

Presentador: Pero en tu ejemplo, actualmente él está haciendo la validación, pero pronto no podrá validar, necesitará un comandante militar, y al final ni el comandante podrá validar, y tendrá que recurrir a la IA. ¿No demuestra eso que la “validación” inicialmente tiene valor, pero pronto también será automatizada por la IA? Entonces, ¿la validación en sí misma no es segura?

Christian: Exactamente. En nuestro artículo lo llamamos “la maldición de los programadores”. Realizar esta acción de validación, que es muy racional, está impulsando el desarrollo de tecnologías de vanguardia y convirtiendo la experiencia en datos. No podemos detenernos, porque todos los abogados o profesionales intentan usar IA. La validación es, de hecho, un frente que se está reduciendo.

Presentador: ¿Incluso el último ámbito de trabajo de validación se está reduciendo? ¿Cuándo podremos dejar de preocuparnos?

Christian: Primero, hay ciertas cosas que son intrínsecamente no medibles, como los llamados “juegos de estatus” o cosas que los humanos otorgan significado. Estos campos no serán invadidos por máquinas, porque su característica se refiere al consenso de coordinación entre humanos. Las criptomonedas, en cierta medida, también son así; lo importante es el consenso humano sobre qué tiene valor. A medida que el campo de trabajo medible se reduce, inventaremos muchas formas de darle significado al trabajo no medible.

Presentador: La IA puede construir un sitio web en 10 segundos, pero puede que no escriba un tuit que atraiga a los humanos. ¿Podría ser eso uno de los últimos trabajos de validación que quedan?

Christian: Captar la atención, contar un chiste realmente novedoso, es un trabajo creativo extremadamente difícil, que intenta romper algo que nunca ha sido medido. Hemos evolucionado durante eones con una gran capacidad para enfrentar entornos desconocidos. Las personas que se dedican a este tipo de trabajo se llaman “creadores de significado”. Por ejemplo, en el ámbito del arte o la cultura, lo que es bueno depende del consenso humano. Incluso cuando utilizas agentes de IA, debes establecer una “intención”.

Presentador: Los costos de automatización están disminuyendo exponencialmente, ¿qué pasará con “el costo de validación”? ¿Siempre estará limitado por las restricciones biológicas de los humanos?

Christian: Actualmente, está limitado biológicamente. Así que muchas empresas han lanzado una gran cantidad de código generado por IA, pero no hay suficiente mano de obra para leer y validarlo, lo que inevitablemente conlleva riesgos.

Presentador: ¿No se puede usar IA para validar a la IA?

Christian: Si la IA puede validar correctamente, esa parte en sí misma es automatizable. Después de agotar toda la validación de IA, lo que queda son cosas que realmente no pueden ser validadas por IA, esa es la verdadera botella de intervención humana.

Presentador: Si la validación es un nuevo recurso escaso, pero está en constante retroceso, ¿cómo se debe trabajar e invertir en esta economía?

Christian: Hemos creado una matriz 2x2 basada en “costo de automatización” y “costo de validación”. La esquina inferior izquierda es para los trabajadores que serán reemplazados: automatización fácil, validación fácil, definitivamente no quieres estar aquí. Los otros tres cuadrantes son:

Creadores de significado: difícil de automatizar, difícil de validar. Se dedican al consenso social, juegos de estatus y conexiones humanas. Por ejemplo, los creadores de gusto en la moda, los KOL de criptomonedas en Twitter, crean narrativas y coordinan la atención.

Aseguradores de responsabilidad: fácil de automatizar, difícil de validar. Son los mejores expertos en su campo, como los mejores abogados, médicos o capitalistas de riesgo. Utilizan IA a gran escala, pero brindan servicios de responsabilidad y validación para los casos marginales finales.

Directores: difícil de automatizar, fácil de validar. El núcleo es la “intención”. Se enfrentan a lo “desconocido desconocido”, dirigiendo a los agentes como emprendedores, estableciendo dirección, sintiendo desviaciones y corrigiendo rumbo continuamente.

Presentador: ¿Qué deben hacer los jóvenes que recién se gradúan y desean ingresar al mercado laboral? Por un lado, están los trabajos de nivel inicial sin valor, y por el otro, los mejores expertos que requieren diez años de experiencia en la industria, hay un gran abismo entre ambos. La IA ya puede hacer trabajos de nivel inicial, ¿cómo pueden los jóvenes crecer hacia el otro extremo?

Christian: Efectivamente existe un abismo. Pero la buena noticia es que puedes comprimir el tiempo de aprendizaje. Puedes saltarte los pasos tradicionales de capacitación. Un ingeniero junior ahora puede hacer el trabajo que antes realizaba un equipo entero, gracias a las herramientas. Aunque cometerá errores al principio, como novato puede cuestionar la tradición desde una perspectiva completamente novedosa, esa es la ventaja. Pueden realizar ideas de maneras que nosotros, cuando éramos jóvenes, nunca podríamos haberlo hecho. Hay ventajas y desventajas.

El camino del pasado: “obtener un título, encontrar una pasantía, trabajar duro para ascender”, ya no existe, lo que traerá un gran choque cultural. Esto es muy difícil para los recién graduados. Si aún estás en la universidad, aún hay tiempo para aclarar la dirección. Si estás en problemas, mi consejo es: utiliza estas herramientas para crear algo. Tu ambición debería ser 100 veces mayor que la que teníamos a esa edad.

Presentador: La desaparición de una gran cantidad de trabajos “de botón” en el corto plazo, ¿podría llevar a la sociedad a un caos?

Christian: La sociedad siempre recreará trabajos “de botón” cuando sea necesario para mantener la estabilidad. Pero muchas de las personas que realizan este tipo de trabajo en realidad tienen la capacidad de hacer más, solo que estaban limitadas por el entorno en el pasado. Cuando el trabajo físico ya no es necesario, inventamos ir al gimnasio; ahora, al enfrentar la liberación del trabajo intelectual, las personas desarrollarán diversos trabajos paralelos y economías de creadores para obtener un sentido de desafío. Por eso creo que el “ingreso básico incondicional (UBI)” es completamente erróneo, las personas necesitan significado y motivación para la autorrealización. Además, incluso si ahora te han automatizado una gran parte del trabajo, si usas bien esta superherramienta llamada IA, un empleado junior recién ingresado también puede generar la producción que antes requería un equipo entero.

Presentador: ¿Tienes algún consejo para las empresas e inversionistas?

Christian: Para las empresas, invertir en infraestructura de validación, ofrecer “responsabilidad como servicio” (es decir, no solo proporcionar agentes, sino también asumir responsabilidad por las consecuencias). Además, dominar “fuentes de hechos exclusivas”, porque la IA es fácil de engañar, las empresas que puedan proporcionar datos reales exclusivos o evaluaciones profundas al estilo Bloomberg tendrán un gran valor. Para los inversionistas, además de invertir en estas, es crucial centrarse en la I+D dura “no medible”. Los antiguos efectos de red normales pueden fallar, y los nuevos efectos de red se basarán en cómo puedes hacer que tu agente sea más confiable que los demás a través de mejores retroalimentaciones reales, porque lo que la gente realmente quiere comprar es inteligencia validada.

Presentador: ¿Es útil la tecnología de criptografía en este proceso de validación?

Christian: La infraestructura subyacente establecida en el campo de la criptografía durante la última década es crucial. Cuando necesitamos verificar la autenticidad de la identidad y prevenir la toma de control de cuentas, tecnologías en la cadena como “prueba de personalidad” pueden proporcionar una validación poderosa. También con el origen de los datos y la cadena de regulación criptográfica, necesitamos garantías criptográficas rígidas sobre la generación de información y la conformidad de los modelos.

Presentador: ¿Qué deberían hacer las personas en el próximo año? ¿Mantienes un optimismo sobre el futuro de la humanidad?

Christian: Primero, no entres en pánico. Experimenta mucho, utiliza herramientas para “eliminar” y automatizar tu yo actual tanto como sea posible. La exploración de muchos pasatiempos hacia el futuro puede ser la carrera más significativa. En el peor de los casos, también puedes identificar los límites y deficiencias del modelo. Para muchos creadores de contenido en línea, los pasatiempos ya se han convertido en carreras, lo que será la dirección principal en el futuro. Si tienes hijos, descubrir sus talentos y sumergirlos en lo que aman es lo más importante. No hay plantillas profesionales fijas; las nuevas herramientas de IA pueden ayudarlos a encontrar su propio camino único.