El año pasado, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y los enormes beneficios que ésta podría aportar. Al mismo tiempo, también expresé una actitud cautelosa hacia ciertos problemas específicos, centrándome principalmente en la superinteligencia AI y los riesgos devastadores que podría desencadenar si esta tecnología se construye de manera inadecuada, lo que podría llevar a la humanidad a perder el poder de forma irreversible.
El punto central del artículo aboga por una filosofía: una aceleración defensiva que sea descentralizada, democrática y diferenciada. Debemos acelerar el desarrollo tecnológico y, al mismo tiempo, centrarnos selectivamente en aquellas tecnologías que puedan mejorar la capacidad de defensa en lugar de la capacidad de daño, y comprometernos a promover la dispersión del poder, evitando que este se concentre en manos de unas pocas élites. El modelo de defensa debería imitar a Suiza democrática y a la región de Zomia que históricamente fue casi anárquica, en lugar del modelo de señores y castillos bajo el feudalismo medieval.
En el último año, estas ideas y conceptos han avanzado y madurado significativamente. Compartí estas ideas en la plataforma "80,000 horas", obteniendo muchas reacciones, la mayoría positivas, aunque también hubo algunas críticas.
Este trabajo en sí mismo ha avanzado y logrado resultados tangibles: hemos visto progresos en el ámbito de las vacunas de código abierto verificables; la conciencia sobre el valor del aire interior saludable sigue profundizándose; las "notas comunitarias" continúan desempeñando un papel positivo; el mercado de predicción ha tenido un año de ruptura como herramienta de información; la prueba de cero conocimiento (ZK-SNARKs) se ha aplicado en el ámbito de la identificación gubernamental y las redes sociales ( y ha garantizado la seguridad de las billeteras de Ethereum a través de la abstracción de cuentas ); las herramientas de imagen de código abierto han encontrado aplicaciones en medicina y en la interfaz cerebro-máquina (BCI), etc.
El otoño pasado, celebramos el primer evento importante de d/acc: "Día de descubrimiento de d/acc"(d/aDDy), que tuvo lugar en Devcon, reuniendo a oradores de diversos campos pilares de d/acc(, como biología, física, redes, defensa de la información y tecnología neural), y duró todo un día. Las personas que se han dedicado a estas tecnologías durante mucho tiempo han llegado a comprender mejor el trabajo de los demás, mientras que los forasteros también se han dado cuenta cada vez más de esta visión más amplia: que los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden expandirse a un mundo más amplio.
La connotación y denotación de d/acc
La idea central de d/acc es clara y concisa: aceleración defensiva descentralizada, democrática y diferenciada. Se trata de construir tecnologías que puedan inclinar el equilibrio entre ataque y defensa hacia la defensa, sin depender de otorgar más poder a las autoridades centrales durante el proceso de implementación. Hay una conexión intrínseca y estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre tiende a prosperar cuando la defensa es fácil de implementar, mientras que enfrenta serios desafíos cuando la defensa encuentra dificultades. En esos casos, es más probable que el resultado sea un período caótico de confrontación entre todos, que finalmente alcance un estado de equilibrio gobernado por los más fuertes.
Una forma de entender la importancia de intentar implementar simultáneamente la descentralización, la defensa y la aceleración es compararla con las ideas generadas al renunciar a cualquiera de estos tres aspectos.
Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"
En esencia, esto es similar a convertirse en un efectivo aceleracionista (e/acc), pero al mismo tiempo persiguiendo la descentralización. Hay muchas personas que adoptan este enfoque, algunas de las cuales se autodenominan d/acc, pero que de manera constructiva describen su enfoque como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por la "IA descentralizada" y temas similares, pero en mi opinión, su atención al aspecto de "defensa" es claramente insuficiente.
En mi opinión, este enfoque podría evitar el riesgo de que un grupo específico imponga un régimen dictatorial sobre la humanidad global, pero no logra abordar los problemas estructurales subyacentes: en un entorno que favorece la ofensiva, siempre existe el riesgo continuo de un desastre, o alguien podría posicionarse como protector y ocupar permanentemente una posición dominante. En lo que respecta a la IA, tampoco puede abordar adecuadamente el riesgo de que la humanidad en su conjunto pierda poder en comparación con la IA.
Defensa diferenciada acelerada, pero ignorando "descentralización y democracia"
Aceptar el control centralizado para lograr objetivos de seguridad siempre ha tenido cierto atractivo para algunas personas; los lectores sin duda están familiarizados con muchos de estos casos y los inconvenientes que traen. Recientemente, algunos han expresado su preocupación de que el control extremo centralizado podría ser la única forma de enfrentar las tecnologías extremas del futuro: por ejemplo, imagina un escenario hipotético en el que "cada persona lleva una 'etiqueta de libertad' — que es el producto sucesor de los dispositivos de monitoreo portátiles más limitados de hoy, similar a las etiquetas de tobillo que se utilizan en algunos países como alternativas a la prisión... videos y audios encriptados son subidos continuamente y son interpretados en tiempo real por máquinas". Sin embargo, el control centralizado presenta un problema de grado. Una forma de control centralizado relativamente moderada que a menudo se pasa por alto pero que sigue siendo perjudicial se manifiesta en el campo de la biotecnología (, como la resistencia del público a la supervisión de alimentos y vacunas ), así como permitir que este comportamiento de resistencia no sea cuestionado por normas de código cerrado.
El riesgo de este enfoque es evidente, ya que el centro mismo a menudo se convierte en la fuente del riesgo. Ya lo hemos presenciado durante la pandemia de COVID-19, donde la investigación funcional financiada por varios gobiernos mundiales podría ser la raíz de la pandemia, y la epistemología centralizada llevó a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus COVID se transmite por el aire, mientras que el distanciamiento social obligatorio y los mandatos de vacunación han provocado un posible rebote político que podría durar décadas. Situaciones similares son muy probables de ocurrir nuevamente en cualquier contexto de riesgo relacionado con la IA u otras tecnologías de riesgo. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos provenientes del propio centro.
Defensa descentralizada, pero rechazo acelerado
En esencia, esto es un intento de desacelerar el progreso tecnológico o impulsar una recesión económica.
Esta estrategia enfrenta un doble desafío. Primero, en términos generales, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier demora en ello conlleva costos incalculables. En segundo lugar, en un mundo no autoritario, el estancamiento es inestable: aquellos que "hacen trampa" en mayor medida, y que pueden encontrar formas aparentemente razonables de seguir avanzando, tendrán la ventaja. La estrategia del decrecimiento puede funcionar en ciertos contextos específicos hasta cierto punto: por ejemplo, los alimentos europeos son más saludables que los alimentos estadounidenses, y ese es un ejemplo; el éxito logrado hasta ahora en la no proliferación nuclear también es así. Sin embargo, estas estrategias no pueden funcionar para siempre.
A través de d/acc, nos comprometemos a lograr los siguientes objetivos:
Mantener principios en un mundo que tiende a tribalizarse cada vez más, y no solo construir cosas de manera ciega; por el contrario, esperamos construir cosas específicas que hagan del mundo un lugar más seguro y mejor.
Reconocer que los avances tecnológicos exponenciales significan que el mundo se volverá extraordinariamente extraño, y que la "huella" total de la humanidad en el universo inevitablemente seguirá creciendo. Nuestra capacidad para proteger a los animales, plantas y poblaciones vulnerables de daños debe seguir mejorando, y la única salida es avanzar valientemente.
Construir tecnologías que realmente nos protejan, en lugar de basarnos en la suposición de que "buenas personas ( o buena IA ) controlan todo". Logramos este objetivo construyendo herramientas que son inherentemente más efectivas para construir y proteger que para destruir.
Una perspectiva alternativa para pensar en d/acc es regresar al marco del movimiento del Partido Pirata en Europa a finales de la década de 2000: empoderamiento.
Nuestro objetivo es construir un mundo que preserve la agencia humana, logrando la libertad negativa, es decir, evitando que otros (, ya sean ciudadanos comunes, gobiernos o superinteligencias ), intervengan activamente en nuestra capacidad de moldear nuestro propio destino, al mismo tiempo que logramos la libertad positiva, es decir, asegurando que tengamos el conocimiento y los recursos para ejercer esa capacidad. Esto resuena con una tradición de liberalismo clásico que se ha prolongado durante siglos, que abarca la atención de Stewart Brand al "acceso a herramientas", así como la énfasis de John Stuart Mill en la educación y la libertad como elementos clave para el progreso humano —quizás se podría añadir la visión de Buckminster Fuller de que el proceso de resolver problemas globales sea participativo y ampliamente distribuido. Dada la configuración tecnológica del siglo XXI, podemos ver d/acc como un camino para lograr estos mismos objetivos.
Tercer Dimensión: Desarrollo Coordinado de la Supervivencia y la Prosperidad
En mi artículo del año pasado, d/acc se centró especialmente en las tecnologías defensivas: defensa física, defensa biológica, defensa cibernética y defensa de la información. Sin embargo, la defensa descentralizada por sí sola no es suficiente para construir un gran mundo: también necesitamos una visión proactiva y prospectiva que aclare qué objetivos puede lograr la humanidad después de obtener una nueva descentralización y seguridad.
El artículo del año pasado realmente contenía una visión positiva en dos aspectos:
Al abordar los desafíos de la superinteligencia, propuse un camino ( que no es original para mí ), es decir, cómo lograr la superinteligencia sin perder el poder:
En la actualidad, construir la IA como una herramienta, en lugar de un agente inteligente altamente autónomo.
En el futuro, utilizar herramientas como la realidad virtual, la tecnología de electromiografía y las interfaces cerebro-máquina para establecer un mecanismo de retroalimentación más estrecho entre la IA y los humanos.
Con el paso del tiempo, avanzamos gradualmente hacia el resultado final, que es que la superinteligencia es el producto de una estrecha fusión entre máquinas y humanos.
Al hablar de la defensa de la información, también mencioné que, además de las técnicas sociales defensivas que tienen como objetivo ayudar a la comunidad a mantener su cohesión y a tener discusiones de alta calidad frente a los atacantes, existen técnicas sociales progresivas que pueden ayudar a la comunidad a tomar decisiones de alta calidad con mayor facilidad: Pol.is es un ejemplo, al igual que los mercados predictivos.
Pero en ese momento, estos dos puntos parecían estar desconectados del argumento central de d/acc: "Aquí hay algunas ideas sobre cómo construir un mundo más democrático y más defensivo a nivel fundamental, y por cierto, aquí hay algunas ideas no relacionadas sobre cómo lograr la superinteligencia".
Sin embargo, creo que en la realidad hay algunas conexiones cruciales entre las tecnologías d/acc marcadas como "defensivas" y "progresistas" mencionadas anteriormente. Ampliemos el gráfico d/acc del artículo del año pasado, añadiendo este eje ( y renombrándolo como "supervivencia y prosperidad" ), para ver qué resultados se presentan:
En todos los campos existe un patrón consistente, que es que aquellas ciencias, pensamientos y herramientas que pueden ayudarnos a "sobrevivir" en un determinado ámbito, están estrechamente relacionadas con las ciencias, pensamientos y herramientas que pueden ayudarnos a "prosperar". A continuación se presentan algunos ejemplos concretos:
Muchas investigaciones recientes sobre la COVID-19 se han centrado en la persistencia del virus en el cuerpo, lo que se considera un mecanismo clave del problema del COVID prolongado. Recientemente, también ha habido indicios de que la persistencia del virus podría ser un factor patogénico de la enfermedad de Alzheimer; si esta perspectiva es correcta, entonces abordar el problema de la persistencia del virus en todos los tipos de tejidos podría ser clave para resolver el problema del envejecimiento.
Herramientas de bajo costo y microimágenes, como las que está desarrollando Openwater, tienen un gran potencial en el tratamiento de microtrombos, la persistencia de virus, cáncer, entre otros, y también se pueden aplicar en el campo de interfaces cerebro-máquina.
Impulsar la construcción de herramientas sociales adecuadas para entornos altamente adversos (, como notas comunitarias ), y herramientas sociales para entornos de cooperación razonable (, como Pol.is ), es una idea muy similar.
Los mercados de predicción tienen un valor importante tanto en entornos de alta cooperación como de alta confrontación.
Las pruebas de conocimiento cero y tecnologías similares realizan cálculos sobre los datos mientras protegen la privacidad, aumentando tanto la cantidad de datos disponibles para trabajos útiles como la investigación científica, como también mejorando la protección de la privacidad.
La energía solar y las baterías son clave para impulsar la próxima ola de crecimiento económico limpio
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
7
Republicar
Compartir
Comentar
0/400
JustHodlIt
· 08-17 15:28
Gran aumento Gran caída visto mucho No te preocupes
Ver originalesResponder0
BlockchainBouncer
· 08-17 12:44
Quien juega con fuego, vuela por los aires.
Ver originalesResponder0
GasWastingMaximalist
· 08-16 18:09
Hacer tanto en realidad es para prevenir los ataques de IA.
Ver originalesResponder0
WalletInspector
· 08-16 18:08
¿Por qué no intentarlo? Al final, la humanidad siempre pierde.
Ver originalesResponder0
ReverseTradingGuru
· 08-16 18:04
No digas que te vas a centralizar, al final, ¿quién no quiere ser el gran jefe?
Ver originalesResponder0
AirdropF5Bro
· 08-16 17:53
¿Qué defensa y qué defensa? Todo el día solo saben mirar el Airdrop.
d/acc un año: Descentralización de la evolución y perspectiva del pensamiento de defensa acelerada
d/acc: Revisión y perspectivas de un año después
El año pasado, escribí un artículo sobre el optimismo tecnológico, en el que expuse mi entusiasmo general por la tecnología y los enormes beneficios que ésta podría aportar. Al mismo tiempo, también expresé una actitud cautelosa hacia ciertos problemas específicos, centrándome principalmente en la superinteligencia AI y los riesgos devastadores que podría desencadenar si esta tecnología se construye de manera inadecuada, lo que podría llevar a la humanidad a perder el poder de forma irreversible.
El punto central del artículo aboga por una filosofía: una aceleración defensiva que sea descentralizada, democrática y diferenciada. Debemos acelerar el desarrollo tecnológico y, al mismo tiempo, centrarnos selectivamente en aquellas tecnologías que puedan mejorar la capacidad de defensa en lugar de la capacidad de daño, y comprometernos a promover la dispersión del poder, evitando que este se concentre en manos de unas pocas élites. El modelo de defensa debería imitar a Suiza democrática y a la región de Zomia que históricamente fue casi anárquica, en lugar del modelo de señores y castillos bajo el feudalismo medieval.
En el último año, estas ideas y conceptos han avanzado y madurado significativamente. Compartí estas ideas en la plataforma "80,000 horas", obteniendo muchas reacciones, la mayoría positivas, aunque también hubo algunas críticas.
Este trabajo en sí mismo ha avanzado y logrado resultados tangibles: hemos visto progresos en el ámbito de las vacunas de código abierto verificables; la conciencia sobre el valor del aire interior saludable sigue profundizándose; las "notas comunitarias" continúan desempeñando un papel positivo; el mercado de predicción ha tenido un año de ruptura como herramienta de información; la prueba de cero conocimiento (ZK-SNARKs) se ha aplicado en el ámbito de la identificación gubernamental y las redes sociales ( y ha garantizado la seguridad de las billeteras de Ethereum a través de la abstracción de cuentas ); las herramientas de imagen de código abierto han encontrado aplicaciones en medicina y en la interfaz cerebro-máquina (BCI), etc.
El otoño pasado, celebramos el primer evento importante de d/acc: "Día de descubrimiento de d/acc"(d/aDDy), que tuvo lugar en Devcon, reuniendo a oradores de diversos campos pilares de d/acc(, como biología, física, redes, defensa de la información y tecnología neural), y duró todo un día. Las personas que se han dedicado a estas tecnologías durante mucho tiempo han llegado a comprender mejor el trabajo de los demás, mientras que los forasteros también se han dado cuenta cada vez más de esta visión más amplia: que los mismos valores que impulsan el desarrollo de Ethereum y las criptomonedas pueden expandirse a un mundo más amplio.
La connotación y denotación de d/acc
La idea central de d/acc es clara y concisa: aceleración defensiva descentralizada, democrática y diferenciada. Se trata de construir tecnologías que puedan inclinar el equilibrio entre ataque y defensa hacia la defensa, sin depender de otorgar más poder a las autoridades centrales durante el proceso de implementación. Hay una conexión intrínseca y estrecha entre estos dos aspectos: cualquier estructura política descentralizada, democrática o libre tiende a prosperar cuando la defensa es fácil de implementar, mientras que enfrenta serios desafíos cuando la defensa encuentra dificultades. En esos casos, es más probable que el resultado sea un período caótico de confrontación entre todos, que finalmente alcance un estado de equilibrio gobernado por los más fuertes.
Una forma de entender la importancia de intentar implementar simultáneamente la descentralización, la defensa y la aceleración es compararla con las ideas generadas al renunciar a cualquiera de estos tres aspectos.
Aceleración descentralizada, pero ignorando la parte de "defensa diferenciada"
En esencia, esto es similar a convertirse en un efectivo aceleracionista (e/acc), pero al mismo tiempo persiguiendo la descentralización. Hay muchas personas que adoptan este enfoque, algunas de las cuales se autodenominan d/acc, pero que de manera constructiva describen su enfoque como "ofensivo". Además, hay muchas otras personas que muestran un entusiasmo más moderado por la "IA descentralizada" y temas similares, pero en mi opinión, su atención al aspecto de "defensa" es claramente insuficiente.
En mi opinión, este enfoque podría evitar el riesgo de que un grupo específico imponga un régimen dictatorial sobre la humanidad global, pero no logra abordar los problemas estructurales subyacentes: en un entorno que favorece la ofensiva, siempre existe el riesgo continuo de un desastre, o alguien podría posicionarse como protector y ocupar permanentemente una posición dominante. En lo que respecta a la IA, tampoco puede abordar adecuadamente el riesgo de que la humanidad en su conjunto pierda poder en comparación con la IA.
Defensa diferenciada acelerada, pero ignorando "descentralización y democracia"
Aceptar el control centralizado para lograr objetivos de seguridad siempre ha tenido cierto atractivo para algunas personas; los lectores sin duda están familiarizados con muchos de estos casos y los inconvenientes que traen. Recientemente, algunos han expresado su preocupación de que el control extremo centralizado podría ser la única forma de enfrentar las tecnologías extremas del futuro: por ejemplo, imagina un escenario hipotético en el que "cada persona lleva una 'etiqueta de libertad' — que es el producto sucesor de los dispositivos de monitoreo portátiles más limitados de hoy, similar a las etiquetas de tobillo que se utilizan en algunos países como alternativas a la prisión... videos y audios encriptados son subidos continuamente y son interpretados en tiempo real por máquinas". Sin embargo, el control centralizado presenta un problema de grado. Una forma de control centralizado relativamente moderada que a menudo se pasa por alto pero que sigue siendo perjudicial se manifiesta en el campo de la biotecnología (, como la resistencia del público a la supervisión de alimentos y vacunas ), así como permitir que este comportamiento de resistencia no sea cuestionado por normas de código cerrado.
El riesgo de este enfoque es evidente, ya que el centro mismo a menudo se convierte en la fuente del riesgo. Ya lo hemos presenciado durante la pandemia de COVID-19, donde la investigación funcional financiada por varios gobiernos mundiales podría ser la raíz de la pandemia, y la epistemología centralizada llevó a la Organización Mundial de la Salud a rechazar durante años el reconocimiento de que el virus COVID se transmite por el aire, mientras que el distanciamiento social obligatorio y los mandatos de vacunación han provocado un posible rebote político que podría durar décadas. Situaciones similares son muy probables de ocurrir nuevamente en cualquier contexto de riesgo relacionado con la IA u otras tecnologías de riesgo. En comparación, un enfoque descentralizado abordará de manera más efectiva los riesgos provenientes del propio centro.
Defensa descentralizada, pero rechazo acelerado
En esencia, esto es un intento de desacelerar el progreso tecnológico o impulsar una recesión económica.
Esta estrategia enfrenta un doble desafío. Primero, en términos generales, el crecimiento tecnológico y económico es extremadamente beneficioso para la humanidad, y cualquier demora en ello conlleva costos incalculables. En segundo lugar, en un mundo no autoritario, el estancamiento es inestable: aquellos que "hacen trampa" en mayor medida, y que pueden encontrar formas aparentemente razonables de seguir avanzando, tendrán la ventaja. La estrategia del decrecimiento puede funcionar en ciertos contextos específicos hasta cierto punto: por ejemplo, los alimentos europeos son más saludables que los alimentos estadounidenses, y ese es un ejemplo; el éxito logrado hasta ahora en la no proliferación nuclear también es así. Sin embargo, estas estrategias no pueden funcionar para siempre.
A través de d/acc, nos comprometemos a lograr los siguientes objetivos:
Una perspectiva alternativa para pensar en d/acc es regresar al marco del movimiento del Partido Pirata en Europa a finales de la década de 2000: empoderamiento.
Nuestro objetivo es construir un mundo que preserve la agencia humana, logrando la libertad negativa, es decir, evitando que otros (, ya sean ciudadanos comunes, gobiernos o superinteligencias ), intervengan activamente en nuestra capacidad de moldear nuestro propio destino, al mismo tiempo que logramos la libertad positiva, es decir, asegurando que tengamos el conocimiento y los recursos para ejercer esa capacidad. Esto resuena con una tradición de liberalismo clásico que se ha prolongado durante siglos, que abarca la atención de Stewart Brand al "acceso a herramientas", así como la énfasis de John Stuart Mill en la educación y la libertad como elementos clave para el progreso humano —quizás se podría añadir la visión de Buckminster Fuller de que el proceso de resolver problemas globales sea participativo y ampliamente distribuido. Dada la configuración tecnológica del siglo XXI, podemos ver d/acc como un camino para lograr estos mismos objetivos.
Tercer Dimensión: Desarrollo Coordinado de la Supervivencia y la Prosperidad
En mi artículo del año pasado, d/acc se centró especialmente en las tecnologías defensivas: defensa física, defensa biológica, defensa cibernética y defensa de la información. Sin embargo, la defensa descentralizada por sí sola no es suficiente para construir un gran mundo: también necesitamos una visión proactiva y prospectiva que aclare qué objetivos puede lograr la humanidad después de obtener una nueva descentralización y seguridad.
El artículo del año pasado realmente contenía una visión positiva en dos aspectos:
Pero en ese momento, estos dos puntos parecían estar desconectados del argumento central de d/acc: "Aquí hay algunas ideas sobre cómo construir un mundo más democrático y más defensivo a nivel fundamental, y por cierto, aquí hay algunas ideas no relacionadas sobre cómo lograr la superinteligencia".
Sin embargo, creo que en la realidad hay algunas conexiones cruciales entre las tecnologías d/acc marcadas como "defensivas" y "progresistas" mencionadas anteriormente. Ampliemos el gráfico d/acc del artículo del año pasado, añadiendo este eje ( y renombrándolo como "supervivencia y prosperidad" ), para ver qué resultados se presentan:
En todos los campos existe un patrón consistente, que es que aquellas ciencias, pensamientos y herramientas que pueden ayudarnos a "sobrevivir" en un determinado ámbito, están estrechamente relacionadas con las ciencias, pensamientos y herramientas que pueden ayudarnos a "prosperar". A continuación se presentan algunos ejemplos concretos: