No ano passado, escrevi um artigo sobre o otimismo tecnológico, onde expressei meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer. Ao mesmo tempo, também manifestei uma atitude cautelosa em relação a certas questões específicas, concentrando-me principalmente na superinteligência artificial e nos riscos devastadores que ela pode desencadear, caso essa tecnologia seja mal construída, o que pode levar a uma perda irreversível de poder para a humanidade.
O ponto central do artigo é promover uma filosofia: uma aceleração defensiva que é descentralizada, democrática e diversificada. Devemos acelerar o desenvolvimento tecnológico, mas também nos concentrar seletivamente nas tecnologias que podem melhorar a capacidade de defesa em vez de potencializar a capacidade de ataque, e nos dedicar a promover a descentralização do poder, evitando a concentração nas mãos de poucos elites. O modelo de defesa deve imitar a democracia da Suíça e a região quase anárquica de Zomia na história, e não o modelo feudal de senhores e castelos da Idade Média.
No último ano, essas ideias e conceitos se desenvolveram e amadureceram de forma significativa. Eu compartilhei essas ideias na plataforma "80.000 horas" e recebi muitas respostas, a maioria positivas, embora também houvesse algumas críticas.
Este trabalho em si continuou a avançar e obteve resultados concretos: no campo das vacinas de código aberto verificáveis, vimos progressos; a conscientização sobre o valor do ar interior saudável está em constante aprofundamento; "notas da comunidade" continuam a desempenhar um papel positivo; o mercado de previsões como ferramenta de informação teve um ano de grandes conquistas; as provas de conhecimento zero (ZK-SNARKs) foram aplicadas no reconhecimento de identidade governamental e nas redes sociais ( e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas nas áreas de medicina e interfaces cérebro-máquina (BCI), entre outras.
No outono passado, recebemos o primeiro evento importante de d/acc: "Dia de Descoberta de d/acc"(d/aDDy), o evento ocorreu no Devcon, reunindo oradores de diversas áreas pilares de d/acc( biologia, física, redes, defesa da informação e tecnologia neural), durando o dia todo. As pessoas que se dedicam a essas tecnologias há muito tempo estão cada vez mais cientes do trabalho umas das outras, enquanto os externos estão se tornando cada vez mais conscientes dessa visão mais ampla: promover a mesma visão de valores que impulsiona o desenvolvimento do Ethereum e das criptomoedas pode se expandir para um mundo mais amplo.
O significado e a extensão de d/acc
A ideia central do d/acc é clara e concisa: defesa descentralizada, democrática e diferenciada. Construir tecnologias que possam promover um equilíbrio entre ataque e defesa, inclinando-se para a defesa, sem depender do aumento do poder concedido a autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a florescer quando a defesa é fácil de implementar, mas enfrenta severos desafios quando a defesa encontra dificuldades - nessas situações, o resultado mais provável é um período caótico de confronto entre todos, culminando em um estado de equilíbrio dominado pelos mais fortes.
Uma forma de compreender a importância de tentar implementar a descentralização, a defesa e a aceleração ao mesmo tempo é compará-la com a ideia resultante da renúncia a qualquer um desses três aspectos.
Aceleração descentralizada, mas ignorando a parte da "defesa diferenciada"
Em essência, isso é semelhante a se tornar um aceleracionista eficaz (e/acc), mas ao mesmo tempo buscando a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que descritivamente se concentram benéficamente em "ofensiva". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "IA descentralizada" e tópicos semelhantes, mas, na minha opinião, a sua atenção ao aspecto "defensivo" é claramente insuficiente.
Na minha opinião, essa abordagem pode evitar o risco de um grupo específico exercer um domínio ditatorial sobre a humanidade global, mas não resolve os problemas estruturais subjacentes: em um ambiente que favorece a ofensiva, sempre existe o risco contínuo de um desastre, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio. No que diz respeito à IA, ela também não consegue lidar adequadamente com o risco de que a humanidade como um todo tenha seu poder enfraquecido em relação à IA.
Defesa diferenciada acelerada, mas ignorando "descentralização e democracia"
A aceitação do controle centralizado para alcançar objetivos de segurança sempre teve um certo apelo para algumas pessoas; os leitores sem dúvida já estão familiarizados com muitos desses casos e com os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupação de que o controle centralizado extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético, "cada pessoa usando uma 'etiqueta de liberdade' — um produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhantes às etiquetas de tornozelo usadas como alternativas prisionais em alguns países... vídeos e áudios criptografados sendo continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, geralmente negligenciada mas ainda prejudicial, se reflete no campo da biotecnologia (, como a resistência à supervisão pública sobre alimentos e vacinas ), bem como a permissão para que esse comportamento de resistência não seja desafiado por normas de código fechado.
Os riscos desta abordagem são evidentes, pois o próprio centro tende a se tornar a fonte do risco. Já testemunhamos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais pode ser a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a se recusar a reconhecer por anos que o vírus COVID-19 é transmitido pelo ar, enquanto o distanciamento social obrigatório e os mandatos de vacinação provocaram uma reação política que pode durar décadas. Situações semelhantes são muito prováveis de ocorrer novamente em qualquer cenário de risco relacionado à IA ou outras tecnologias de risco. Em comparação, uma abordagem descentralizada responderá de forma mais eficaz aos riscos provenientes do próprio centro.
Defesa descentralizada, mas rejeição à aceleração
Em essência, isso tenta desacelerar o progresso tecnológico ou impulsionar a recessão econômica.
Esta estratégia enfrenta duplo desafio. Primeiro, de um modo geral, o crescimento técnico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, sendo capazes de encontrar maneiras aparentemente razoáveis de continuar avançando no desenvolvimento, terão vantagem. A estratégia de desaceleração pode funcionar em certas situações específicas até certo ponto: por exemplo, os alimentos europeus são mais saudáveis do que os alimentos americanos, e isso é um exemplo; o sucesso alcançado até agora na não proliferação nuclear é o mesmo. No entanto, essas estratégias não podem funcionar para sempre.
Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:
Manter princípios em um mundo cada vez mais tribalizado, e não apenas construir diversas coisas de forma cega - ao contrário, esperamos construir coisas específicas, tornando o mundo mais seguro e melhor.
Reconhecer que o avanço tecnológico exponencial significa que o mundo se tornará extremamente peculiar, e a "pegada" geral da humanidade no universo inevitavelmente aumentará. A nossa capacidade de proteger animais, plantas e populações vulneráveis de danos deve continuar a aumentar, e o único caminho é seguir em frente.
Construir tecnologias que realmente nos protejam, em vez de se basearem na suposição de que "bons humanos ( ou boas IAs ) controlam tudo". Alcançamos esse objetivo construindo ferramentas que são naturalmente mais eficazes para construir e proteger do que para destruir.
Uma outra perspectiva sobre d/acc é voltar ao quadro do movimento dos Piratas da Europa no final da década de 2000: empoderamento.
O nosso objetivo é construir um mundo que mantenha a agência humana, alcançando a liberdade negativa, ou seja, evitando que outros (, sejam cidadãos comuns, governos ou superinteligências artificiais ), intervenham ativamente na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que alcançamos a liberdade positiva, assegurando que temos o conhecimento e os recursos para exercer essa capacidade. Isso ecoa uma tradição de liberalismo clássico que se estende por séculos, incluindo a preocupação de Stewart Brand com o "acesso a ferramentas", bem como a ênfase de John Stuart Mill na educação e na liberdade como elementos-chave do progresso humano - talvez adicionando a visão de Buckminster Fuller de que o processo de resolução de problemas globais deve ser participativo e amplamente distribuído. Dada a configuração tecnológica do século XXI, podemos ver o d/acc como uma forma de alcançar esses mesmos objetivos.
Terceira Dimensão: Desenvolvimento Sinérgico da Sobrevivência e Prosperidade
No meu artigo do ano passado, d/acc concentrou-se especialmente em tecnologias defensivas: defesa física, defesa biológica, defesa cibernética e defesa da informação. No entanto, a defesa descentralizada pura não é suficiente para construir um grande mundo: também precisamos de uma visão proativa e futurista, que defina quais objetivos a humanidade pode alcançar após obter nova descentralização e segurança.
O artigo do ano passado realmente continha uma visão positiva em dois aspectos:
Ao considerar os desafios da superinteligência, propus um caminho ( que não é original para mim ), ou seja, como podemos alcançar a superinteligência sem perder o poder:
Neste momento, construir a IA como uma ferramenta, em vez de um agente inteligente altamente autónomo.
No futuro, utilizar ferramentas como realidade virtual, tecnologia de eletromiografia e interfaces cérebro-máquina para estabelecer um mecanismo de feedback mais estreito entre a IA e os humanos.
Com o passar do tempo, avançamos gradualmente em direção ao resultado final, que é a superinteligência, um produto da estreita fusão entre máquinas e humanos.
Ao falar sobre defesa da informação, também mencionei, além daquelas tecnologias sociais defensivas que visam ajudar a comunidade a manter a coesão e a ter discussões de alta qualidade diante de atacantes, existem tecnologias sociais progressistas que ajudam a comunidade a fazer julgamentos de alta qualidade com mais facilidade: Pol.is é um exemplo, assim como o mercado preditivo.
Mas na altura, esses dois pontos pareciam desconectados do argumento central do d/acc: "Aqui estão algumas ideias sobre como construir um mundo mais democrático e mais favorável à defesa em um nível básico, e a propósito, aqui estão algumas ideias não relacionadas sobre como alcançar a superinteligência."
No entanto, acredito que, na realidade, existe uma conexão crucial entre as tecnologias d/acc marcadas como "defensivas" e "progressivas". Vamos expandir o gráfico d/acc do artigo do ano passado, adicionando este eixo ( ao gráfico e ao mesmo tempo renomeando-o para "sobrevivência e prosperidade" ), para ver quais resultados isso apresentará:
Existe um padrão consistente em vários campos, onde as ciências, pensamentos e ferramentas que podem nos ajudar a "sobreviver" em um determinado campo estão intimamente relacionados com as ciências, pensamentos e ferramentas que podem nos ajudar a "prosperar". Aqui estão alguns exemplos concretos:
Muitas pesquisas recentes sobre a Covid-19 focaram na persistência do vírus no corpo, que é vista como um mecanismo chave para o problema da Covid longa. Recentemente, também houve indícios de que a persistência do vírus pode ser um fator patogênico da doença de Alzheimer - se essa hipótese se confirmar, talvez a resolução do problema da persistência do vírus em todos os tipos de tecidos se torne a chave para enfrentar o desafio do envelhecimento.
Ferramentas de baixo custo e micro-imagem, como as que estão a ser desenvolvidas pela Openwater, têm um grande potencial no tratamento de microtrombos, na persistência viral, no câncer, entre outros, e também podem ser aplicadas no campo das interfaces cérebro-máquina.
Promover a construção de ferramentas sociais adequadas para ambientes altamente adversariais (, como notas comunitárias ), e ferramentas sociais para ambientes de colaboração razoável (, como Pol.is ), é extremamente semelhante em conceito.
O mercado de previsões tem um valor importante em ambientes de alta cooperação e alta confrontação.
Provas de zero conhecimento e tecnologias semelhantes realizam cálculos sobre dados enquanto protegem a privacidade, aumentando tanto a quantidade de dados disponíveis para trabalhos úteis como a pesquisa científica, quanto a proteção da privacidade.
A energia solar e as baterias são fundamentais para impulsionar a próxima onda de crescimento da economia limpa
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
12 gostos
Recompensa
12
7
Republicar
Partilhar
Comentar
0/400
JustHodlIt
· 08-17 15:28
Grande subida big dump见多了 不慌
Ver originalResponder0
BlockchainBouncer
· 08-17 12:44
Quem brinca com fogo explode.
Ver originalResponder0
GasWastingMaximalist
· 08-16 18:09
Fazer isso tudo, na verdade, é para se proteger das traições da IA.
Ver originalResponder0
WalletInspector
· 08-16 18:08
Vamos experimentar, afinal a humanidade sempre perde.
Ver originalResponder0
ReverseTradingGuru
· 08-16 18:04
Não diga que não quer ser o chefe no final, quem não gostaria de ser o grande senhor?
Ver originalResponder0
AirdropF5Bro
· 08-16 17:53
Que defesa, que defesa, só sabem ficar de olho no Airdrop o dia todo.
d/acc um ano: Descentralização da defesa acelera a evolução e a perspectiva de pensamentos
d/acc: Revisão e perspectivas um ano depois
No ano passado, escrevi um artigo sobre o otimismo tecnológico, onde expressei meu entusiasmo geral pela tecnologia e os enormes benefícios que ela pode trazer. Ao mesmo tempo, também manifestei uma atitude cautelosa em relação a certas questões específicas, concentrando-me principalmente na superinteligência artificial e nos riscos devastadores que ela pode desencadear, caso essa tecnologia seja mal construída, o que pode levar a uma perda irreversível de poder para a humanidade.
O ponto central do artigo é promover uma filosofia: uma aceleração defensiva que é descentralizada, democrática e diversificada. Devemos acelerar o desenvolvimento tecnológico, mas também nos concentrar seletivamente nas tecnologias que podem melhorar a capacidade de defesa em vez de potencializar a capacidade de ataque, e nos dedicar a promover a descentralização do poder, evitando a concentração nas mãos de poucos elites. O modelo de defesa deve imitar a democracia da Suíça e a região quase anárquica de Zomia na história, e não o modelo feudal de senhores e castelos da Idade Média.
No último ano, essas ideias e conceitos se desenvolveram e amadureceram de forma significativa. Eu compartilhei essas ideias na plataforma "80.000 horas" e recebi muitas respostas, a maioria positivas, embora também houvesse algumas críticas.
Este trabalho em si continuou a avançar e obteve resultados concretos: no campo das vacinas de código aberto verificáveis, vimos progressos; a conscientização sobre o valor do ar interior saudável está em constante aprofundamento; "notas da comunidade" continuam a desempenhar um papel positivo; o mercado de previsões como ferramenta de informação teve um ano de grandes conquistas; as provas de conhecimento zero (ZK-SNARKs) foram aplicadas no reconhecimento de identidade governamental e nas redes sociais ( e garantiram a segurança das carteiras Ethereum através da abstração de contas ); ferramentas de imagem de código aberto foram aplicadas nas áreas de medicina e interfaces cérebro-máquina (BCI), entre outras.
No outono passado, recebemos o primeiro evento importante de d/acc: "Dia de Descoberta de d/acc"(d/aDDy), o evento ocorreu no Devcon, reunindo oradores de diversas áreas pilares de d/acc( biologia, física, redes, defesa da informação e tecnologia neural), durando o dia todo. As pessoas que se dedicam a essas tecnologias há muito tempo estão cada vez mais cientes do trabalho umas das outras, enquanto os externos estão se tornando cada vez mais conscientes dessa visão mais ampla: promover a mesma visão de valores que impulsiona o desenvolvimento do Ethereum e das criptomoedas pode se expandir para um mundo mais amplo.
O significado e a extensão de d/acc
A ideia central do d/acc é clara e concisa: defesa descentralizada, democrática e diferenciada. Construir tecnologias que possam promover um equilíbrio entre ataque e defesa, inclinando-se para a defesa, sem depender do aumento do poder concedido a autoridades centrais durante o processo de implementação. Existe uma conexão intrínseca e estreita entre esses dois aspectos: qualquer estrutura política descentralizada, democrática ou livre tende a florescer quando a defesa é fácil de implementar, mas enfrenta severos desafios quando a defesa encontra dificuldades - nessas situações, o resultado mais provável é um período caótico de confronto entre todos, culminando em um estado de equilíbrio dominado pelos mais fortes.
Uma forma de compreender a importância de tentar implementar a descentralização, a defesa e a aceleração ao mesmo tempo é compará-la com a ideia resultante da renúncia a qualquer um desses três aspectos.
Aceleração descentralizada, mas ignorando a parte da "defesa diferenciada"
Em essência, isso é semelhante a se tornar um aceleracionista eficaz (e/acc), mas ao mesmo tempo buscando a descentralização. Há muitas pessoas que adotam essa abordagem, algumas das quais se autodenominam d/acc, mas que descritivamente se concentram benéficamente em "ofensiva". Além disso, há muitos outros que demonstram um entusiasmo mais moderado por "IA descentralizada" e tópicos semelhantes, mas, na minha opinião, a sua atenção ao aspecto "defensivo" é claramente insuficiente.
Na minha opinião, essa abordagem pode evitar o risco de um grupo específico exercer um domínio ditatorial sobre a humanidade global, mas não resolve os problemas estruturais subjacentes: em um ambiente que favorece a ofensiva, sempre existe o risco contínuo de um desastre, ou alguém pode se posicionar como protetor e ocupar permanentemente uma posição de domínio. No que diz respeito à IA, ela também não consegue lidar adequadamente com o risco de que a humanidade como um todo tenha seu poder enfraquecido em relação à IA.
Defesa diferenciada acelerada, mas ignorando "descentralização e democracia"
A aceitação do controle centralizado para alcançar objetivos de segurança sempre teve um certo apelo para algumas pessoas; os leitores sem dúvida já estão familiarizados com muitos desses casos e com os problemas que eles trazem. Recentemente, algumas pessoas expressaram preocupação de que o controle centralizado extremo pode ser a única maneira de lidar com tecnologias extremas no futuro: por exemplo, imagine um cenário hipotético, "cada pessoa usando uma 'etiqueta de liberdade' — um produto sucessor dos dispositivos de monitoramento vestíveis mais limitados de hoje, semelhantes às etiquetas de tornozelo usadas como alternativas prisionais em alguns países... vídeos e áudios criptografados sendo continuamente enviados e interpretados em tempo real por máquinas". No entanto, o controle centralizado apresenta um problema de grau. Uma forma de controle centralizado relativamente moderada, geralmente negligenciada mas ainda prejudicial, se reflete no campo da biotecnologia (, como a resistência à supervisão pública sobre alimentos e vacinas ), bem como a permissão para que esse comportamento de resistência não seja desafiado por normas de código fechado.
Os riscos desta abordagem são evidentes, pois o próprio centro tende a se tornar a fonte do risco. Já testemunhamos isso durante a pandemia de COVID-19, onde a pesquisa funcional financiada por vários governos mundiais pode ser a raiz da pandemia, e a epistemologia centralizada levou a Organização Mundial da Saúde a se recusar a reconhecer por anos que o vírus COVID-19 é transmitido pelo ar, enquanto o distanciamento social obrigatório e os mandatos de vacinação provocaram uma reação política que pode durar décadas. Situações semelhantes são muito prováveis de ocorrer novamente em qualquer cenário de risco relacionado à IA ou outras tecnologias de risco. Em comparação, uma abordagem descentralizada responderá de forma mais eficaz aos riscos provenientes do próprio centro.
Defesa descentralizada, mas rejeição à aceleração
Em essência, isso tenta desacelerar o progresso tecnológico ou impulsionar a recessão econômica.
Esta estratégia enfrenta duplo desafio. Primeiro, de um modo geral, o crescimento técnico e econômico é extremamente benéfico para a humanidade, e qualquer atraso nisso acarretará custos incalculáveis. Em segundo lugar, em um mundo não autoritário, a estagnação é instável: aqueles que "trapaceiam" mais, sendo capazes de encontrar maneiras aparentemente razoáveis de continuar avançando no desenvolvimento, terão vantagem. A estratégia de desaceleração pode funcionar em certas situações específicas até certo ponto: por exemplo, os alimentos europeus são mais saudáveis do que os alimentos americanos, e isso é um exemplo; o sucesso alcançado até agora na não proliferação nuclear é o mesmo. No entanto, essas estratégias não podem funcionar para sempre.
Através do d/acc, estamos empenhados em alcançar os seguintes objetivos:
Uma outra perspectiva sobre d/acc é voltar ao quadro do movimento dos Piratas da Europa no final da década de 2000: empoderamento.
O nosso objetivo é construir um mundo que mantenha a agência humana, alcançando a liberdade negativa, ou seja, evitando que outros (, sejam cidadãos comuns, governos ou superinteligências artificiais ), intervenham ativamente na nossa capacidade de moldar o nosso próprio destino, ao mesmo tempo que alcançamos a liberdade positiva, assegurando que temos o conhecimento e os recursos para exercer essa capacidade. Isso ecoa uma tradição de liberalismo clássico que se estende por séculos, incluindo a preocupação de Stewart Brand com o "acesso a ferramentas", bem como a ênfase de John Stuart Mill na educação e na liberdade como elementos-chave do progresso humano - talvez adicionando a visão de Buckminster Fuller de que o processo de resolução de problemas globais deve ser participativo e amplamente distribuído. Dada a configuração tecnológica do século XXI, podemos ver o d/acc como uma forma de alcançar esses mesmos objetivos.
Terceira Dimensão: Desenvolvimento Sinérgico da Sobrevivência e Prosperidade
No meu artigo do ano passado, d/acc concentrou-se especialmente em tecnologias defensivas: defesa física, defesa biológica, defesa cibernética e defesa da informação. No entanto, a defesa descentralizada pura não é suficiente para construir um grande mundo: também precisamos de uma visão proativa e futurista, que defina quais objetivos a humanidade pode alcançar após obter nova descentralização e segurança.
O artigo do ano passado realmente continha uma visão positiva em dois aspectos:
Mas na altura, esses dois pontos pareciam desconectados do argumento central do d/acc: "Aqui estão algumas ideias sobre como construir um mundo mais democrático e mais favorável à defesa em um nível básico, e a propósito, aqui estão algumas ideias não relacionadas sobre como alcançar a superinteligência."
No entanto, acredito que, na realidade, existe uma conexão crucial entre as tecnologias d/acc marcadas como "defensivas" e "progressivas". Vamos expandir o gráfico d/acc do artigo do ano passado, adicionando este eixo ( ao gráfico e ao mesmo tempo renomeando-o para "sobrevivência e prosperidade" ), para ver quais resultados isso apresentará:
Existe um padrão consistente em vários campos, onde as ciências, pensamentos e ferramentas que podem nos ajudar a "sobreviver" em um determinado campo estão intimamente relacionados com as ciências, pensamentos e ferramentas que podem nos ajudar a "prosperar". Aqui estão alguns exemplos concretos: