Vitalik: Segurança e experiência do utilizador não são domínios independentes, minimizando a intenção de objetivo e o desvio do comportamento do sistema
Foresight News informa que, Vitalik Buterin, no Farcaster, afirmou que o objetivo da segurança é minimizar o desvio entre a intenção do utilizador e o comportamento real do sistema. A “experiência do utilizador” pode ser definida da mesma forma; portanto, segurança e experiência do utilizador não são domínios independentes. A segurança concentra-se mais nos riscos de cauda (custos elevados de desvio) e nos riscos de cauda gerados por comportamentos adversários. Segurança perfeita é impossível, pois a “intenção do utilizador” é extremamente complexa, sendo difícil para o utilizador expressar claramente (por exemplo, “enviar 1 ETH para Bob”, onde Bob não pode ser definido matematicamente). Objetivos mais complexos, como “proteger a privacidade”, também são difíceis de definir (a fuga de metadados ultrapassa em muito a criptografia em si). Isto é semelhante aos problemas de segurança na IA inicial: os objetivos são difíceis de definir de forma robusta.
As melhores soluções de segurança devem incluir características como: o utilizador expressa a intenção de múltiplas formas sobrepostas, e o sistema só executa quando há alinhamento em múltiplos ângulos. Exemplos incluem sistemas de tipos na programação, verificação formal, simulação de transações, afirmações pós-transação, multi-assinaturas / recuperação social, limites de gastos e confirmações de exceções, reduzindo riscos através de redundância. Além disso, LLMs podem ser utilizados como simulação de intenções (LLMs gerais aproximam o conhecimento comum humano, e o ajuste fino pelo utilizador aproxima-se do próprio utilizador), mas nunca devem decidir a intenção sozinhos, servindo apenas como uma complementação de diferentes ângulos para aumentar a eficácia da redundância.
Related Articles
Dados: Se o ETH ultrapassar os 1.952 dólares, a força total de liquidação de posições vendidas em exchanges centralizadas (CEX) atingirá 7,08 bilhões de dólares
Fundador do Ethereum, Vitalik Buterin, Continua a Vender ETH em Série
Endereço de Baleia "0x257" Deposita 6.983 ETH Avaliados em $13,51M na CEX Após Dois Anos de Retenção
Endereço de Baleia 0xeadc Vende 16.924 ETH no valor de $31,97 milhões
Empresa de Tesouraria de Ativos Digitais Bitmine Adiciona 51.162 ETH em Meio a Retração do Mercado