Foresight News rapporte que Vitalik Buterin a déclaré sur Farcaster que l’objectif de la sécurité est de minimiser l’écart entre l’intention de l’utilisateur et le comportement réel du système. La « expérience utilisateur » peut également être définie ainsi, donc la sécurité et l’expérience utilisateur ne sont pas des domaines indépendants ; la sécurité se concentre davantage sur les risques extrêmes (coût élevé de l’écart) et sur les risques liés aux comportements adverses. Une sécurité parfaite est impossible, car « l’intention de l’utilisateur » est intrinsèquement très complexe, difficile à exprimer clairement (par exemple, « envoyer 1 ETH à Bob » que Bob ne peut pas définir mathématiquement). Des objectifs plus complexes comme « protéger la vie privée » sont également difficiles à définir (les fuites de métadonnées dépassent largement le chiffrement lui-même). Cela ressemble aux problèmes de sécurité de l’IA précoce : les objectifs sont difficiles à spécifier de manière robuste.

Les bonnes solutions de sécurité doivent comporter les caractéristiques suivantes : l’utilisateur exprime ses intentions de manière multiple et superposée, et le système n’agit que lorsque ces intentions sont alignées sous plusieurs angles. Des exemples incluent les systèmes de types en programmation, la vérification formelle, la simulation de transactions, les assertions après transaction, la multi-signature / récupération sociale, les limites de dépenses et la confirmation d’anomalies, qui réduisent le risque par redondance. De plus, les modèles de langage large (LLM) peuvent servir à simuler l’intention (un LLM général peut approximer le sens commun humain, et un LLM ajusté par l’utilisateur peut approximer l’utilisateur lui-même), mais ils ne doivent jamais décider de l’intention seul, seulement comme un complément sous un angle différent, afin d’améliorer l’efficacité de la redondance.

Afficher la source

Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'avertissement.