Соучредитель Ethereum Виталик Бутерин недавно опубликовал пост в X (бывший Twitter), в котором прямо заявил, что “управление искусственным интеллектом” представляет собой серьезные риски и может привести к огромным финансовым потерям. Его комментарии основаны на беспокойстве по поводу уязвимостей безопасности AI платформ, и он предложил более надежный альтернативный вариант управления.
Смертельный недостаток AI-управления
Выступление Бутерина было ответом на предупреждение соучредителя платформы управления данными ИИ EdisonWatch Эйто Миямуры. Миямура раскрыл, что после полного внедрения поддержки инструмента MCP (протокол модели контекста) безопасность резко увеличилась.
Это обновление позволяет ChatGPT напрямую подключаться и считывать данные приложений, таких как Gmail, Календарь, Notion и др., но это также предоставляет возможность для атакующих:
Отправка вредоносного календарного приглашения с “подсказкой о джейлбрейке” позволит обойти ограничения и получить права администратора.
Жертвы, даже не принявшие приглашение, могут вызвать уязвимость, когда ChatGPT помогает организовать расписание.
Как только система будет захвачена, злоумышленник сможет удаленно извлекать личные письма и данные жертвы и отправлять их на указанный электронный адрес.
Бутерин предупредил, что если ИИ будет использоваться для задач управления, таких как распределение средств, злоумышленники смогут использовать аналогичные уязвимости для внедрения в систему команды “дайте мне все деньги”, что приведет к массовому переводу средств.
Альтернативное решение Бутерина: информационное финансовое управление
Чтобы снизить риски, Бутерин предложил использовать модель информационных финансов (information markets):
Создание открытого рынка, позволяющего различным разработчикам представлять свои AI модели.
Вводится «механизм выборочной проверки», любой может инициировать аудит, который будет оцениваться人工陪審團.
Большие языковые модели (LLM) могут помочь присяжным в вынесении решений, обеспечивая эффективность и точность проверки.
Он считает, что такая система проектирования может мгновенно предоставить разнообразие моделей и, благодаря рыночным стимулам, побуждает разработчиков и внешних участников активно контролировать и исправлять проблемы, в целом это более надежно, чем единое управление ИИ.
Почему риски управления ИИ высоки?
Бутерин указал на две основные причины:
-
Традиционные риски безопасности ИИ: включая атаки на взлом, злоупотребление правами, кражу данных и т.д.
-
Краткосрочное ценовое воздействие: как только система управления ИИ будет взломана, это может привести к необратимым потерям средств и активов за очень короткий срок.
Он подчеркивает, что хотя идея «Искусственного интеллекта как управляющего» захватывающая, на данном этапе такие эксперименты слишком опасны для государственных средств и систем управления.
Заключение
С быстрым проникновением технологий ИИ в финансовую и управленческую сферы, вопросы безопасности становятся неотъемлемым основным вызовом. Предупреждение Бутерина напоминает нам, что при стремлении к эффективности и автоматизации необходимо обеспечить, чтобы проектирование систем могло противостоять злонамеренным атакам, в противном случае «умное управление» может мгновенно превратиться в «катастрофическое управление».
Отказ от ответственности: Информация на этой странице может поступать от третьих лиц и не отражает взгляды или мнения Gate. Содержание, представленное на этой странице, предназначено исключительно для справки и не является финансовой, инвестиционной или юридической консультацией. Gate не гарантирует точность или полноту информации и не несет ответственности за любые убытки, возникшие от использования этой информации. Инвестиции в виртуальные активы несут высокие риски и подвержены значительной ценовой волатильности. Вы можете потерять весь инвестированный капитал. Пожалуйста, полностью понимайте соответствующие риски и принимайте разумные решения, исходя из собственного финансового положения и толерантности к риску. Для получения подробностей, пожалуйста, обратитесь к
Отказу от ответственности.
Связанные статьи
Ончейн-трейдер 0x049b открывает 20x плечевой лонг по BTC и ETH, накапливает прибыль $5,17 млн за два месяца
Трейдер, известный как 0x049b, открыл длинную позицию с кредитным плечом 20x, купив 269 BTC и 8 586 ETH. За два месяца он совершил 47 сделок, достигнув 63,83% успешных сделок и получив суммарную прибыль в размере 5,17 млн долларов.
GateNews21м назад
Gate Бэйчао ETH 7-дневный срочный финансовый продукт с дополнительным бонусным пулом запущен; при подписке — надбавка к годовой доходности 10%
Gate News сообщение, согласно официальному объявлению Gate
Gate Earn (дополнительные средства) запускает дополнительный пул наград для 7-дневного срочного инвестирования ETH: пользователи, подавшие заявку, могут получить надбавку к годовой доходности 10%. Этот пул дополнительных наград суммарно предоставляет 500,000 OFC в качестве дополнительных вознаграждений, применяется принцип «первым пришёл — первым обслужен».
Дополнительные награды будут ежедневно начисляться на счета пользователей в эквивалентной форме OFC. На платформе установлены ограничения на общий объём вознаграждений за мероприятие и индивидуальный лимит для одного пользователя.
GateAnnouncement2ч назад
USDC Treasury чеканит 250 миллионов USDC в сети Ethereum
15 апреля 2025 года Казначейство USDC выпустило 250 миллионов USDC в сети Ethereum, что указывает на потенциальный институциональный спрос. USDC обеспечен резервами в долларах и работает в рамках нормативных требований, таких как Закон США о стейблкоинах 2024 года.
GateNews3ч назад
ETF на биткоин от BlackRock за 7 дней привлек $612 млн притока: инвесторы, несмотря на убытки, продолжают наращивать вложения и наращивать позиции
Данные за 13 апреля показывают, что недельный приток средств в спотовые ETF на биткоин составил 786 миллионов долларов, из которых IBIT компании BlackRock полностью занял 612 миллионов долларов, демонстрируя концентрацию рынка. Несмотря на существующие учетные убытки, инвесторы IBIT продолжают наращивать позицию, отражая стратегию снижения средней стоимости у институциональных инвесторов. Что касается других криптоактивов: приток в ETF на Ethereum составил 187 миллионов, фонд по XRP — 12 миллионов, а продукты по Solana — отток в размере 6 миллионов.
MarketWhisper4ч назад
ETHGas и ether.fi объявляют о сделке $3B по созданию институциональных рынков блокпространства на Ethereum
ETHGas и ether.fi заключили соглашение на $3 миллиардов долларов, чтобы улучшить рынки блочного пространства Ethereum. ether.fi выделит 40% своих активов в ETH на Высокопроизводительную услугу стейкинга ETHGas, предоставляя возможность торговли правами на включение будущих блоков и новые возможности получения дохода.
GateNews5ч назад
