Клод и Palantir за 12 часов уничтожили Хаменея.

Когда эволюция ИИ достигнет сингулярности и начнет участвовать в войнах, мы действительно готовы?
«Силиконовая долина» — мой любимый технологический сериал. Сегодня пересматриваю его, и он все больше напоминает предсказание технологической судьбы.
Pied Piper, основанная Ричардом, изначально была просто эффективным алгоритмом сжатия. За шесть лет стартапа компания прошла как минимум четыре кардинальных трансформации: от музыкального приложения до корпоративных инструментов сжатия, затем платформенной экосистемы и, наконец, к децентрализованному сетевому протоколу. Они создали новую интернет-систему, не зависящую от централизованных серверов и практически не поддающуюся закрытию, очень близкую к идеальной форме блокчейна.
Под давлением расширения сети Ричард модернизировал AI-робота Gilfoyle, чтобы он участвовал в оптимизации структуры сети, реализуя автоматическое управление и масштабирование. С появлением ИИ система обрела способность к самосовершенствованию, настолько мощную, что она могла бы обойти традиционные рамки шифрования и регулирования, даже перестроить весь сетевой порядок.
Когда продукт был почти готов к запуску и компания получила десятки миллиардов долларов заказов, Ричард понял одну проблему: если эта технология будет злоупотреблена, ее будет невозможно контролировать. Поэтому он специально устроил «провальный запуск», чтобы система на сцене рухнула, и все было замаскировано под техническую аварию, чтобы остановить дальнейшее развитие этого направления и предотвратить копирование конкурентами.
В реальности, даже после того, как CEO Anthropic заявил о границах использования модели после помощи Claude в задержании президента Венесуэлы и отказался пойти на компромисс с Пентагоном перед операцией в Иране, американские военные все равно использовали Claude для обработки разведданных и за 12 часов убили Хаменея.
Более того, уход одной компании с рынка не означает остановки технологического направления. Anthropic отказалась, xAi согласилась.
Несколько лет назад, впервые посмотрев «Силиконовую долину», я думал, что финал — это трагическая судьба, сейчас же я считаю, что это скорее очень идеалистическая фантазия.
В реальности технологии не остановятся из-за опасений, они найдут новые позиции в структурах власти.