Какие идеи для развития предоставляет кейс Лилли от McKinsey для рынка корпоративного ИИ?

В отличие от прошлых скачков, основанных на монополизации ресурсов вычислительной мощности и алгоритмов, когда рынок сосредоточится на передовых вычислениях + малых моделях, это приведет к большей рыночной активности.

Автор: Haotian

Кейс Лилли от McKinsey представляет собой ключевую идею развития рынка корпоративного искусственного интеллекта: потенциальная рыночная возможность периферийных вычислений + малых моделей. Помощник с искусственным интеллектом, который консолидирует 100 000 внутренних документов, не только имеет 70% освоения сотрудниками, но и используется в среднем 17 раз в неделю, что редко встречается в корпоративных инструментах. Вот что я думаю:

1. Безопасность данных предприятий является больной темой: основные знания, накопленные McKinsey за 100 лет, а также специфические данные, накопленные рядом малых и средних предприятий, имеют высокую чувствительность к данным и не должны обрабатываться в облаке. Как найти баланс, при котором “данные не выходят за пределы местоположения, а возможности ИИ не страдают”, является актуальной рыночной необходимостью. Передовые вычисления - это направление для исследований;

2. Профессиональные маленькие модели заменят универсальные большие модели: корпоративным пользователям не нужны “модель с сотнями миллиардов параметров и универсальными возможностями”, а профессиональный помощник, способный точно отвечать на вопросы в конкретной области. В отличие от этого, существует естественное противоречие между универсальностью больших моделей и их профессиональной глубиной, в корпоративных сценариях часто больше ценят маленькие модели;

3. Баланс затрат на собственную инфраструктуру AI и вызовы API: хотя комбинация передовых вычислений и малых моделей требует значительных первоначальных вложений, долгосрочные эксплуатационные расходы значительно снижаются. Представьте себе, если AI большой модели, используемой 45000 сотрудников, поступает через вызовы API, это создаст зависимость, увеличение масштабов использования и комментариев, что сделает собственную инфраструктуру AI рациональным выбором для крупных и средних предприятий;

4. Новые возможности на рынке пограничного оборудования: для обучения крупных моделей необходимы высокопроизводительные GPU, но требования к аппаратному обеспечению для пограничного вывода совершенно иные. Производители чипов, такие как Qualcomm и MediaTek, оптимизируют процессоры для пограничного ИИ и сталкиваются с хорошими рыночными возможностями. Когда каждая компания хочет создать свой собственный “Lilli”, специализированные для низкого потребления энергии и высокой эффективности пограничные ИИ чипы станут необходимой инфраструктурой;

5. Децентрализованный рынок web3 AI также усиливается: как только потребности компаний в вычислительной мощности, доработке, алгоритме и т.д. для малых моделей будут активированы, вопрос баланса распределения ресурсов станет актуальным, традиционное централизованное распределение ресурсов станет проблемой, что непосредственно приведет к большому рыночному спросу на децентрализованные сети доработки малых моделей web3AI, децентрализованные платформы вычислительных услуг и т.д.;

Когда рынок все еще обсуждает границы общей способности AGI, приятно видеть, что многие корпоративные пользователи уже исследуют практическую ценность ИИ. Очевидно, что по сравнению с прежними ресурсными монополиями, основанными на вычислительной мощности и алгоритмах, сосредоточение рынка на передовых вычислениях + малых моделях приведет к большей рыночной активности.