Дарио Амодеи, основатель компании Anthropic и бывший вице-президент OpenAI, опубликовал развернутый анализ ситуации вокруг китайской нейросети DeepSeek и её влияния на мировой рынок искусственного интеллекта. На фоне недавних успехов китайских разработчиков Амодеи призывает к ужесточению экспортного контроля чипов, утверждая, что демократические страны должны сохранить лидерство в гонке за сверхразумом. Уэс Рот анализирует это заявление в контексте меняющегося отношения сообщества по безопасности ИИ к фигуре Амодеи, которого всё чаще обвиняют в переходе на сторону крупных корпоративных и военных интересов.
🚀 Два сценария развития ИИ: Униполярный vs Биполярный мир 28:20
По мнению Дарио Амодеи, мир стоит перед развилкой, исход которой определится в ближайшие два года — к 2026–2027 годам . Он выделяет два принципиально разных сценария будущего:
- Униполярный мир: Только США и их союзники обладают миллионами чипов и моделями уровня «страна гениев в дата-центре». Это лидерство может стать постоянным, так как ИИ поможет создавать еще более совершенные системы .
- Биполярный мир: Китай достигает паритета с США. Амодеи опасается, что в этом случае Китай направит огромные ресурсы и таланты на военное применение технологии, что даст ему преимущество на мировой арене во всех сферах .
Ведущий Уэс Рот отмечает, что эта позиция отражает чисто американский центризм, и не все зрители в мире согласятся с тем, что лидерство США — это безусловное благо . В то же время Амодеи подчеркивает, что экспортный контроль — единственный инструмент, способный предотвратить попадание миллионов чипов в руки авторитарного режима .
📉 Кейс DeepSeek: Реальный прорыв или грамотный маркетинг? 19:43
Амодеи считает, что угроза превосходству США со стороны DeepSeek сильно преувеличена . Он приводит несколько аргументов, чтобы поставить успех китайской модели в контекст:
- Временной лаг: Модель DeepSeek-V3 по производительности догнала американские модели, которые были обучены на 7–10 месяцев раньше .
- Стоимость обучения: Хотя утверждается, что DeepSeek стоила в разы дешевле, Амодеи сравнивает её с Claude 3.5 Sonnet. Стоимость последней составила «несколько десятков миллионов долларов» (ориентировочно 25–30 млн) . В таком сравнении преимущество DeepSeek по цене выглядит не как «чудо», а как естественное движение по кривой снижения затрат спустя год .
- Инновации: По мнению Амодеи, более интересна модель V3 благодаря инженерным решениям в Mixture of Experts (MoE), тогда как нашумевшая R1 лишь повторяет путь OpenAI o1 в области обучения с подкреплением (RL) .
Уэс Рот находит в тексте Амодеи возможное противоречие относительно использования дистилляции данных из западных моделей для обучения DeepSeek и призывает сообщество помочь разобраться в технических отчетах .
🧠 Новая парадигма: Обучение с подкреплением (RL) 7:48
Амодеи утверждает, что индустрия переходит от простого масштабирования предобучения (pre-training) к масштабированию вычислений во время логического вывода и этапа RL .
- Суть метода: Вместо того чтобы просто скармливать модели данные, её помещают в «гимнастический зал» (gym), где она получает награды за правильные шаги в рассуждениях .
- Эффект: Это позволяет моделям развивать стратегии рассуждения самостоятельно, подобно тому как AlphaGo научилась играть в го на сверхчеловеческом уровне .
- Перспективы: Мы находимся в самом начале кривой масштабирования этого метода. Сейчас на второй этап (RL) тратятся миллионы, но скоро бюджеты вырастут до миллиардов .
Ведущий упоминает призыв Андрея Карпатого к Open Source сообществу: создавать разнообразные среды для обучения моделей стратегиям рассуждения .
⚖️ Парадокс Джевонса в мире вычислений 4:30
Важным тезисом статьи Амодеи является утверждение о том, что повышение эффективности алгоритмов не приведет к снижению спроса на чипы NVIDIA.
- Рост эффективности: Алгоритмический прогресс удваивает эффективную вычислительную мощность каждые 5–14 месяцев .
- Реакция рынка: Как только «интеллект» становится дешевле, компании не экономят деньги, а вливают их обратно, чтобы обучить еще более сложную модель в рамках того же бюджета .
- Прогноз: Если у компании есть 10 миллиардов долларов, она потратит их полностью, чтобы получить максимально умную систему, а не сэкономит 9 миллиардов на посредственной модели .
🛡️ Трансформация Anthropic: Из защитников в «злодеи»? 0:40
Уэс Рот обращает внимание на резкую смену имиджа Дарио Амодеи и его компании. Изначально Anthropic создавалась выходцами из OpenAI как «безопасная» альтернатива, ориентированная на этику. Однако недавние партнерства с Palantir и Amazon для предоставления моделей оборонным ведомствам и разведке США вызвали бурю негодования в сообществе AI Safety .
- Реакция: Активисты и эксперты (например, Конор Лихи) заявляют, что Амодеи «стал злодеем», а его прошлая версия была бы в ужасе от нынешних решений .
- Аргумент Амодеи: Он настаивает, что передача технологического преимущества Коммунистической партии Китая недопустима и что «демократический ИИ» — это вопрос экзистенциального выживания .
В завершение Уэс Рот упоминает пари на 100 000 долларов от Гэри Маркуса, который готов спорить, что к концу 2027 года ИИ не станет умнее большинства людей, вопреки прогнозам Амодеи .
