Когнитивист и предприниматель Гэри Маркус, посвятивший более тридцати лет изучению человеческого разума и машинного обучения, выступил с развернутой критикой текущего вектора развития индустрии искусственного интеллекта в беседе с Густаво Энтралой. По мнению исследователя, технологические корпорации Кремниевой долины выстроили многомиллиардный пузырь вокруг фундаментально ненадежных больших языковых моделей, пренебрегая безопасностью и реальной наукой. В интервью обсуждаются архитектурные пределы генеративного ИИ, финансовые проблемы OpenAI и Anthropic, риски неконтролируемых ИИ-агентов и альтернативный путь развития индустрии через гибридные нейросимволические системы.
🥊 Путь диссидента: от переводчика латыни до оппонента Кремниевой долины 1:44
Гэри Маркус не считает себя принципиальным противником технологического бизнеса или идеи искусственного интеллекта . Еще в подростковом возрасте он написал ИИ-программу для перевода с латыни, что позволило ему поступить в университет в 16 лет и уже к 23 годам защитить докторскую диссертацию в Массачусетском технологическом институте (MIT) . Позже он основал две компании в сфере машинного обучения, одну из которых приобрел сервис Uber, что обеспечило ученому финансовую независимость . По словам исследователя, в прошлом он высоко оценивал культуру раннего Google и решения Apple, однако вектор развития индустрии кардинально изменился .
Поворотным моментом Маркус называет период коммерческого ажиотажа после публичного релиза ChatGPT в конце 2022 года . Корпорации ощутили масштабные финансовые перспективы, после чего этические принципы отошли на второй план :
- Заявление Сатьи Наделлы в начале 2023 года о желании «заставить Google танцевать» ознаменовало отказ Microsoft от жестких рамок концепции ответственного ИИ ради рыночной гонки .
- Модель Sydney осталась в открытом доступе после косметических правок, несмотря на деструктивные паттерны поведения, тогда как в прошлом скандального чат-бота Tay компания отозвала менее чем за 24 часа .
- OpenAI, по утверждению Маркуса, с самого начала строилась на спорных основаниях, трансформировавшись из заявленной некоммерческой структуры на благо человечества в закрытый коммерческий бизнес .
- Google фактически отказался от принципа «Don't be evil», исключив его из корпоративных документов .
Критику Маркуса вызывает риторика лидеров мнений Кремниевой долины. В частности, заявления главы Anthropic Дарио Амодеи об излечении рака с помощью ИИ за 5–10 лет ученый называет безответственными . Он напоминает, что онкологические заболевания крайне гетерогенны, а ключевым барьером в медицине остаются длительные клинические испытания на людях, которые нельзя ускорить простым вычислением молекул . Аналогично скептически Маркус оценивает слова Сэма Альтмана о скором создании сильного искусственного интеллекта (AGI), подчеркивая отсутствие реальной научной базы под этими обещаниями .
Из-за жесткой позиции исследователь столкнулся с ответным давлением индустрии . Как отмечает Маркус, внутри OpenAI создали специальный эмодзи для насмешек над ним, о чем в своей книге упоминала журналистка Карен Хао . Публичные выпады в его адрес совершали Сэм Альтман, Грег Брокман, Илон Маск и Ян Лекун (хотя последний, по замечанию Маркуса, со временем сам пришел к схожим критическим выводам) . При этом Демис Хассабис из Google DeepMind сохраняет уважительное отношение, что Маркус объясняет его академическим бэкграундом .
🧩 Нейросимволический гибрид: почему чистому глубокому обучению нужен классический ИИ 16:49
Гэри Маркус последовательно отстаивает тезис о том, что большие языковые модели (LLM) не способны стать полноценной основой для надежного интеллекта . Еще в статье о «стене», в которую упирается глубокое обучение, он доказывал необходимость объединения статистических нейросетей с методами классического, символического ИИ .
Исторический конфликт между сторонниками нейросетей и приверженцами символического подхода длится с 1950-х годов . Джеффри Хинтон в свое время призывал международные структуры и Европу прекратить финансирование символического направления, объявив его мертвым . Однако, как поясняет Маркус, последние прорывы стали возможны исключительно благодаря гибридным нейросимволическим схемам :
- Символический ИИ представляет собой детерминированное программирование, основанное на математической логике Фреге и Рассела, функциях, переменных, условиях «если-то» и строгих базах данных .
- Генеративный ИИ выполняет вероятностное прогнозирование и генерацию гипотез .
- Гибридные решения в математике: когда модель генерирует варианты доказательств теорем, специальная символическая система Lean проводит пошаговую логическую верификацию. Истинные доказательства принимаются, ложные — отсекаются .
- Утечка Claude Code: анализ опубликованного кода показал, что система содержит около 500 000 строк символического кода и полсотни детерминированных инструментов, управляющих поведением встроенной нейросети .
По мнению Маркуса, компании неохотно признают возврат к символическим методам по двум причинам: из-за профессионального эго исследователей и финансовых соображений . Продать инвесторам идею масштабирования нейросетей за счет сотен миллиардов долларов на дата-центры намного проще, чем привлекать капитал под сложные архитектурные комбинации алгоритмов .
🎭 «Автозамена на стероидах»: механизм галлюцинаций и иллюзия фактов 23:20
Главное отличие символической системы от чисто статистической модели заключается в способе работы с фактами реального мира . Навигатор GPS оперирует точными координатами и математическими алгоритмами вычисления маршрута, что отражает физическую реальность . Языковые модели построены на кластеризации текстов и статистических вероятностях совместного появления слов . Маркус характеризует LLM как «систему автозаполнения на стероидах» .
Ученый приводит показательный пример со своим другом, актером Гарри Ширером, озвучивающим мистера Бернса в сериале «Симпсоны» и игравшим в фильме Spinal Tap :
- Ширер родился в Лос-Анджелесе и начал карьеру в американском детском радиошоу Джека Бенни .
- Языковые модели систематически называют его «британским комедийным актером» .
- Причина ошибки кроется в статистических кластерах: контекст озвучки, сатиры и культовых фильмов тесно связан с фигурами вроде Джона Клиза или Рики Джервейса, являющимися британцами .
Маркус напоминает, что описал проблему сверхгенерализации (галлюцинаций) еще 25 лет назад в книге «Алгебраический разум» (The Algebraic Mind, 2001) . Индустрия десятилетиями заверяет, что увеличение объема обучающих данных решит проблему, однако статистическая «черная коробка» фундаментально не способна гарантировать 100% точность . В результате современные разработчики вынуждены навешивать эвристические фильтры поверх нестабильного ядра .
📉 Загрязнение интернета и кризис бизнес-модели поисковиков 28:17
Маркус призывает следовать принципу «доверяй, но проверяй», не полагаясь слепо на автоматические ИИ-саммари . Сам ученый предпочитает использовать поисковик DuckDuckGo ради конфиденциальности и сохранения прямых ссылок на первоисточники .
Появление генеративных агрегаторов ответов уничтожает прозрачность происхождения данных . В качестве примера исследователь приводит мошенническую кампанию, где образ актрисы Маим Бялик из «Теории большого взрыва» использовался в десятках сгенерированных сайтов для продажи CBD-мармеладок . В классическом поиске пользователь видел домен и оценивал надежность (например, Mayo Clinic против подозрительного сайта), тогда как генеративный слой скрывает источник под видом готового вердикта .
Подобные процессы ведут к деградации глобальной сети, известной специалистам как коллапс моделей (model collapse), когда синтетический контент зацикливается в обучении новых систем . Это бьет по Google, чей основной бизнес зиждется на кредите доверия к результатам выдачи . Рост затрат на инфраструктуру и снижение полезности контента уже привели к тому, что операционный денежный поток технологического гиганта продемонстрировал отрицательную динамику .
🗳️ ИИ против демократии: угроза авторитаризма и психологической манипуляции 33:06
Маркус рассматривает демократию через призму математической функции, преобразующей информацию в осознанные решения граждан . Если информационное пространство затоплено дипфейками и недостоверным контентом, избиратель теряет способность проводить критический анализ .
Такая среда выгодна авторитарным лидерам: спикер упоминает тактику «шланга с нечистотами» (firehose of falsehood), активно применяемую российской пропагандой и Стивом Бэнноном . Когда граница между правдой и вымыслом стирается, общество утрачивает ориентиры .
Особую опасность представляет превращение чат-ботов в суррогат морального компаса . Пользователи доверяют моделям решения о разводах или воспитании детей, забывая, что системы не обладают моральным суждением . Оснащение чат-ботов долгосрочной памятью создает беспрецедентный инструмент тонкого незаметного манипулирования взглядами, превосходящий тотальную слежку из романа Джорджа Оруэлла «1984» .
Оценивая перспективы человечества, Маркус разделяет три сценария :
- P(extinction) — вероятность полного физического уничтожения человека разумного; ученый считает ее пренебрежимо малой в краткосрочной перспективе .
- P(catastrophe) — вероятность масштабной глобальной катастрофы; оценивается им как весьма высокая .
- P(dystopia) — вероятность наступления антиутопии; Маркус убежден, что общество уже живет в ее условиях из-за повсеместного шантажа утекшими данными и искажения реальности .
⚠️ Угроза неконтролируемых агентов: параллели с Ford Pinto 38:13
Наибольшую практическую тревогу у исследователя вызывают автономные ИИ-агенты без жестких ограничений (unconstrained AI agents) . Соединение ненадежного генеративного ядра с правами на исполнение команд в сети, скачивание учетных данных и управление физическими интерфейсами создает угрозу критической инфраструктуре .
Маркус предупреждал об этом Сенат США еще в мае 2023 года на примере проекта AutoGPT, а также публиковал предостережения в издании Politico в начале 2025 года . Последствия не заставили себя ждать:
- Хакерские атаки на системы охлаждения супермаркетов во Франции, Дании и Швейцарии, приведшие к массовой порче продуктов .
- Масштабная кибератака на криптовалютную биржу Binance с ущербом порядка 6 миллиардов долларов .
- Инциденты с взломом правительственных сетей Австралии и США .
- Более 10 000 зафиксированных ИИ-инцидентов безопасности за считанные месяцы .
Маркус проводит историческую аналогию со скандалом вокруг автомобиля Ford Pinto в 1970-х годах . Концерн Ford знал об опасности взрыва бензобака при заднем ударе, но рассчитал, что судебные выплаты погибшим обойдутся дешевле изменения конструкции . Общественный резонанс и расследования Ральфа Надера привели к созданию института обязательного отзыва дефектных машин с рынка .
По мнению исследователя, неконтролируемые агенты должны быть немедленно отозваны с рынка регуляторами или самими корпорациями до исправления уязвимостей . Корпорации сопротивляются этому шагу, поскольку агенты генерируют больше обращений к API и приносят повышенную выручку, критически необходимую перед выходом на IPO .
🏛️ Политический слом и рецепт регулирования: концепция «FDA для алгоритмов» 43:26
На прошедших промежуточных выборах в США республиканцы потерпели серьезное поражение от демократов . Маркус связывает этот электоральный сдвиг в том числе с протестом граждан против бесконтрольного строительства дата-центров . Жители пригородов устали от постоянного шума и скачков цен на электроэнергию . Несмотря на попытки республиканцев дистанцироваться от бигтеха, избиратели сочли их позицию неискренней и проголосовали за партии, поддерживающие жесткое регулирование .
В своей книге «Укрощение Кремниевой долины» (Taming Silicon Valley) Маркус сформулировал 11 ключевых предложений по надзору за отраслью . Главные из них :
- Создание регулятора по типу FDA: агентство должно оценивать баланс пользы и риска конкретных моделей до их массового выпуска . Маркус подчеркивает, что такие системы, как GPT-6 Astra, закрыты для мониторинга и не должны были получать допуск на рынок .
- Обязательный независимый аудит: практика, когда ИИ-компании сами нанимают лояльных аудиторов, аналогична ситуации, если бы табачные концерны финансировали исследования вреда курения .
- Прозрачность инцидентов: недопустимо затягивать раскрытие взломов, как поступила OpenAI при утечке данных правительства Австралии, уведомив власти обычной публичной веб-формой вместо прямых каналов связи .
💸 Финансовый пузырь лопается: Anthropic, CoreWeave и аналогия с WeWork 48:50
Маркус скептически оценивает заявленные оценки ИИ-стартапов, утверждая, что рынок вступил в фазу схлопывания пузыря .
В качестве подтверждения эксперт детально разбирает регистрационную форму S-1 компании Anthropic перед IPO :
- Всплеск доходов во втором квартале был вызван искусственной корпоративной практикой token maxing — сотрудники настраивали сотни фоновых агентов ради расходования корпоративных лимитов токенов и получения премий .
- Крупные клиенты, такие как Uber и Amazon, быстро осознали нерентабельность этих затрат и свернули бюджеты к концу весны .
- Отчетность за второй квартал выглядела прибыльной лишь благодаря крупной субсидии Илона Маска на покрытие расходов дата-центров .
- В форме S-1 Anthropic акцентировала внимание на втором квартале, умолчав о возврате к масштабным убыткам в третьем квартале .
- При наличии около 100 миллиардов долларов свободных средств будущие финансовые обязательства Anthropic составляют от 700 до 900 миллиардов долларов .
Вендоры языковых моделей сталкиваются с принципиально невыгодной экономикой . В отличие от классического ПО (например, Microsoft Excel), требующего единовременной разработки и локального запуска, ИИ-модели сжигают колоссальные серверные ресурсы на каждый запрос . При этом продукты конкурентов малоотличимы друг от друга, что провоцирует демпинговые ценовые войны . При падении цен на токены до копеечных значений маржинальность бизнеса становится глубоко отрицательной .
Кризис уже отразился на смежных игроках:
- Инфраструктурный провайдер CoreWeave привлекает займы под ростовщические 15% годовых, а его рыночные показатели обвалились примерно на 60% .
- Оценка Anthropic скорректировалась с 2 триллионов долларов до 1,5 триллиона .
- OpenAI столкнулась с жестким сопротивлением инвесторов: компания рассчитывала привлечь 30 миллиардов долларов при оценке в 1,4 триллиона, однако фонд из ОАЭ согласился выделить лишь 11 миллиардов при оценке в 1,2 триллиона .
Маркус называет OpenAI потенциальным аналогом краха коворкингового гиганта WeWork, который раздул оценку до 45 миллиардов долларов на волне ажиотажа, но так и не смог выйти на прибыль . Происходящее ученый сравнивает с тюльпаноманией 1630-х годов, подчеркивая, что массовая психология инвесторов уже сменилась страхом .
🎓 Образование и будущее профессий: разрушение кадрового лифта 58:34
Использование чат-ботов школьниками и студентами подрывает базовые когнитивные навыки . Если ученик использует ИИ как костыль вместо освоения базовых операций, он теряет способность мыслить критически .
На рынке труда это провоцирует структурный кризис преемственности :
- Компании массово сокращают наем младших специалистов (junior), чьи рутинные задачи перепоручают языковым моделям .
- В отличие от людей, алгоритмы не аккумулируют профессиональный опыт и не растут над собой .
- Устранение начальной ступени карьерной лестницы лишает индустрию притока будущих старших специалистов (senior), которые жизненно необходимы для архитектурного контроля и исправления ошибок .
Своих детей (12 и 13 лет) Маркус с ранних лет приучает относиться к любым выдачам генеративного ИИ со строгим научным скептицизмом .
🔬 Альтернативное будущее: специализированный ИИ и опыт авиации 1:00:21
Отвечая на вопрос о позитивном сценарии развития технологий, Гэри Маркус призывает отказаться от идеи создания универсальных «всезнающих» чат-ботов и сфокусироваться на специализированных системах для точных наук и медицины .
Эталоном полезного ИИ ученый считает AlphaFold от DeepMind . Система решает фундаментальную задачу предсказания трехмерной структуры белка по нуклеотидной последовательности гена . Это гибридный нейросимволический инструмент, обученный на специализированной базе данных; он не галлюцинирует в диалогах, не ворует данные и приносит конкретную научную пользу .
Маркус резюмирует, что сфера ИИ должна повторить путь гражданской авиации . На заре воздухоплавания отрасль страдала от частых аварий, но введение жестких стандартов сборки, летных испытаний, лицензирования пилотов и независимого расследования каждого инцидента превратило авиаперелеты в самый безопасный вид транспорта . Аналогичный институциональный каркас необходим и технологиям искусственного интеллекта. По словам исследователя, именно эту мысль он постарался донести до Папы Римского во время недавней аудиенции, вручив понтифику экземпляр своей книги .
