# Кеннет Стенли: «Современные ИИ-модели — это всего лишь самозванцы с мусором внутри» Источник: https://www.youtube.com/watch?v=o1q6Hhz0MAg Канал: Machine Learning Street Talk Опубликовано: 04.07.2025 --- Современный искусственный интеллект переживает эпоху «чудес»: он пишет код, создает картины и ведет диалоги, неотличимые от человеческих. Однако исследователь Кеннет Стенли в эфире канала Machine Learning Street Talk утверждает, что за этим блестящим фасадом скрывается структурный хаос, превращающий современные модели в «самозванцев», лишенных подлинного понимания мира. ## 🎭 Феномен «ИИ-самозванца»: почему внешность обманчива [[JUMP:00:00]] Сегодня принято считать, что масштабирование нейросетей автоматически ведет к углублению их понимания реальности. Кеннет Стенли и ведущий Machine Learning Street Talk подвергают этот оптимизм сомнению, называя внутреннее устройство современных моделей «мусором» и «спагетти» [00:52]. По мнению Стенли, ИИ сегодня — это «самозванец», который научился виртуозно имитировать результат, не владея лежащими в его основе принципами [01:19]. В качестве примера приводится генерация изображения черепа: * Внешне результат выглядит безупречно и анатомически верно [01:32]. * Внутреннее представление (репрезентация) этого объекта в нейросети никак не связано с его реальными компонентами или структурой. * Система не понимает, что такое кость или челюсть, она лишь комбинирует пиксели так, чтобы они соответствовали паттернам из обучающей выборки [01:44]. Основная причина этого кроется в методе обучения — стохастическом градиентном спуске (SGD). Это метод «грубой силы», который подгоняет миллиарды параметров до тех пор, пока выходные данные не совпадут с правильным ответом [01:57]. Стенли сравнивает результат работы SGD с замком из песка: он выглядит как замок, но у него нет внутренних перекрытий, фундамента или структурных соединений [08:11]. ## 🧩 Разница между зазубриванием и пониманием [[JUMP:02:48]] В новой научной работе Кеннет Стенли и его соавторы вводят формальный термин для описания «внутренностей» нынешних ИИ — **раздробленная запутанная репрезентация** (fractured, entangled representation) [03:02]. Это состояние, при котором единые концепты разбиты на части, а независимые виды поведения, напротив, хаотично перемешаны. Для иллюстрации этой проблемы Кеннет Стенли приводит личную историю из школьных лет [03:15]: 1. Его ошибочно зачислили в класс физики для тех, кто не знал математического анализа (calculus). 2. Ученикам приходилось зазубривать бесконечные списки формул для каждого конкретного случая (например, для движения пушечного ядра) [03:39]. 3. Перейдя в продвинутый класс, Стенли обнаружил, что предмет стал намного легче: зная математический анализ, ему не нужно было ничего запоминать — он мог вывести любую формулу самостоятельно [03:52]. По мнению исследователя, современные большие языковые модели (LLM) напоминают ученика, который зубрит формулы [04:18]. Они могут блестяще сдать экзамены (бенчмарки), но не способны на подлинное творчество или открытие новых принципов, так как лишены глубокого структурированного понимания [04:32]. ## 🦋 Эксперимент Pickbreeder и архитектура будущего [[JUMP:04:47]] Альтернативный путь развития ИИ берет начало в старом онлайн-эксперименте Стенли под названием **Pickbreeder**. В этой системе пользователи могли «разводить» изображения, выбирая наиболее интересные визуальные мутации. Оказалось, что те, кто целенаправленно пытался вывести конкретный образ (например, бабочку), чаще всего терпели неудачу [05:00]. Успеха добивались те, кто просто следовал за «интересностью» [05:12]. Этот подход привел к созданию нового типа нейросетевых архитектур, которые формируют **единую факторную репрезентацию** (unified factored representation) [05:50]. Их отличительные черты: * **Модульность:** Сеть сама, без прямого указания, выделяет компоненты объекта. Если она рисует череп, у нее появляется отдельный «узел» или измерение, отвечающее за рот, которое позволяет открывать его или заставлять улыбаться [06:28]. * **Глубокая абстракция:** Изменения в такой сети семантичны. Поворот одного параметра приводит к логичному изменению образа (например, качанию стебля яблока), в то время как в обычных сетях это вызывает хаотичные искажения [07:45]. * **Отсутствие Big Data:** Такие «мировые модели» возникают снизу вверх, без необходимости скармливать им миллиарды примеров [06:52]. ## 🧱 Ловушка целей и концепция «обмана» [[JUMP:08:26]] Стенли утверждает, что наличие фиксированной цели при обучении (objective) является «бутылочным горлышком» для интеллекта [13:40]. Он вводит понятие **децепции (обмана)**: промежуточные шаги, ведущие к великому открытию, часто совершенно не похожи на конечный результат [08:55]. Алгоритмы, оптимизированные под конкретный показатель (градиентный спуск), неизбежно застревают в тупиках, потому что они отсекают «непохожие» варианты, которые могли бы стать ключом к успеху в будущем. В Pickbreeder путь к черепу лежал через поиск симметрии [09:45]. Когда пользователи выбирали симметричные, но еще не похожие на лица объекты, они «запирали» (locking in) это свойство в иерархии репрезентации, что позже позволяло создать сложные структуры [09:57]. Этот процесс Стенли сравнивает с написанием качественного программного кода: * Хороший код сейчас снижает технический долг в будущем [10:11]. * Плохой код (как в современных ИИ) — это «замок из песка», который невозможно достраивать бесконечно. * В открытых системах работает «эволюция эволюционируемости»: выигрывают те модели, которые лучше приспособлены для дальнейшего усложнения и комбинирования [11:01]. ## 🚀 Будущее: стена или новый горизонт? [[JUMP:11:41]] Кеннет Стенли и ведущий Machine Learning Street Talk предупреждают, что если мы продолжим строить ИИ как «самозванцев», технология неизбежно «ударится об стену» [13:01]. Огромные затраты энергии и денег на обучение LLM могут быть признаком того, что мы пытаемся пробить эту стену грубой силой, вместо того чтобы сменить парадигму [13:15]. Ключевые вызовы для ИИ-самозванцев: * **Обобщение (Generalization):** Неспособность адекватно реагировать на ситуации вне обучающей выборки [12:48]. * **Творчество:** Подлинное творчество — это способность двигаться к цели, которая еще не определена [14:06]. * **Постоянное обучение (Continual learning):** Трудности с самостоятельным освоением новых уровней знаний без переучивания всей модели [13:01]. По мнению Стенли, главная опасность не в том, что машины станут слишком умными, а в том, что мы станем слишком узко определять сам интеллект, сводя его к бенчмаркам [14:19]. Он призывает инвестировать ресурсы не только в масштабирование текущих LLM, но и в исследования искусственной жизни (Artificial Life) и открытого поиска (open-ended search) [14:32]. Путь к настоящему ИИ — это не прямая линия к известной цели, а непредсказуемое исследование неизвестного [15:10].