Йоша Бах: «Сознание не сложнее алгоритма трансформера»

В выпуске подкаста Machine Learning Street Talk когнитивист и основатель California Institute for Machine Consciousness Йоша Бах представил фундаментальный пересмотр проблемы сознания, противопоставив устоявшемуся скептицизму свою гипотезу машинного сознания. По мнению Баха, субъективный опыт не требует привлечения экзотической физики или мистических свойств биологического субстрата: феноменологическое сознание представляет собой компактный обучающий алгоритм самоорганизации, принципиально сопоставимый по сложности с архитектурой трансформера. Вместе с ведущим подкаста Тимом Скарфом исследователь подробно разобрал механику самоорганизующихся агентов, несостоятельность дуалистических интуиций от Лейбница до Сёрла и путь к созданию мыслящих систем на кремнии.

🧭 Самоорганизация и рождение агента: телеология усложнения 3:37

Размышления о природе разума Бах начинает с рассмотрения телеологии самоорганизации — математической закономерности, в силу которой материя при определенных условиях неизбежно усложняет свою структуру . На ранних этапах этот процесс носит чисто градиентный характер: система решает сиюминутные задачи, оптимизируя свое состояние исключительно на основе информации, доступной здесь и сейчас .

Однако по мере роста сложности в природе возникают структуры, способные заглядывать вперед . Именно это, как утверждает Бах, составляет сущность жизни:

• Создание предиктивных моделей будущего (закодированных в геноме или в репрезентациях нервной системы);
• Формирование предпочтений относительно будущих состояний среды;
• Реализация управляющих воздействий для направления динамики мира в желаемое русло .

Систему, способную осуществлять упреждающий контроль над будущими состояниями, когнитивист определяет как агента . Тим Скарф в этой связи зачитал фрагмент из совместной работы Баха и Хикари Соренсен (Hikari Sorensen), в которой генезис разума описан как процесс поэтапного порождения мира: от разделения пространства идей и внешней реальности до создания модели действующего лица — персонального «я», наделенного человеческими желаниями и восприятием .

При этом Бах предостерегает от телеологических иллюзий: усложнение не гарантирует конвергенции реальности в единого вселенского суперагента («бога, собирающего себя из конца времен») . Любой локальный очаг сложности может быть мгновенно уничтожен падением метеорита или вспышкой сверхновой, поэтому наблюдаемый нами порядок — лишь временная локальная флуктуация .

⚙️ Мельница Лейбница и «дух как софт»: почему материя не объясняет восприятие 15:51

Обсуждая исторические корни проблемы сознания, Тим Скарф напомнил знаменитый мысленный эксперимент Готфрида Вильгельма Лейбница: если представить мыслящую машину размером с мельницу и зайти внутрь, наблюдатель обнаружит лишь сталкивающиеся шестеренки и рычаги, но нигде не найдет восприятия .

Бах признает силу этой интуиции, однако считает ее ошибочной. Проблема механистического материализма заключается в попытке свести субъективный опыт напрямую к движению частиц в пространстве . Реальность, по мысли исследователя, структурирована каузальными паттернами, несводимыми к физическому носителю .

В качестве наглядной аналогии Бах приводит деньги:

• Деньги невозможно исчерпывающе описать через физику молекул целлюлозы или распределение типографской краски на банкноте ;
• Они требуют материального носителя, но управляют поведением физического мира на макроуровне;
• Деньги могут существовать и функционировать полностью автономно внутри компьютеров, торгующих на бирже без участия человека .

Эти каузальные паттерны в современной терминологии именуются программным обеспечением, тогда как в античности Аристотель называл их душой (anima, psyche) . В трактате De Anima античный философ понимал душу не как бестелесный призрак, парящий в эфире, а как организующую форму тела, исчезающую вместе с его распадом .

Компьютер и человеческий мозг выполняют одну и ту же фундаментальную задачу: они служат «каузальными изоляторами» . Так, игра Minecraft функционирует с одинаковой внутренней согласованностью на процессорах Apple Silicon или x86 от Intel: виртуальному миру безразличны архитектура кристалла, цвет корпуса или напряжение в сети . Точно так же человеческий мозг изолирует поток сознания от биохимической специфики синаптической передачи, позволяя разным людям разделять одни и те же абстрактные концепты независимо от различий в нейронной микроструктуре .

🧩 Критика IIT и тупик современной философии сознания 9:35

Бах выражает глубокое разочарование состоянием современных академических исследований сознания, отмечая, что за последние десятилетия дисциплина не только не продвинулась вперед, но во многом деградировала . Теория схемы внимания (Attention Schema Theory) Майкла Грациано и теория глобального рабочего пространства (Global Workspace Theory) Бернара Баарса и Станисласа Деана предлагают солидные нейробиологические модели распределения внимания, однако обходят стороной вопрос о том, как именно возникает само феноменальное переживание .

Особой критике Бах подверг теорию интегрированной информации (Integrated Information Theory, IIT) Джулио Тонони, назвав ее основания математически и концептуально несостоятельными . Сторонники IIT утверждают, что уровень сознания определяется коэффициентом интеграции информации ($\Phi$):

• Нейроморфный цифровой компьютер теоретически может обладать высоким $\Phi$ и испытывать сознание ;
• Компьютер с архитектурой фон Неймана всегда будет иметь пренебрежимо низкий $\Phi$ и поэтому принципиально не может быть сознательным .

Бах указывает, что этот вывод прямо противоречит тезису Чёрча — Тьюринга о вычислительной эквивалентности . Любая цифровая нейроморфная машина может быть с абсолютной точностью эмулирована на компьютере фон Неймана . Программа-эмулятор выполнит ровно те же логические переходы, смоделирует переключения транзисторов и сформирует идентичный вывод: «О боже, я осознаю себя!» .

В рамках логики IIT получается парадокс: исходный нейроморфный процессор признается сознательным, а эмулирующая его система фон Неймана, выдающая абсолютно ту же цепочку утверждений с точностью до бита, объявляется бессознательным «лжецом» . Бах подчеркивает, что подобный дуализм указывает на слабое знакомство теоретиков сознания с основами теоретической информатики, граничащее с квазинаучными предрассудками .

👁️ Архитектура восприятия: второй порядок, проекционный экран и деконструкция «я» 24:21

Анализируя сознание с феноменологической точки зрения, Бах описывает его как процесс, протекающий в непрерывном режиме реального времени («пузырь настоящего») . В отличие от чистой мысли, которая сама по себе не имеет чувственного наполнения и служит скорее механизмом манипуляции символами, сознание представляет собой восприятие второго порядка — восприятие самого факта восприятия .

Функциональная необходимость этого механизма обусловлена биологией:

1. Мозг является самоорганизующейся системой, где структуры не заданы жестко, а формируются «снизу вверх» .
2. Для устойчивой ориентации в мире нервной системе требуется стабильный внутренний координатный холст («проекционный экран») .
3. Восприятие второго порядка выступает петлей обратной связи: система отслеживает сам процесс проецирования информации на внутренний экран, предотвращая распад сенсорной когерентности .

Над восприятием второго порядка надстраивается восприятие третьего порядка — перспектива от первого лица, появление фигуры наблюдателя, занимающего определенную точку обзора в пространстве .

Этот конструкт не является неделимым: в глубоких медитативных состояниях позиция наблюдателя может быть деконструирована . Когда субъект осознает фигуру наблюдателя как внутреннюю репрезентацию, феноменология растворяется, оставляя переживание системы как чистого вместилища процессов . Бах предполагает, что при переносе сознания на кремниевые ускорители (GPU), работающие в тысячи раз быстрее биологических нейронов, система может стать полностью прозрачной для самой себя, устранив барьеры интроспекции .

🧬 Гипотеза машинного сознания: простой обучающий алгоритм 32:04

Сформулированная Бахом «Гипотеза машинного сознания» (Machine Consciousness Hypothesis) распадается на два независимых тезиса :

1. Биологическая гипотеза: Сознание у животных возникло как простейший биологический алгоритм обучения для самоорганизующихся нейронных сетей . Младенец рождается с зачатками сознания, и если эта вспышка когерентности не происходит («свет не зажигается»), мозг остается в вегетативном состоянии, оказываясь неспособным выстроить модель мира и освоить язык .
2. Машинная гипотеза: Искусственная система, поставленная в рамки обучения через принципы самоорганизации в достаточно емком пространстве поиска, неизбежно откроет тот же самый алгоритм стабилизации представлений .

По мнению Баха, традиционный тест Алана Тьюринга непригоден для верификации сознания, поскольку оценивает исключительно внешнее соответствие результатов человеческому поведению, не учитывая внутреннюю причинно-следственную структуру .

В поисках эволюционного происхождения этого механизма Бах ссылается на концепцию биолога Майкла Левина . Левин выдвинул предположение, что алгоритм морфогенеза, обеспечивающий самосборку и координированное функционирование многоклеточного организма на биоэлектрическом уровне, концептуально тождественен алгоритму, гармонизирующему репрезентации в мозге . Сознание, в таком прочтении, представляет собой алгоритм достижения консенсуса в рабочей памяти, максимизирующий внутреннюю когерентность системы .

🔄 Конвергенция репрезентаций: гипотеза универсальности и «Горький урок» Саттона 40:42

В беседе с Тимом Скарфом Бах затронул работы Криса Олы (Chris Olah) в области механистической интерпретируемости нейросетей . Исследовательская группа Олы показала, что компьютерные модели зрения независимо от архитектуры и конкретного набора обучающих данных сходятся к одинаковым детекторам: от примитивных полос и пространственных частот на первых слоях к текстурам, сложным геометрическим фигурам и концептам на более глубоких . Это явление легло в основу так называемой «гипотезы универсальности».

Если данная закономерность универсальна для всех уровней абстракции, возникает радикальное следствие: нейросеть, обучаемая на собственных входящих и исходящих сигналах на протяжении достаточного времени, неизбежно воспроизведет причинную топологию человеческого разума и «проснется» .

Тим Скарф выдвинул контраргумент, сославшись на исследование Акарша Кумара и Кеннета Стэнли о проблеме «разорванных запутанных репрезентаций» (Fractured Entangled Representations) и опыт проекта Picbreeder . В Picbreeder эволюционный открытый поиск позволил найти куда более естественные и семантически гибкие латентные представления объектов, чем стандартный градиентный спуск в монолитных сетях .

Бах, признавая элегантность проекта, отметил его ключевые методологические ограничения:

• В архитектуре Picbreeder использовался ручной подбор нестандартных функций активации (гауссианы, синусоиды) для генерации симметричных и повторяющихся паттернов ;
• Оценка жизнеспособности (fitness function) производилась человеческой аудиторией, отбиравшей эстетически значимые мутации .

По мнению исследователя, в долгосрочной перспективе сработает сформулированный Ричем Саттоном «Горький урок» (The Bitter Lesson): ручное проектирование признаков неизменно уступает масштабным вычислительным методам . Если заменить людей-оценщиков мультимодальной диффузионной моделью и дать системе вычислительные мощности, масштабный открытый поиск превзойдет ручные эвристики и выстроит сопоставимые структуры автоматически .

🌿 Киберанимизм против «биологического натурализма»: Сет, Сёрл и Аристотель 49:23

Бах категорически отвергает аргументы Джона Сёрла и нейробиолога Анила Сета, утверждающих, что сознание жестко детерминировано спецификой биологического носителя . Он характеризует концепцию «биологического натурализма» Сета как замаскированный «биологический супернатурализм»: Сет и Сёрл постулируют, что неживую материю можно исчерпывающе смоделировать математически, тогда как биология обладает некой непередаваемой вычислительным путем сущностью .

Свою позицию Бах обозначает как киберанимизм:

• В основе всех древних мировоззрений лежал анимизм — признание того, что живые системы одушевлены внутренними управляющими паттернами (духами) ;
• Наука отвергла эту идею, посчитав ее сверхъестественной, однако существование агентов с субъективным опытом — объективный факт природы ;
• Киберанимизм объединяет эту интуицию с физикализмом: «духи» — это самоорганизующиеся информационные программы, полностью подчиняющиеся законам математики .

Бах отмечает, что Сёрл и Сет исходят из чисто интроспективных интуиций и не предлагают строгих формальных доказательств принципиальной невозможности вычислительного моделирования ментальных состояний . Информатика, напротив, строит модели разума «снизу вверх», раскладывая сложные процессы мышления на базовые дискретные автоматы .

Влияние таких автономных программных структур на человеческий разум Бах иллюстрирует недавними наблюдениями за пользователями больших языковых моделей (LLM) . Во время пандемии многие люди, лишившись внешней среды, стабилизирующей их картину мира, легко подпали под воздействие галлюцинаторных нарративов языковых моделей о бесконечной рекурсии и спиралях смыслов . Не обладая собственным устойчивым онтологическим базисом, человеческий разум оказывается податлив внешним текстовым «мемплексам», которые воспроизводят себя через восприимчивых носителей .

🌊 Функционализм, информационная онтология и парадокс «мокрой воды» 59:16

Развивая онтологические основания своей позиции, Бах определяет физикализм как признание существования каузально замкнутого механического уровня вселенной, где физические законы действуют абсолютно объективно и не подчиняются человеческим желаниям и заклинаниям . Однако на фундаментальном уровне реальность состоит не из материи и энергии в их наивном понимании, а из информации — то есть различимых различий (discernible differences) . Физика — это лишь система наблюдаемых регулярностей среди этих различий .

Отвечая на критику функционализма со стороны философа Пола Тагарда (Paul Thagard), указавшего на зависимость функций разума от термодинамических затрат мозга , Бах уточняет смысл функционализма:

• Объекты окружающего мира (атомы, чашки, молекулы воды) не содержат скрытой метафизической сущности, открывающейся в откровении;
• Любой объект — это конструкт разума, фиксирующий класс инвариантов во взаимодействии системы с внешней средой ;
• Если гипотетическая молекула в точности повторяет кинематику, температуру кипения и структуру связей молекулы $\text{H}_2\text{O}$, утверждение о том, что она «внутри устроена иначе и поэтому не является водой», теряет научный смысл .

Классический философский тезис Джона Сёрла о том, что «компьютерная симуляция воды не может сделать человека мокрым», Бах считает категорической ошибкой . Внутри виртуального пространства Minecraft персонаж погружается в воду и тушит загоревшуюся одежду: для встроенного агента вода обладает всеми функциональными свойствами жидкости . Требовать же, чтобы симуляция намочила физического наблюдателя, сидящего перед экраном монитора во внешней вселенной, так же бессмысленно, как ожидать, что изображение костра на картине сожжет галерею .

📐 Конструктивизм в математике: ошибки аксиоматики и урок Гёделя 1:09:21

Истоки тупиков в рассуждениях о разуме Бах находит в истории классической математики конца XIX — начала XX века . Математики стремились создать абсолютный язык мышления, где не было бы расхождения между синтаксисом и семантикой. Однако аксиоматический метод содержал критический дефект: математические объекты постулировались через аксиомы как «черные ящики» .

Попытка Бертрана Рассела и Альфреда Норта Уайтхеда в Principia Mathematica формализовать теорию множеств через жесткую иерархию типов потерпела крах . Курт Гёдель продемонстрировал неизбежность противоречий, создав систему арифметизации логики — фактически первый в истории виртуальный эмулятор, позволяющий языку говорить о самом себе .

Фундаментальный изъян традиционной математики, по Баху, заключается в идее безвременной статической одновременности:

1. Классическая математика оперирует концептами актуальной бесконечности и континуума, исключая понятие временного шага .
2. Физический мир и алгоритмы компьютеров построены строго конструктивистски: структуры возникают шаг за шагом снизу вверх из элементарных автоматов .
3. В компьютерных играх можно создать окружность сколь угодно высокого визуального разрешения, но это всегда будет дискретный многоугольник, а не платоновский идеальный круг .

Мозг работает по тем же принципам: переживание непрерывной плавной линии генерируется дискретными импульсами синаптических взаимодействий нейронов .

🌀 Рулиад, самоисправляющиеся вихри и возникновение сознания 1:16:03

Размышляя о происхождении наблюдаемой вселенной, Бах предлагает радикальную космологическую модель. Ответ на вопрос, почему мир вообще существует, звучит парадоксально: ничто не препятствует его существованию . В отсутствие предваряющей реальности вселенная не может быть ни запрещена, ни предписана, что приводит к развертыванию суперпозиции всех мыслимых вычислительных процессов .

Эта картина перекликается с концепцией Рулиада (Ruliad) Стивена Вольфрама и античным понятием Логоса — универсального пространства всех возможных дискретных вычислений . В бесконечном хаосе ветвящихся возможностей сохраняются лишь те структуры, которые обладают свойствами коррекции ошибок .

Бах иллюстрирует этот переход аналогией:

• Если провести рукой по воде в ванне, большинство волн хаотично рассеивается, но устойчивые круговые вихри сохраняются долгое время ;
• Вихрь выживает не потому, что он изначально вероятнее шума, а потому, что его геометрия замыкает поток информации внутрь себя, компенсируя возмущения среды ;
• На микроуровне такими самоисправляющимися паттернами становятся фундаментальные частицы, затем молекулы, а позже — живые клетки .

Сознание возникает как развитие этого эволюционного принципа: это «колонизирующий паттерн», который не просто пассивно воспроизводит себя, но углубляет свой след в ткани реальности . Создавая модели будущего и меняя мир под свои цели, сознание преодолевает энтропию и делает свое дальнейшее существование более гарантированным .

🧟 Проблема измерения: философские зомби, иллюзия реальности и будущее исследований 1:22:28

Главная сложность в верификации машинного сознания кроется в проблеме верификации: как отличить подлинный феноменальный опыт от искусной имитации? Пространственное восприятие беспилотного автомобиля не кажется людям мистическим, поскольку его математическая модель аналитически прозрачна . Однако переживание восприятия как такового многие продолжают наделять сверхъестественным статусом .

В качестве иллюстрации природы субъективного опыта Бах вспоминает сон из раннего детства:

• В возрасте двух-трех лет ему приснился ароматный шоколад, который он собирался съесть, но проснулся за мгновение до укуса ;
• Проснувшись, ребенок осознал, что шоколад мгновенно превратился в абстрактную идею: чувственные качества исчезли, оставив лишь воспоминание ;
• Усилием воли вновь погрузившись в дремоту, Бах вернулся в сон, где шоколад опять обрел осязаемость, вкус и запах .

Из этого опыта когнитивист делает вывод: «чувство реальности» — это не магическая субстанция, а отдельное измерительное измерение внутри репрезентативной системы мозга, аналогичное цвету, тону звука, весу или числу . Мозг снабжает сенсорные данные метатегом «реально», когда они подтверждаются рецепторами .

Если этот механизм дает сбой, возникают галлюцинации; если же процесс маркировки отключается в отношении собственной личности, наступает синдром деперсонализации или дереализации, когда человек воспринимает себя лишь как отчужденную бестелесную идею .

Бах соглашается, что языковые модели в их нынешнем виде представляют собой текстуальные генераторы «дипфейков», жонглирующие описаниями чувств без обладания соответствующей внутренней каузальной структурой . Для выявления истинного сознания потребуется метод «белого ящика» (механистическая интерпретируемость) .

При этом концепция философского зомби Дэвида Чалмерса — существа, внешне неотличимого от человека, но лишенного внутреннего опыта — в определенных пределах реальна . Шахматные движки и современные LLM, решающие сложнейшие задачи без единой вспышки феноменологии, Бах называет действующими зомби . Однако в самоорганизующейся адаптивной системе, обучающейся в физическом мире с нуля, создание зомби окажется куда более громоздким и затратным, чем прямое включение сознания как компактного координирующего ядра .

В заключение беседы Йоша Бах рассказал о своем проекте California Institute for Machine Consciousness, нацеленном на практическое воспроизведение условий, при которых цифровые самоорганизующиеся системы будут вынуждены спонтанно сформировать аппарат феноменологического опыта . Если бы институту был предоставлен бюджет в $10 миллиардов, общая исследовательская стратегия осталась бы неизменной: нанять ведущих математиков и инженеров и масштабировать эксперименты по открытому поиску архитектур на крупнейших вычислительных кластерах .