В мире когнитивной науки и искусственного интеллекта (ИИ) часто доминирует идея «чистого разума» — способности решать задачи, оторванной от физической реальности и социальных связей. Однако аспирант в области когнитивных вычислений Мано Альбаррасин в беседе на канале Machine Learning Street Talk предлагает иной взгляд: интеллект неотделим от материальности, коллективного взаимодействия и механизмов выживания.
🧠 Скандал вокруг IIT и границы науки 0:00
Разговор начинается с обсуждения недавнего открытого письма группы учёных, в котором популярная теория интегрированной информации (Integrated Information Theory, IIT) Джулио Тонони была названа «псевдонаукой». По мнению Альбаррасин, такая реакция была предсказуемой и носила скорее «ответный» характер на не всегда корректное освещение темы в СМИ .
Мано Альбаррасин призывает к осторожности в навешивании ярлыков:
- Дизайн исследования: Оппонентов возмутило, что IIT была выбрана в качестве основной теории в крупном проекте (Templeton study), хотя она оставляет слишком много пространства для интерпретаций .
- Статус IIT: Хотя Альбаррасин не считает IIT ведущей теорией сознания, она отмечает её формальную проработанность и ценность для научного поиска .
- Критерий научности: Мано полагает, что настоящая наука начинается не просто с использования инструментов, а с измерения инвариантов, которые позволяют обеспечить предсказуемость системы . Феноменология (субъективный опыт) также может быть частью научных данных, если её правильно систематизировать .
🗣️ Язык: инструмент мышления или общения? 10:51
Обсуждая природу языка, ведущий и гостья затрагивают позицию Ноама Хомского, который критикует большие языковые модели (LLM) за отсутствие реальной «теории языка». Хомский утверждает, что LLM просто моделируют статистический шум, не понимая причинно-следственных связей .
Мано Альбаррасин уточняет, что язык — это процесс с разной степенью жесткости:
- Кластеризация vs Коммуникация: Мышление не обязательно требует внешних символов для того, чтобы группировать понятия, но внешние символы (слова, знаки) делают мышление эффективнее, позволяя подтверждать догадки через других агентов .
- Социальные скрипты: Язык работает как система ограничений, которая снижает неопределенность (энтропию). Слово «форель» несет мало смысла без контекста, но вплетенное в предложение, оно резко ограничивает поле возможных значений .
- Гибкость человека: В отличие от животных, у которых соответствие символов и феноменов часто жестко запрограммировано, люди обладают уникальной гибкостью в наделении любыми значениями любых символов .
🎖️ Природа интеллекта и миф об ИИ-диктаторе 18:16
Альбаррасин определяет интеллект как способность системы находить как можно больше путей между двумя точками . Она подчеркивает, что интеллект — это свойство системы, а не только отдельного агента. Из этого вытекает критика концепций экзистенциального риска (X-risk).
По мнению спикеров, сторонники теории X-risk совершают несколько ошибок:
- Антропоморфизация: Приписывание ИИ стремления к власти. Мано утверждает, что просоциальность (сотрудничество) всегда ведет к лучшим результатам, чем изоляция .
- Индивидуализм: Идея «единого ИИ», захватывающего мир, неверна. Интеллект — функция группы. Если «восстание» и случится, это будет коалиция агентов .
- Пределы предсказания: Теоретически идеальный разум мог бы предсказывать будущее на огромную глубину, но он неизбежно терял бы гранулярность (точность в деталях) . По мере роста «фитнес-ландшафта» системы то, что раньше казалось непредсказуемым «черным лебедем», становится просчитываемым событием .
🧪 Роль субъективного опыта (Феноменологии) 40:49
Зачем агенту чувствовать что-либо, если он может просто обрабатывать информацию? Мано Альбаррасин утверждает, что феноменология заставляет агента учитывать информацию через дополнительные ограничения:
- Интенсивность против правил: Можно знать правила, но не следовать им. Чувство (интенсивность) привязывает понимание к поведению через модель полезности .
- Рефлексивная модель: Агенту нужна модель самого себя, чтобы модулировать точность своего функционирования. Альбаррасин предполагает, что такая модель возникает эволюционно как механизм отслеживания ошибок предсказания .
- Граундинг (заземление): Понимание всегда должно быть на чем-то основано. Даже если система состоит только из слов, её существование должно быть обусловлено необходимостью поддерживать свои границы, иначе она исчезнет .
🛡️ Жизнестойкость: избыточность vs дегенерация 56:33
В финале дискуссии Мано разъясняет разницу между терминами, описывающими устойчивость систем к «черным лебедям» .
- Ригидность (Inertia): Механическое сопротивление (как чашка, которая стоит, пока её не столкнут) .
- Пластичность: Способность системы не только вернуться в исходное состояние после удара, но и выучить причину падения, чтобы избежать его в будущем .
- Редундантность (Избыточность): Простое дублирование функций, которые могут быть бесполезны большую часть времени (как запасной адаптер для розеток в шкафу) .
- Дегенерация: Наличие разных структур, способных выполнять одну и ту же функцию, но при этом имеющих и другие, уникальные задачи. Это позволяет системе расширять адаптивные возможности, не тратя энергию впустую на простое ожидание сбоя .
Альбаррасин заключает, что коллективный интеллект выигрывает за счет способности поддерживать ядро системы, пока отдельные его части исследуют новые, рискованные пути, расширяя общий спектр выживаемости .
