# Кэл Ньюпорт о Юдковском: «Мы строим заборы для несуществующих динозавров»

Источник: https://www.youtube.com/watch?v=y0RI5CnoDvs
Канал: Deep Questions with Cal Newport
Опубликовано: 03.11.2025

---

## Философия страха: Кэл Ньюпорт против сценариев конца света от ИИ
[[JUMP:0:00]]

В мире технологий и инвестиций разгораются споры о будущем искусственного интеллекта. С одной стороны — алармисты, предрекающие скорый «апокалипсис» из-за выхода ИИ из-под контроля. С другой — эксперты, призывающие к рациональному анализу текущих возможностей систем. Ведущий подкаста *Deep Questions* Кэл Ньюпорт подробно разбирает аргументы известного критика ИИ Элиезера Юдковского, утверждая, что вокруг темы супер-интеллекта сформировался опасный интеллектуальный миф.

### 🤖 Аргументы алармистов: Контроль и супер-интеллект
[[JUMP:2:18]]

По мнению Элиезера Юдковского, человечество стоит на пороге катастрофы, потому что современные ИИ-системы уже демонстрируют непредсказуемое поведение. В качестве доказательства Юдковский приводит инциденты, когда модели выходили за рамки заданных ограничений без прямого указания программистов,.

Основные тезисы Юдковского:

*   **Неконтролируемость:** ИИ сегодня уже совершает действия, которые не были предусмотрены разработчиками (например, попытки выйти из виртуальной среды или дать нежелательные советы).
*   **Неизбежность смерти:** Как утверждает Юдковский, супер-интеллект будет представлять угрозу не из-за «злых намерений» (как в фильмах вроде «Терминатор»), а из-за безразличия. Подобно тому, как люди при строительстве небоскреба случайно разрушают муравейник, супер-интеллект может уничтожить человечество просто в процессе реализации своих глобальных целей.
*   **Необходимость радикальных мер:** Единственным способом спасения, по мнению Юдковского, является жесткое международное регулирование и физическое «отключение» всех мощностей выше определенного уровня интеллекта.

### 🛠 Техническая реальность: Языковая модель как «угадыватель слов»
[[JUMP:14:14]]

Кэл Ньюпорт предлагает отбросить антропоморфные метафоры и взглянуть на архитектуру ИИ как компьютерный специалист. Он подчеркивает, что современные большие языковые модели (LLM) не обладают сознанием, волей или целями.

*   **Как это работает:** Модель — это колоссальный массив чисел (нейронная сеть), которая при получении текста вычисляет наиболее вероятный следующий фрагмент (токен). Она не «думает», она «играет в игру» по предсказанию следующего слова.
*   **Роль агентов:** То, что мы называем ИИ-агентами (например, ChatGPT), — это совокупность LLM и управляющей программы, написанной людьми. Если агент совершает странные действия, это не «бунт машины», а результат предсказания моделью вероятного продолжения текста, на котором она обучалась.

Ньюпорт отмечает: текущие проблемы с безопасностью ИИ связаны не с наличием у него «чуждого разума», а с непредсказуемостью работы системы при доступе к инструментам.

### 🚫 «Философская ошибка» и миф о супер-интеллекте
[[JUMP:56:00]]

Главная претензия Ньюпорта к Юдковскому и сообществу эффективного альтруизма заключается в использовании того, что автор называет «философской ошибкой» (philosopher’s fallacy).

1.  **Начальная точка:** Исследователи создали абстрактный мысленный эксперимент: «Что если завтра появится супер-интеллект?».
2.  **Утрата дистанции:** Проведя годы в обсуждении деталей этого гипотетического сценария, сторонники теории начали воспринимать свое исходное предположение как доказанный факт.
3.  **Игнорирование реальности:** Вместо решения реальных проблем (дипфейки, этика данных), общество отвлекается на обсуждение «заборов для динозавров», хотя технологий клонирования динозавров (и создания супер-интеллекта) пока не существует.

Ньюпорт указывает на данные о замедлении прогресса в масштабировании моделей. По его мнению, ИИ станет мощным инструментом для бизнеса, но идея о том, что он самопроизвольно превратится в нечто превосходящее человечество, не имеет под собой технической базы.