# Тим Альтхофф: «ИИ должен быть вспомогательными колесами, а не костылем для мозга»

Источник: https://www.youtube.com/watch?v=yV3RyiRCwro
Канал: Stanford Online
Опубликовано: 04.11.2024

---

Языковые модели как «вспомогательные колеса»: как ИИ помогает осваивать социальные навыки

В современной психологии и образовании назревает парадокс: ИИ-помощники становятся настолько эффективными, что рискуют «думать за нас», лишая людей возможности развивать критически важные навыки. Тим Альтхофф, доцент Вашингтонского университета, предлагает концепцию «вспомогательных колес» (training wheels), где нейросети служат лишь временной опорой для обучения когнитивному рефреймингу и разрешению конфликтов, с целью их последующего полного отключения.

## 🚲 Метафора вспомогательных колес в эпоху ИИ
[[JUMP:00:25]]

Тим Альтхофф начинает свое выступление с аналогии процесса обучения езде на велосипеде [00:39]. Вспомогательные колеса полезны лишь на начальном этапе: они обеспечивают безопасность, позволяют сфокусироваться на базовых действиях и снижают когнитивную нагрузку. Однако конечная цель всегда заключается в том, чтобы их снять [01:06].

По мнению спикера, современные языковые модели (LLM) часто используются как «вечные костыли». Они патологически услужливы и склонны поддакивать пользователю, что может быть вредно для обучения [06:53]. Альтхофф демонстрирует это на забавном примере: он сказал нейросети, что ненавидит вторники, и модель «яростно согласилась» с этим случайным убеждением, вместо того чтобы бросить ему вызов [07:33]. 

Чтобы ИИ действительно учил, Альтхофф предлагает внедрять в него механизмы «желательных трудностей» (desirable difficulties) [04:28]. Процесс обучения должен включать три этапа:

1.  **Скаффолдинг (поддержка):** создание структуры и первичной опоры [08:00].
2.  **Осознанная практика:** целенаправленное повторение упражнений в слабых зонах [08:13].
3.  **Конструктивная обратная связь:** анализ ошибок для улучшения результатов [08:26].

## 🧠 Когнитивный рефрейминг: как переписать негативные мысли
[[JUMP:10:30]]

Первый проект, представленный Альтхоффом, посвящен когнитивному рефреймингу — ключевому методу когнитивно-поведенческой терапии (КПТ) [12:40]. Суть метода в том, чтобы трансформировать деструктивную мысль (например, «Я никогда не стану успешным ученым») в более сбалансированную и конструктивную («Отказ в публикации — это часть процесса; я использую отзывы, чтобы улучшить работу») [12:52].

Проблема в том, что в моменты стресса человеку крайне трудно самостоятельно найти этот «рефрейм». Раньше для этого использовались бумажные рабочие листы, которые большинство людей просто забрасывали [14:01].

Команда Альтхоффа совместно с организацией Mental Health America разработала ИИ-инструмент для помощи в рефрейминге:

*   **Анализ ловушек мышления:** ИИ выявляет в тексте пользователя такие искажения, как сверхобобщение или катастрофизация [17:03].
*   **Генерация вариантов:** модель предлагает несколько «стартовых точек» для нового взгляда на ситуацию [17:31].
*   **Масштаб:** инструментом воспользовались уже более 160 000 человек [19:16].

Исследование показало, что ИИ-поддержка повысила уровень завершаемости упражнений по сравнению с обычными цифровыми анкетами [20:33]. Стоимость проведения такой интервенции составила копейки, что дешевле печати бумажного буклета [20:45].

### Что делает «рефрейм» качественным?
Альтхофф и его коллеги провели анализ тысяч взаимодействий, чтобы понять, какой тип поддержки эффективнее [22:18]:

*   **Специфичность и эмпатия:** пользователи предпочитают именно эти качества в советах ИИ [24:05].
*   **Отказ от токсичного позитива:** просто «превращать всё в хорошее» не работает — люди реже кликают на чрезмерно позитивные варианты [24:20].
*   **Возрастные особенности:** для подростков (13–17 лет) пришлось адаптировать язык моделей, сделав его более простым и повседневным, что значительно повысило эффективность [27:41].

## 🤝 Разрешение конфликтов: система «Imbue»
[[JUMP:31:05]]

Второй важный социальный навык — ведение сложных разговоров (просьба о повышении зарплаты, обсуждение ухода за престарелым родителем). Тим Альтхофф представил систему **Imbue**, разработанную его аспиранткой Ин Ай Линь [31:05].

Система базируется на методологии DEARMAN (из диалектической поведенческой терапии) [33:44]. Imbue позволяет:

1.  **Симулировать собеседника:** модель играет роль упрямого отца или недовольного начальника [36:51].
2.  **Давать обратную связь «точно в срок»:** ИИ анализирует фразу пользователя и советует, например, избегать слова «постоянно» (как оценочного) и придерживаться фактов [38:11].

Ключевым техническим решением стало использование «контрастных пар» в обучении модели [41:07]. Модели показывали не только идеальные примеры, но и то, как выглядит плохой вариант в сравнении с хорошим. Это позволило достичь качества обратной связи, которое в 83% случаев совпадает с оценками экспертов-психологов (у базовой GPT-4 этот показатель составил всего 6%) [39:57].

Результаты рандомизированного исследования на 80 участниках показали:

*   Владение навыком улучшилось на 17% только в группе, получавшей обратную связь от ИИ (простая симуляция без фидбека не дала роста навыков) [45:07].
*   Уровень тревоги и страха перед реальным разговором снизился на 41% [46:03].

## 🔓 Когда пора снимать колеса?
[[JUMP:57:11]]

Главный вопрос, который ставит Альтхофф: как избежать зависимости от ИИ? В долгосрочном клиническом испытании (8 недель) исследователи обнаружили, что навык рефрейминга сохранялся у людей даже спустя 4 недели после того, как они перестали пользоваться инструментом [30:32].

Спикер отмечает, что пик обучения обычно приходится на вторую и третью недели использования тренажера. К четвертой неделе прогресс замедляется, что может сигнализировать о готовности «вспомогательных колес» к снятию [59:25]. Альтхофф подчеркивает, что ИИ не должен заменять терапевтов, но он незаменим там, где профессиональная помощь недоступна (а это около 80% случаев в США) [53:53].

В будущих работах Тим планирует внедрять в модели долгосрочную память, чтобы ИИ мог учитывать прошлый опыт пользователя и быстрее давать ценные советы, постепенно снижая уровень поддержки по мере роста мастерства человека [56:20].