# Почему ИИ ошибается в диагнозах и как квантовые физики это исправили

Источник: https://www.youtube.com/watch?v=1qzA-SKb4AM
Канал: Perimeter Institute
Опубликовано: 08.10.2020

---

В современной науке рождается интригующий союз: методы машинного обучения и статистики объединяются с фундаментальной квантовой физикой. Исследователи из **Perimeter Institute**, **Роберт Спеккенс** и **Эли Вулф**, представили концепцию «квантового детектива», где физик не просто наблюдает за частицами, а распутывает сложные причинно-следственные связи, используя инструментарий анализа данных.

## 🕵️ Квантовый физик как детектив: суть причинного вывода
[[JUMP:05:32]]

Роберт Спеккенс определяет исследователя в области причинного вывода (causal inference) как своего рода детектива [06:12]. Его главная улика — статистические корреляции, а задача — восстановить истинную историю причин и следствий, которая стоит за этими цифрами.

Главная заповедь в этой школе детективов: «Корреляция не означает причинно-следственную связь» [07:53]. Чтобы проиллюстрировать это, Спеккенс приводит три классических примера:

*   **Пример с пожарными:** Статистика показывает, что чем больше пожарных отправлено на вызов, тем больше ущерб от пожара [07:16]. Наивный вывод — пожарные вредят. Однако детектив видит общую причину: размер пожара. Именно масштаб бедствия диктует и количество ресурсов, и итоговый ущерб. Если разделить данные по размеру пожара (стратифицировать их), корреляция внутри каждой группы станет отрицательной — больше пожарных действительно уменьшают ущерб [09:11].
*   **Пример с лекарством:** Пациенты, принимающие новый препарат, выздоравливают чаще [10:15]. Но является ли причиной таблетка? Спеккенс указывает на фактор «заботы о здоровье» [11:07]: сознательный человек и ведет здоровый образ жизни (что ведет к выздоровлению), и охотнее пробует лекарства.
*   **Пример из экономики:** Существует связь между наличием диплома и уровнем зарплаты [15:17]. Но скрытым фактором (общей причиной) могут выступать способности человека (aptitude), которые одновременно помогают получить степень и обеспечивают карьерный успех [15:55].

## 🛠 Инструментарий причинного детектива: от монет до неравенств
[[JUMP:11:58]]

Когда данные запутаны, исследователи используют специальные техники для проверки своих подозрений:

1.  **Рандомизированное контролируемое испытание (РКИ):** Чтобы разорвать связь между скрытой причиной и действием, вводится случайный фактор (например, подброс монеты) [12:10]. Если решение о приеме лекарства принял жребий, а корреляция с выздоровлением осталась — значит, лекарство работает. Однако РКИ часто невозможны по этическим или финансовым причинам [13:03].
2.  **Инструментальные переменные:** Если вмешаться напрямую нельзя, физики и статистики ищут «инструмент» — фактор, который влияет на причину, но не связан со следствием напрямую [14:08]. В примере с лекарствами это могут быть рекомендации властей в разных странах.
3.  **Инструментальные неравенства:** Это математические ограничения на то, какими могут быть корреляции при определенной «подозрительной» схеме связей [17:28]. Если данные нарушают эти неравенства, детектив понимает: его модель неверна, и в системе есть неучтенное влияние [18:06].

## 🌌 Квантовый поворот: Белл против Перла
[[JUMP:20:02]]

Роберт Спеккенс утверждает, что многие загадки квантовой теории — это на самом деле случаи путаницы между корреляцией и причинностью [20:15]. Ключевым моментом здесь является теорема Джона Белла.

В квантовом эксперименте две частицы разлетаются в разные стороны, их измеряют, и результаты демонстрируют странную зависимость [21:45].

*   **Подозреваемый №1 (Скрытая общая причина):** Кажется, что у частиц есть общий «план», заложенный при создании. Но Белл доказал, что квантовые корреляции нарушают предсказанные для такой модели неравенства [24:22].
*   **Подозреваемый №2 (Передача сигнала быстрее света):** Можно предположить, что измерение одной частицы мгновенно влияет на другую. Но это противоречит теории относительности Эйнштейна [25:37].
*   **Подозреваемый №3 (Квантовая причинность):** По мнению Спеккенса, квантовая механика предлагает изменить само понятие «причины и следствия» [26:16]. В этой модели структура связей остается прежней, но физическая природа влияния становится «экзотической», не описываемой обычными функциями [27:34].

Спеккенс считает, что понимание квантовой причинности критически важно для объединения квантовой теории и теории относительности, так как Эйнштейновское пространство-время — это, по сути, структура потенциальных причинных связей [28:38].

## 📈 Технология «Инфляции» и будущее ИИ
[[JUMP:31:10]]

Эли Вулф развивает эту идею, переходя от простых схем к сложным сетевым структурам, типичным для современной медицины или сельского хозяйства [33:24]. Он подчеркивает, что за 50 лет после Джона Белла квантовые физики накопили колоссальный опыт в поиске «невозможных» корреляций.

Вулф представляет разработку группы физиков из Perimeter Institute — **метод инфляции** (inflation technique). Этот алгоритм позволяет взять любую сложную диаграмму причинно-следственных связей и вывести для неё математические ограничения (неравенства) [35:22]. Если данные нарушают эти границы, гипотеза отбрасывается — прямо как в детективе Шерлока Холмса: «отбросьте невозможное, и то, что останется, будет правдой» [32:05].

Это имеет прикладное значение для:

*   **Квантового интернета:** Проверка того, действительно ли сеть использует квантовую запутанность или в системе есть «баг» [38:37].
*   **Диагностики оборудования:** Поиск неисправностей в квантовых компьютерах через анализ статистики их работы [41:27].

## 🏥 От квантов к медицине: кейс Babylon Health
[[JUMP:43:48]]

Эли Вулф приводит яркую историю успеха бывшего студента Perimeter Institute, Кирона Гиллигана Ли, который применил квантовый подход в британской медицинской компании **Babylon Health** [44:14].

Компания использовала ИИ для автоматической диагностики. Старый алгоритм совершал странную ошибку: если пациент жаловался на боль в груди, ИИ часто выдавал диагноз «диабет» [46:49]. Но диабет не вызывает болей в груди напрямую.

Физик-детектив Ли обнаружил ошибку в «мышлении» ИИ:

1.  Боль в груди часто связана с ожирением [47:42].
2.  Диабет также сильно коррелирует с ожирением [48:07].
3.  ИИ видел статистическую **ассоциацию** между болью в груди и диабетом через общее ожирение.
4.  Однако лечение диабета не избавит от боли в груди.

Кирон переписал алгоритм на основе причинного вывода, заставив систему задавать контрфактический вопрос: «Что мне нужно вылечить, чтобы симптомы исчезли?» [48:58]. Это улучшило точность диагностики на 30% [50:02].

## ❓ Вопросы и ответы: COVID-19 и советы студентам
[[JUMP:51:07]]

В ходе дискуссии спикеры затронули актуальные темы:

*   **COVID-19:** Спеккенс упомянул «парадокс Симпсона» в данных по смертности в Италии и Китае [54:16]. На первый взгляд смертность в Италии казалась ниже в каждой возрастной группе, но выше в среднем по стране из-за большого количества пожилых людей в демографии. Инструменты причинного вывода помогают не допускать ошибок при таком анализе данных [55:45].
*   **Секрет успеха:** Эли Вулф советует студентам не бояться «холодных писем» ученым. Сам он оказался в Perimeter Institute, просто написав письмо Роберту Спеккенсу после прочтения его статьи [56:12].
*   **Будущее образования:** Спикеры предполагают, что через несколько лет базовый курс причинного вывода станет обязательным для любой специальности, наравне с обычной статистикой [1:02:18].

Завершая лекцию, Эли Вулф выразил уверенность, что если бы Шерлок Холмс столкнулся с тайнами квантовой механики сегодня, он обязательно стал бы квантовым физиком, ведь это поле дает самые захватывающие загадки для ума [1:02:44].