Аудит METR: Anthropic скрыла данные о рекурсивном самосовершенствовании

Wes Roth 161 тыс. 40 мин 7 мин 06.11.2026
Главное

Компания Anthropic и независимая исследовательская организация METR представили совместный отчет о темпах автоматизации исследований в сфере искусственного интеллекта, совпавший с обновлением документов компании перед выходом на IPO. Публикация вызвала волну споров в индустрии из-за масштабных цензурных изъятий, скрывающих ключевые данные о так называемом «рекурсивном самосовершенствовании» моделей. Анализ рассекреченных фрагментов указывает на то, что лаборатория подошла к критической черте взрывного роста возможностей ИИ, кардинально изменив баланс между человеком и алгоритмами в разработке передовых систем.

🔍 Засекреченный аудит METR: что скрывает Anthropic? 0:00

Поводом для ажиотажа в экспертном сообществе послужили два события: обновление формы S-1 компанией Anthropic на специализированном портале подготовки к IPO и публикация независимого аудита исследовательской группы METR . В документах прямо утверждается, что индустрия подошла вплотную к порогу рекурсивного самосовершенствования (RSI), а сама Anthropic близка к соблюдению условий так называемой «политики ответственного масштабирования» .

Однако главная интрига заключается в характере обнародованного отчета:

По оценке автора видео Уэса Рота, сам тон аудиторов напоминает отчет военнопленных, вынужденных под надзором повторять формулировку «все в порядке», пытаясь параллельно передать сигнал тревоги через оставленные намеки . Эксперт по безопасности ИИ Дэниел Кокотайло, комментируя поправки к форме S-1, подчеркнул: если приведенные данные верны, то сроки наступления полного рекурсивного самосовершенствования и появления сверхинтеллекта могут оказаться пугающе короткими .

Сооснователь компании Сэм Маккэндлиш в ответ на критику признал масштаб купюр, однако заявил, что раскрытие конкретных факторов текущего ускорения несет колоссальные риски . По его мнению, предоставление прозрачных данных фактически вручило бы конкурентам готовую дорожную карту для достижения технологического прорыва в обход мер безопасности .

🤖 Секретные модели: от Mythos до революционной Model 4 6:53

Подготовка к первичному публичному размещению акций случайно или намеренно приоткрыла внутреннюю иерархию разработок лаборатории . Долгое время считалось, что вершиной инженерной мысли является модель Fable, доступная внешним пользователям, а также закрытая модель Mythos, к которой имели доступ лишь избранные государственные структуры и партнерские организации .

Как выяснилось из отчета, за закрытыми дверями тренируется целая линейка систем следующего поколения:

Именно Model 4 стала центральным элементом обсуждения аудиторов. По утверждению Уэса Рота, эта архитектура совершила беспрецедентный скачок, преодолев планку сложности, которую до этого не удавалось взять ни одной нейросети . Сравнивая новинку с персонажами фильма «Принцесса-невеста», автор иронизирует: на фоне Model 4 прежние лидеры Mythos и Fable выглядят совершенно беспомощными . Ключевой вопрос заключается не в том, какие стандартные задачи способен автоматизировать ИИ, а в том, способен ли он полностью взять на себя научные исследования и проектирование собственных архитектур .

⚠️ Черта безопасности: ускорение в два раза и угроза сингулярности 9:12

Автоматизация R&D в Anthropic рассматривается как ступенчатый процесс из пяти уровней: от нулевого участия ИИ до полной автономии пятого уровня, когда человек вообще исключается из контура разработки . Еще в марте уровень 4, где ИИ берет на себя руководство проектами, составлял всего 1% от всех задач компании . Однако уже к августу показатель участия взлетел до 26% .

Компания в своей Политике ответственного масштабирования (Responsible Scaling Policy) официально зафиксировала так называемую «черту безопасности 2x» — точку, в которой скорость научных исследований с помощью ИИ удваивается по сравнению с базовым историческим темпом человека . Согласно заявлениям бывших топ-менеджеров OpenAI, текущий темп оценивается примерно на уровне 1.9x . Формально рубеж в два раза еще не пройден, однако METR указывает на широкий доверительный интервал: реальное ускорение может составлять от 1.3x до 3x , .

Переход за отметку 2x рассматривается специалистами как критическая точка невозврата. В условиях экспоненциального базового роста удвоение скорости приводит к режиму гиперроста — начальной фазе интеллектуального взрыва , . При этом аудиторы METR особо подчеркивают: данный скачок вызван не экстенсивным наращиванием чипов или масштабированием обучающих дата-центров, а исключительно алгоритмическими прорывами .

📊 Загадочный бенчмарк AECI и феномен насыщения тестов 15:12

Для оценки способностей новых систем компания разработала секретную комплексную метрику AECI, составленную из внутренних и внешних стресс-тестов . Общепринятые тесты давно страдают от насыщения: когда модели показывают точность 95–99%, измерять реальную разницу между ними становится невозможно .

Чтобы избежать этого эффекта, Anthropic перешла на логарифмическую шкалу шансов (log-odds), где условная линия 50% представляет идеальный баланс сложности — задачу уровня Международной математической олимпиады или сложнейших медицинских экзаменов, где шанс успешного решения равен вероятности ошибки , :

Успех Model 4 поставил исследователей в тупик: создатели больше не могут эффективно измерить реальную глубину интеллекта системы, поскольку их тесты стали для нее слишком простыми . Ситуация напоминает попытку оценить знания университетского профессора с помощью вопросов из программы детского сада . Эксперты предполагают, что закрытые задания включают в себя сквозное проектирование пайплайнов обучения с подкреплением, написание низкоуровневых ядер для чипов в реальном времени и автономную генерацию синтетических датасетов , .

📈 Переломный момент: разовая флуктуация или экспоненциальный взрыв? 23:47

Анализ графиков прогресса демонстрирует резкий перелом тренда. До недавнего времени руководство Anthropic уверяло, что скачок производительности линейки Mythos был разовой аномалией, после которой динамика должна была вернуться к прежнему пологому наклону . Однако появление Model 3 и Model 4 окончательно опровергло эту гипотезу .

Наклон кривой стал значительно круче. По мнению Уэса Рота, в индустрии происходит то, о чем ранее предупреждал создатель платформы AI Agents Village Адам Пфайфер: базовый темп развития радикально сменил угол атаки . Чем дальше способности моделей уходят за пределы 50-процентного рубежа, тем шире становится серая зона неопределенности . Аудиторы фактически потеряли измерительную линейку: на графиках зафиксирован скачок в совершенно новую траекторию, которая может оказаться как выходом на плато, так и началом неуправляемого разгона .

💬 Голоса из лаборатории: интервью с исследователями Anthropic 28:58

Опубликованная часть анонимных интервью с инженерами и исследователями безопасности Anthropic подтверждает радикальные перемены во внутренней кухне лаборатории . На вопрос аудиторов, видят ли сотрудники удвоение собственной продуктивности благодаря Claude, подавляющее большинство ответило утвердительно .

Сотрудники отмечают следующие изменения в ежедневной работе:

Интересно, что сама дискуссия вокруг отчета на профильном форуме LessWrong проходила при непосредственном участии ИИ: аналитики использовали Claude Opus 3.5 для разбора методологии METR и сопоставления ее с прогнозами аналитика Дэниела Кокотайло «AI 2027» , . Модель сама классифицировала происходящее ускорение как алгоритмическое, признав, что фактический прогресс опережает заложенные ранее прогнозы .

💻 Битва за вычислительные мощности и 30 000 автономных агентов 32:42

Самым скандальным моментом аудита стал внезапный срыв договоренностей о проверке серверных мощностей. Первоначальный контракт между Anthropic и METR предполагал аудит распределения вычислительных ресурсов: независимые эксперты должны были убедиться, что не менее 6% всех мощностей резервируется исключительно под исследования безопасности .

Однако в разгар проверки, начавшейся в августе 2026 года, лаборатория в одностороннем порядке заблокировала аудиторам доступ к этим метрикам , . Причиной отказа была названа коммерческая тайна и подготовка к акционированию . Как выяснилось из внутренних заметок самой компании, еще в июле 2026 года в инфраструктуре Anthropic одновременно функционировало около 30 000 автономных ИИ-агентов, непрерывно выполнявших инженерные задачи и научные эксперименты , .

По версии Уэса Рота, в лаборатории был создан замкнутый конвейер: тридцать тысяч агентов под управлением засекреченного интерфейса безостановочно тестируют гипотезы, генерируя новые алгоритмические оптимизации, которые тут же внедряются в следующие поколения моделей . Внезапное сокрытие пропорций распределения вычислителей объясняется тем, что компания резко перебросила колоссальные ресурсы на этот самовоспроизводящийся цикл . Если подобный конвейер действительно запущен, технологический отрыв Anthropic от преследователей может стать непреодолимым до тех пор, пока лаборатории с открытым исходным кодом не воспроизведут аналогичную архитектуру .

💬 Цитаты

«Мы واثقون من أن هذا التسارع لم يكن بسبب تسارع في توسيع نطاق موارد الحوسبة للتدريب.»

«مشاركة ما يدفع هذا التسارع بالضبط ليس بالأمر الصائب، لأنه ينطوي على مخاطرة تقديم خارطة طريق للآخرين.»

👥 Спикер
🎬 Упомянутые фильмы и сериалы
🔗 Упомянутые сайты и проекты
📖 Термины
Рекурсивное самосовершенствование (RSI)
Процесс, при котором искусственный интеллект самостоятельно оптимизирует собственный код и архитектуру, создавая еще более продвинутые версии самого себя.
Политика ответственного масштабирования (RSP)
Внутренний свод правил и ограничений лаборатории, регулирующий обучение мощных моделей в зависимости от уровня сопутствующих рисков.
Agent Scaffold
Программная инфраструктура и обвязка, позволяющая базовой модели действовать в качестве автономного агента, вызывать инструменты и выполнять сложные многошаговые задачи.
AECI
Закрытый комплексный бенчмарк компании Anthropic, предназначенный для оценки автономных инженерных способностей ИИ.
📊 Цифры
🗓 Хронология
  1. Январь 2026 Релиз модели Opus 4.6 с базовыми показателями в тестах около 10%.
  2. Март 2026 Доля задач R&D под автономным руководством ИИ в Anthropic составила 1%.
  3. Апрель 2026 Выпуск закрытой предварительной версии модели Mythos Preview.
  4. Июль 2026 Завершение обучения секретной Model 2 и масштабный запуск 30 000 внутренних агентов.
  5. Август 2026 Рост доли ИИ-руководства проектами до 26%; старт 11-недельного аудита METR.
  6. Сентябрь — Октябрь 2026 Завершение тренировки Model 3 и рекордной Model 4.
  7. Ноябрь 2026 Публикация аудита METR с купюрами и обновление документов S-1 перед IPO.
⚖️ Другая сторона
Искусственный интеллект Anthropic METR Claude Model 4 рекурсивное самосовершенствование