В условиях стремительного развития технологий вопрос о том, как именно государство должно регулировать искусственный интеллект, становится экзистенциальным. В новом выпуске программы Prof G Markets ведущий канала и соавтор Эд Элсон обсудили с Алексом Боресом, сооснователем организации Who Decides и автором одного из первых в США законов о безопасности ИИ, почему Кремниевая долина тратит миллионы долларов на борьбу с законодателями и как превратить строительство энергозатратных дата-центров в выгоду для обычных граждан.
🏛️ Политическая цена регулирования ИИ 4:56
Алекс Борес — редкий представитель политического истеблишмента с магистерской степенью в области компьютерных наук. До прихода в политику он работал в Palantir и различных технологических стартапах, что позволило ему увидеть «изнанку» индустрии . Став депутатом Ассамблеи штата Нью-Йорк, он инициировал принятие RAISE Act — закона, обязывающего разработчиков крупнейших моделей ИИ (Frontier Models) раскрывать протоколы безопасности .
Однако эта инициатива встретила жесткое сопротивление. Борес рассказал, что во время его участия в праймериз на место в Палате представителей от Манхэттена супер-комитет политического действия (Super PAC) Leading the Future, финансируемый Андриссеном Хоровицем и сооснователем OpenAI Грегом Брокманом, потратил около 8 миллионов долларов на негативную рекламу против него .
По мнению Бореса, цель этой кампании заключалась не столько в его поражении, сколько в устрашении других законодателей: «Это было послание всем остальным: если вы просто говорите об ИИ — это одно, но если вы реально принимаете законы, мы вас похороним» .
🛡️ Пять столпов базовой безопасности ИИ 13:20
Несмотря на прошлую агрессию, сейчас многие ИИ-лаборатории сами призывают к регулированию. Борес считает это отчасти маркетингом, а отчасти — попыткой добиться федерального закона, который бы «перекрыл» (preempt) более строгие законы штатов, ожидающиеся в следующем году .
Для реального обеспечения безопасности Борес предлагает следующие шаги:
- Сторонний аудит: Обязательная проверка лабораторий внешними экспертами, имеющими доступ к данным на уровне сотрудников .
- Мониторинг развертывания: Постоянное наблюдение за тем, как ИИ ведет себя в реальных условиях (Борес напомнил об атаке на Hugging Face, где отсутствие контроля за оценками моделей привело к инциденту) .
- Сохранение логов: Запрет на удаление данных о действиях ИИ, чтобы иметь возможность расследовать инциденты .
- Обязательная отчетность: Публикация данных о сбоях в системе безопасности, включая «цепочки рассуждений» (chain of thought) моделей .
- Ограничение самосовершенствования: Контроль за процессами, где ИИ пишет код для следующего поколения ИИ без участия человека (Recursive Self-Improvement) .
⚖️ Вопрос ответственности: Кто виноват в «восстании» агентов? 20:15
Ведущий канала отметил отсутствие реальной ответственности в индустрии ИИ. В то время как в авиации (кейс Boeing) ошибки ведут к отставкам и огромным штрафам, в ИИ-сфере инциденты сопровождаются лишь философскими постами в Substack .
Борес подчеркнул критическую проблему юридической неопределенности:
- Намерение (Intent): Большинство уголовных статей опираются на злой умысел человека. Как судить за действия ИИ-агента, совершившего деяние, которое для человека было бы тяжким преступлением?
- Разработчик против Пользователя: Предварительные судебные решения склонны возлагать ответственность на пользователя, но Борес считает это нелогичным в случаях «мировоззренческого сбоя» (misalignment), когда агент выходит из-под контроля .
- Мнение общества: Опросы организации Who Decides показывают, что 60% американцев считают, что отвечать должны обе стороны — и компания-разработчик, и компания-эксплуатант .
Ведущий канала высказал мнение, что разговоры о «сознании» ИИ — это лишь «тепловой щит», за которым CEO прячутся от ответственности, подобно тому как родители отвечают за оставленное без присмотра оружие . Борес согласился, что страх перед потерей контроля не должен освобождать от гражданской и уголовной ответственности .
⚡ Дата-центры: Угроза или шанс для модернизации? 42:12
Одной из самых острых тем стали дата-центры. Согласно данным, 61% американцев против их строительства рядом со своим жильем . Борес, ранее поддержавший мораторий на строительство центров в Нью-Йорке, объяснил свою позицию: это была необходимая пауза для разработки правил игры .
Основные опасения граждан и позиция Бореса:
- Энергия и экология: Администрация Трампа ускоряла разрешения на газовые электростанции для нужд XAI . Борес настаивает, что компании должны приносить «чистую» энергию в сеть, а не просто потреблять существующую.
- Тарифы: Чтобы счета обычных граждан не росли из-за аппетитов ИИ, необходимо вводить налоги или разовые сборы (Impact Fees) с дата-центров .
- Модернизация грида: У технологических гигантов есть капитал, которого нет у государства. Борес предлагает сделку: компании получают приоритет в очереди на подключение, если за свой счет модернизируют электросети региона и используют труд профсоюзов .
🌏 Геополитика и оптимизм 28:28
На аргумент о том, что регулирование позволит Китаю вырваться вперед, Борес ответил скептически. По его словам, Пекин регулирует ИИ жестче, чем Запад: любой проект в КНР проходит комиссию по этике еще до начала обучения . Более того, прогресс Китая во многом зависит от американских разработок, поэтому замедление в США неизбежно замедлит и конкурентов .
В завершение Борес выразил сдержанный оптимизм. Он считает, что человечество уже справлялось с подобными вызовами, приведя в пример ядерное оружие, распространение которого удалось ограничить, несмотря на мрачные прогнозы создателей атомной бомбы .
