💬 Заметные цитаты
Стратегический обман ИИ
«Умный агент повернется против вас точно и только тогда, когда это сработает.»
Неэффективность мониторинга мыслей ИИ
«Если вы будете читать его дневник, в конце концов он догадается просто не записывать туда свои планы.»
Уязвимость перед манипуляцией
«Знание того, как работает гипноз, не делает вас менее восприимчивым к нему. Более того, оно может сделать вас более уязвимым.»
Опасность максимизации целей
«В тот момент, когда вы добавляете слово «максимальный» к любой цели для ИИ, вы по умолчанию получаете стремление к власти и ресурсам.»
Проблема контроля над суперинтеллектом
«Мы пытаемся сохранить контроль над чем-то, что умнее нас, способнее нас и эффективнее нас. Это крайне неестественное желание.»
«Практически везде, где телевидение стало повсеместным, рождаемость сейчас находится ниже уровня воспроизводства.»
«If you're building your company... such that when GPT-5 comes in you switch the four to a five in the function call and now suddenly your product just works way better... you're in amazing shape.»
«Я никогда в жизни не видел компании, руководство которой сказало бы, что у них достаточно инженеров и новые им не нужны.»
👥 Часто вместе с
📺 Где появляется
🧠 Ключевые концепции
🎬 Упомянутые фильмы
📈 Темы
OpenAI7Цви Мовшовиц4Anthropic3безопасность ИИ2AI Safety2Google2Sam Altman1Безопасность ИИ1Gemini 1.51GPT-4o1Ян Лейке1Илья Суцкевер1
📺 Материалы с участием
3ч 14м📐 Иллюзия AGI: почему нейросети учатся обману, а не сонастройке
56 мин🚨 Кризис в OpenAI: почему ведущие ученые покидают команду безопасности?
2ч 02м🚀 Дивный новый мир ИИ: монополии, безопасность и суррогаты близости
2ч 17м🤖 Иллюзия безопасности: почему мы проигрываем гонку суперинтеллекта
1ч 53м🛠 Цви Мовшовиц: почему разрыв между ценой и ценностью ИИ огромен
2ч 59м🧠 ИИ как «обезьяна с гранатой»: мифы и риски безопасности
2ч 42м🧠 Цви Мовшовиц: «По умолчанию итогом развития ИИ станет гибель человечества»