В современном цифровом мире грань между реальностью и вымыслом становится всё более призрачной. Хани Фарид, эксперт по цифровой криминалистике и анализу изображений, утверждает, что человечество оказалось в «глобальной войне за правду», где генеративный искусственный интеллект (ИИ) используется для создания пугающе достоверных фейков, способных разрушать жизни и дестабилизировать общества,.
🕵️♂️ Анатомия цифрового обмана 2:26
На протяжении двух столетий фотографии считались объективным доказательством реальности, однако манипуляции с изображениями существовали всегда — от викторианских шутников до советских цензоров, «стиравших» опальных политиков из истории. Сегодня ситуация радикально изменилась: с появлением генеративного ИИ любой человек может создать изображение чего угодно, нажав одну кнопку.
По словам Хани Фарида, это ведет к реальным угрозам:
- Создание компрометирующих изображений (дипфейк-нюдс) для шантажа или унижения женщин и детей.
- Распространение фальшивых видео с участием врачей, рекламирующих несуществующие «чудо-лекарства».
- Финансовые потери корпораций: уже зафиксированы случаи, когда ИИ-имперсонатор голоса или внешности CEO проникал в корпоративные видеозвонки, нанося ущерб в десятки миллионов долларов.
🔬 Как работает «криминалистика» против ИИ 3:58
Чтобы понять, как выявлять подделки, необходимо осознать разницу между естественным фото и продуктом нейросетей. Обычный снимок — это результат фиксации реального света на электронном сенсоре камеры.
Генеративный ИИ работает иначе: он обучается на миллиардах изображений, «разрушая» их до состояния визуального шума, а затем учится восстанавливать исходное изображение из этого шума. В результате, когда модель генерирует новую картинку, она «собирает» её статистически, не понимая законов физики и геометрии нашего мира,.
Хани Фарид выделяет три ключевых метода для обнаружения подделок:
- Анализ остаточного шума: При визуализации шума, который остается в файле, на «настоящих» снимках и на ИИ-изображениях видны разные паттерны. ИИ оставляет характерные «звездообразные» узоры, которые математически заметны при анализе преобразования Фурье,.
- Геометрия и точки схода: В физическом мире параллельные линии (например, рельсы) сходятся в одной точке схода. ИИ, будучи чисто статистическим процессом, часто нарушает эти законы, создавая визуально абсурдные конструкции.
- Физика теней: В реальных изображениях тени всегда соотносятся с источником света. На сгенерированных изображениях линии, проведенные от тени к объекту, часто не пересекаются в одной точке, указывающей на источник освещения, что выдает искусственное происхождение сцены.
🛡️ Путь к восстановлению доверия 8:10
Хани Фарид убежден, что, несмотря на сложность проблемы, человечество способно отличить реальность от подделки. Он предлагает следующие шаги для защиты информационной среды:
- Использование Content Credentials: Внедрение международного стандарта «учетных данных контента», которые подтверждают подлинность изображения в момент его создания.
- Смена источников информации: Социальные сети были созданы для удержания внимания пользователей через контент, напоминающий «джанк-фуд» (нездоровую пищу). По мнению эксперта, они не являются надежным источником новостей, и от них лучше отказаться или хотя бы ограничить их влияние.
- Личная ответственность: Хани Фарид призывает «сделать вдох» перед тем, как делиться информацией. Репосты без проверки фактов превращают пользователей в активных участников распространения дезинформации.
В ходе блиц-опроса Хани Фарид отметил, что на некоторых платформах соотношение «сигнал-шум» (правда против фейка) уже приближается к 50%, а сам термин «enhance» (улучшение качества изображения, как в фильмах вроде CSI) в реальности имеет технические ограничения, хотя и позволяет уточнять детали,.
