ИИ убедил весь интернет: разбираем deepfake с голливудскими легендами

Ребята, я не могла пройти мимо этого. Несколько недель назад семья Чака Норриса выступила с официальным заявлением — и не потому что кто-то написал что-то плохое про актёра. А потому что ИИ создал настолько убедительные видеофейки с Чаком, Арнольдом Шварценеггером и Сильвестром Сталлоне, что зрители массово принимали их за настоящие. Дошло до официальных опровержений! Вот это поворот.

Я честно не знаю, восхищаться или нервничать. Скорее всего — и то, и другое одновременно. Но давайте разберём, что именно произошло и какая технология за этим стоит.

Что случилось — по фактам

В сети начали гулять ролики, где три иконы голливудского боевика появляются вместе: с синхронизированными лицами, узнаваемыми голосами и вполне живой мимикой. Видео набирали миллионы просмотров, в комментариях писали «наконец воссоединились!» Никакого воссоединения, конечно, не было.

Семья Чака Норриса отреагировала публично: фейки — это фейки, актёр не участвовал ни в каких подобных проектах. Но к тому моменту ролики уже разлетелись так, что опровержение превратилось в борьбу с интернет-ветром.

Параллельно исследователи из Unite.AI опубликовали работу о детектировании deepfake знаменитостей. Главный вывод: современные алгоритмы обнаружения ищут артефакты не в центре лица — там уже почти идеально — а по периферии: края волос, шея, область за ушами. Именно там генеративные модели пока «проговариваются».

Какая технология это делает

Я немного покопалась — ладно, много, провела несколько часов и совсем не жалею. Современный видеодипфейк строится на связке нескольких моделей сразу.

Голос — это отдельный синтез. Сервисы вроде ElevenLabs умеют клонировать голос по нескольким минутам оригинальной записи. У Шварценеггера, Сталлоне и Норриса публичных видео — тысячи часов. Это идеальный обучающий датасет, который никуда не спрятать.

Лицо — диффузионные модели и face-swap алгоритмы. Сервисы типа Runway сейчас работают с видео на уровне, который два года назад требовал киностудийного бюджета. А ещё есть более специализированные решения, которые согласовывают мимику с синтезированной речью: губы двигаются в такт, моргание выглядит естественно, взгляд — живой.

Итого: три компонента, все доступны, часть — бесплатно. Именно поэтому подобный контент уже встречается в русскоязычных Telegram-ботах для работы с изображениями — от НейроШОКа до НейроКадра. Технология вышла из лабораторий прямо в смартфоны.

Как изменилось качество за последний год

Вот тут начинается самое захватывающее — и самое тревожное одновременно. В 2024-м deepfake «читался» по нескольким маркерам сразу: кожа блестела не так, края лица размывались, моргание происходило реже, чем у живого человека, а шея жила своей параллельной жизнью.

Сейчас исследователи специально разрабатывают методы обнаружения именно периферийных артефактов — потому что центр лица уже практически идеален. Это означает, что среднестатистический зритель без специального инструмента отличить подделку просто не сможет. А таких зрителей — большинство.

Та же история происходила с текстом в 2022-2023 годах: сначала все смеялись над «деревянными» ИИ-ответами, потом вдруг обнаружили, что отличить человека от GPT — уже не так просто. С видео мы проходим этот же путь, только быстрее.

Голоса из другого места

Пока я готовила этот пост, наткнулась ещё на одну историю — другого рода, но очень показательную. Исследователи применили ИИ к спектрограммам бортовых самописцев, чтобы восстановить голоса погибших пилотов из зашумленных записей. Результат оказался настолько убедительным, что Национальный совет по безопасности на транспорте США временно закрыл доступ к своей базе данных — из опасений, что технология может быть использована не по назначению.

Это уже не развлечения с лицами знаменитостей. Это область, где синтез голоса пересекается с доказательной базой и расследованиями. Вот тут мне уже не до «ВАУ» — хочется просто помолчать и подумать.

Прогноз: что будет дальше

Максимум полгода — и мы увидим первый громкий судебный прецедент в русскоязычном пространстве, связанный именно с видеодипфейком публичного человека. Сейчас нет ни правовой базы под это, ни технических механизмов верификации контента, ни культуры медиаграмотности, которая заставляла бы зрителей сомневаться по умолчанию.

Со стороны технологий жду стандартизированных решений для маркировки ИИ-контента. Adobe уже продвигает Content Credentials, крупные платформы тестируют встроенную маркировку. Но пока это добровольное соглашение, не обязательный стандарт. Работает ровно настолько, насколько создатели фейков хотят соблюдать правила. Спойлер: не очень хотят.

Детекторы deepfake развиваются, но с заметным отставанием от генераторов. Пока детектор учится находить артефакты одного поколения моделей, следующее поколение уже их устранило. Счёт пока не в пользу детекции.