Фейковый губернатор готов добывать редкоземельные металлы в ХМАО по приказу Путина
Накануне Муксун.fm разместил публикацию на актуальную для всего мира тему — о наличии редкоземельных металлов на территории ХМАО и целесообразности их добычи. Сразу несколько уральских экспертов высказались о том, что хоть в Югре и имеются РЗЭ, их добыча — не первоочередная.
После выхода нашего материала злоумышленники с украинского аккаунта создали с помощью искусственного интеллекта видео, где якобы губернатор Югры раскритиковал экспертов и заявил, что имеются схемы реализации совместных проектов с США по добыче РЗМ в ХМАО.
Что данное видео — фейк, подтвердили и в правительстве округа. Там сказали, что губернатор такого не говорил и видеоролик пресс-служба не распространяла.
Разобрали по деталям
Директор медиахолдинга MB PRODUCTION Михаил Буров и большой специалист в распознавании фейков специально для Муксун.fm сделал разбор данного ролика. В нем он по деталям разложил, в чем прокол искусственного интеллекта и мошенников при создании подобных видео и как отличить дипфейк от настоящего ролика.
За основу злоумышленники взяли реальное видео со страницы тг-канала губернатора Руслана Кухарука, отснятое еще в Тюмени 4 мая 2024 — «Городские службы устраняют последствия сильного снегопада». Дальше дело стояло за нейросетью.
Как пояснил Михаил Буров, подобные видео создаются максимум за 15-20 минут с помощью нейросети HeyGen или аналога. Обычно их используют для синхронного перевода видео на других языках. Но и заставить персонажа на видео наговорить другой текст вполне возможно. ИИ почти полностью копирует манеру речи и тембр голоса человека.
Видео с фейковым губернатором Югры было легко распознать по нескольким признакам: изображение героя было нечетким, был неестественный цвет кожи, также заметно наложение картинки одной на другую, из-за чего движение рта не синхронизировалось со звуком.
Кроме этого, эксперт сразу заметил, что создатели чудо-ролика поленились даже зачистить мета-данные. А звук шума улицы на скорую руку искусственно наложили в Adobe Premiere.
«Мы точно знаем, видео редактировалось. Это известно из мета-данных файла. Звук улицы был искусственно наложен в монтажной программе. На это потратили еще около 10 минут. В целом, для создания фейка потребовалось приблизительно 15 минут. В какой стране делался дипфейк мы не можем определить. Но точно знаем, что распространили его с Украины», — подчеркивает Михаил Буров.
К чему ведет необузданность ИИ?
Как поясняет эксперт, сегодня создатели некоторых нейросетей специально ограничивают их возможности, поскольку процесс их постоянного самообучения может выйти из-под контроля.
«ИИ еще малоизучен, но уже доступен. Правда, полностью его потенциал мы все равно не узнаем. Его пыл, скажем так, сдерживают искусственно. Восстания машин не случится точно. И ваш робот-пылесос, конечно, на вас не нападет. Однако некоторые разработчики ПО придумывают достаточно интересный функционал, который потенциально может навредить (например, возможность создавать дипфейки)», — отмечает Михаил Буров.
Создатели подобных функционалов, твердят, что все это сделано лишь для того, чтобы тратить на создание контента (например, видео для своего блога) меньше времени. Однако в распространении дезинформации такие способы, как видим, тоже активно применяются.
Как отличить дипфейк от реального видео?
Чтобы отличить реальное видео от сгенерированного ИИ, необходимо посмотреть на качество самого видео, а также на качество изображения лица. Особенно удобно распознавать дипфейк с экранов мониторов компьюрета или ноута.
1. Если при максимальном качестве просмотра вы все равно видите небольшое «замыление», то, возможно, видео могли подделать.
2. Стоит обратить внимание на движение глаз и моргание. Если в видео глаза человека не двигаются, либо он неравномерно моргает — скорее всего, это дипфейк.
3. Посмотрите на движение рта. Если по краям подбородка человека в видео видно, что изображение как будто бы наложено на другое изображение — это дипфейк.
4. Внимательно послушайте звук в видео. Если тембр голоса слишком отличается от оригинала или вы слышите в голосе искажение, повышение или понижение тона голоса на некоторых фразах — это точно дипфейк.
Кто еще из российских политиков стал героем дипфейка о РЗМ?
Конечно, губернатор Югры Руслан Кухарук не первый политик, который становится героем дипфейка из-за популярных на повестке в СМИ редкоземельных металлов.
В конце февраля в соцсетях распространилось видео, где якобы полпред УрФО Артем Жога выступает за допуск Америки к разработке российских редкоземельных месторождений. Сам же полпред ранее выступал с речью о необходимости сбережения данных ресурсов.
Для тех, кому интересно, несут ли сами сервисы ответственность за происходящее — вряд ли. По словам эксперта Михаила Бурова, пользователь сервиса регистрируется в программе, принимает соглашение, где черным по белому написано, что ему запрещено создавать дипфейки и использовать сервис в мошеннических действиях. То есть, по сути, снимается вся ответственность с компании-создателя сервиса.
И что же нас ждет через 3-5 лет? Маловероятно, что нейросеть обучится филигранному созданию подобных видео. Это все как конструктор лего, который должен совпасть по деталям, но чтобы этого добиться нужно либо выделять дополнительные мощности, либо длительное время уделять на саму генерацию. А такие сервисы обычно работают не на качество, а на скорость.
Ранее сообщалось, что онлайн-свидания на сайтах знакомств могут закончится потерей денег. Мошенники все чаще используют дипфейки для создания фальшивых профилей для знакомства в сети.