Внимание, дипфейки! «Верить нельзя никому» — как с этим жить и не впасть в паранойю

Отличить реальные фото и видео от творений искусственного интеллекта все сложнее, возможно ли не стать жертвой обмана

В МВД россиянам рассказали, как можно распознать мошенников, использующих дипфейки. Аферисты используют следующие фразы: «У меня проблемы, помоги», «Это срочно, переведи на эту карту», «Мама/папа, я в беде, срочно нужны деньги».

В ходу у мошенников и использование дипфейков начальников, которые могут сопровождаться фразой: «Это ваш руководитель, в связи с проверкой с вами сейчас будет связываться сотрудник ФСБ, обязательно с ним поговорите».

Поясним — дипфейком является любой медиафайл (фото, видео, аудио), созданный с помощью искусственного интеллекта. Такая технология используется во многих сферах жизни, например, в кино, рекламе, образовании, медицине и науке. С помощью дипфейков, например, в развлекательной и образовательной индустрии «оживляют» исторических личностей.

Мимо данной технологии не смогли «пройти» и мошенники. Согласно данным «Forbes», в этом году число мошенничеств с использованием дипфейков выросло в 2,3 раза в сравнении с 2024 годом, технология становится более простой в использовании, а на генерацию фальшивого видео уходит 5−7 минут.

На этой неделе стало известно о россиянине, потерявшем 3 миллиона рублей из-за мошенников, использующих искусственный интеллект. Виталий планировал приобрести авто из Европы через тг-канал, выбрав иномарку, мужчина заключил договор с фирмой «ФОР» и оплатил пошлины с выкупом у зарубежного владельца.

Позже выяснилось, что получаемые россиянином снимки «машины на таможне» были сгенерированы нейросетью, а авто границу не пересекало, пострадавший обратился в полицию.

В сентябре этого года от мошенников, использующих ИИ пострадал петрозаводчанин. В мессенджере мужчина получил сообщение от подруги с просьбой одолжить около 20 тыс. рублей, после перевода денег он обнаружил 15 пропущенных звонков от подруги,

в итоге отданная сумма составила 40 тыс. 600 руб., и вскоре выяснилось, что аккаунт подруги был взломан, мошенники сгенерировали с помощью нейросети видеосообщение с лицом и голосом собеседницы, настолько реалистичное, что пострадавший не заподозрил обмана.

О том, как распознать фальшивые фото и видео, а также о том, как стоит воспринимать контент из социальных сетей и при этом не стать параноиком, «Свободной Прессе» рассказал Дамир Фейзуллов, директор по SMM и ORM в коммуникационном агентстве PR Partner.

«СП»: Так как фильтровать информацию из социальных сетей?

— Раньше фейки создавались вручную и были легко узнаваемыми, сегодня же нейросети позволяют генерировать очень правдоподобный контент — от фото и видео до цитат и новостей, которые визуально ничем не отличаются от реальных. Мы перестаём доверять своим глазам, и в этом — главный вызов.

Чтобы не утонуть в потоке недостоверной информации и при этом не впасть в паранойю, важно выработать внутренние фильтры: проверять первоисточники, задавать себе вопрос «кому выгодно?» и не спешить с выводами.

Особенно в соцсетях, где эмоции легко подменяют факты. Полезно подписываться на профессиональные медиа, где действует редакционная этика, и учиться распознавать манипуляции: кликбейт, обрезанный контекст, эмоциональные формулировки…

«СП»: Как в целом нужно воспринимать контент из социальных сетей, который мы потребляем?

— Контент в соцсетях стоит воспринимать как поток неких личных интерпретаций, а не объективную реальность. Это скорее фрагменты мозаики, чем полноценная картина. Мы видим не мир, каким он есть, а то, как другие его переживают — через фильтры, алгоритмы и личные мотивы.

Именно поэтому так важно сохранять критическое мышление и давать себе время на обработку информации, особенно если она вызывает сильную эмоциональную реакцию.

«СП»: Какие советы по «распознаванию» творений ИИ вы можете дать?

— Чтобы распознать ИИ-сгенерированные фото и видео, стоит обращать внимание на детали, которые нарушают законы реального мира. Например, в изображениях часто встречаются лишние или сросшиеся пальцы, нереалистичные текстуры кожи, расплывчатые надписи, несоответствие теней и источников света.

В видео могут бросаться в глаза неестественная мимика, эффект пластиковой кожи, анимация глаз без живого взгляда или искажения движений.

Также ИИ пока плохо справляется с достоверным изображением массовых сцен — часто предметы или люди в кадре «схлопываются», исчезают или дублируются. И если в кадре происходит что-то заведомо неправдоподобное (например, панда едет на самокате в метро) — это повод остановиться и задуматься, прежде чем пересылать видео дальше.

О влиянии ИИ на наше восприятие мира рассказал Максим Куличенко — руководитель команды в сфере ИИ в компании TripleTen:

— Я оцениваю влияние ИИ через призму того, какое количество информации, созданной с его помощью, мы потребляем. Главная сложность в том, что отличить контент, сгенерированный ИИ, становится все труднее.

Есть лингвистические исследования, показывающие, что около 40% научных публикаций были созданы с участием ИИ — в них резко выросло количество слов и конструкций, характерных для популярных моделей.

По другим данным, почти 50% всей текстовой информации в интернете может быть сгенерировано ИИ. К счастью, в топовых поисковых результатах такая информация часто деприоритезируется, но все же составляет около 15%.

Кроме того, все больше людей начинают строить эмоциональную связь с ИИ — используют его как психолога или даже партнера.

Само по себе это не обязательно плохо, но, на мой взгляд, важно не терять связь между людьми. Чем больше внимания мы уделяем ИИ, тем меньше времени остается на настоящие человеческие отношения.

Также Куличенко рассказал, как не стать параноиком в нынешнее время:

— Важно помнить, что единственная цель соцсетей — удерживать ваше внимание. Алгоритмы рекомендаций спроектированы так, чтобы вы оставались в ленте как можно дольше. Наш мозг устроен так, что внимание лучше всего удерживается угрозами и неожиданными наградами. Поэтому любая лента — это чередование тревожных новостей и милых видео со щенками.

Я придерживаюсь простого правила: не захожу в соцсети, пока не понимаю, что именно хочу там сделать. Заранее думаю, кому хочу написать, и никогда не захожу «просто посмотреть». Если это видеосервис, то я заранее знаю, что собираюсь искать, и почти не полагаюсь на рекомендации.