«Мошенничество — это бизнес». Эксперт по безопасности — о том, как ИИ помогает собрать на вас досье, скопировать лицо и голос

Искусственный интеллект сделал мошеннические схемы быстрее, дешевле и убедительнее. Теперь злоумышленникам проще создавать фишинговые письма, подделывать голос и видео знакомых людей, а еще — собирать информацию о потенциальной жертве из открытых источников. При этом мошенники всё чаще подстраивают схемы под актуальные события: от дефицита бензина до начала учебного года. NGS.RU поговорил с экспертом «Контур.Эгиды», директором по продукту Staffcop Даниилом Бориславским о том, как распознать дипфейк, почему нельзя доверять даже видеозвонку от близкого человека и что поможет не попасться на новые схемы.

— Как за последние пять лет изменилось мошенничество и что нового появилось благодаря искусственному интеллекту?

— Раньше фейковый контент, который использовался в мошенничестве, создавался вручную. Еще несколько лет назад, чтобы сделать убедительное фишинговое письмо, нужно было потратить часы и даже дни: придумать текст, подобрать аргументы, адаптировать его под конкретную организацию и должность.

Сейчас искусственный интеллект автоматизировал многие механические действия и многократно ускорил генерацию фейковых писем и страниц. Например, можно за полчаса получить десятки шаблонов для бухгалтеров, закупщиков и других сотрудников.

Самое главное изменение — снизился порог входа в мошенничество. Раньше требовались деньги на инструменты, технические знания, специальные программы. Сейчас для этого нужно гораздо меньше ресурсов.

— То есть условно любой человек может стать мошенником?

— К сожалению, да. Даже школьник средних классов может попытаться обмануть крупную организацию.

— Какие мошеннические схемы сейчас самые опасные?

— Мошеннические схемы в первую очередь играют на чувствах человека. Базовые эмоции, на которых они работают, — важность, срочность, страх и алчность. С использованием ИИ этот градус стало гораздо проще повышать.

Например, раньше человеку могли прислать СМС якобы от ребенка: «Мама, я попал в ДТП, срочно нужны деньги». Сейчас вместо текста может прийти сообщение с голосом ребенка, его тембром и привычной лексикой. Ты слышишь голос близкого — эмоции сразу включаются.

— Насколько распространены голосовые и видео-дипфейки?

— Техническая разница между созданием аудио и видео стала практически незаметной. ИИ позволяет делать и то, и другое достаточно легко. При этом видео мошенники используют чаще, потому что от него больше эффект.

Появились и чат-боты, которые вообще могут не использовать ни видео, ни аудио, но содержат большую базу заготовленных фраз и сценариев общения с человеком. Такие системы могут использовать психологические уловки. Например, если человек тревожный, то будут сильнее давить на срочность и важность.

— Если говорить про видео, какие ошибки допускает ИИ?

Первое — рассинхрон звука и движения губ. Если вы сомневаетесь, настоящий ли перед вами человек, можно попросить его остановиться и посчитать от десяти до одного. При генерации видео рассинхрон может стать заметнее.

Второе — искажения голоса. Может появиться металлический или роботизированный оттенок, странная скорость речи, неестественные паузы.

Еще стоит смотреть на сложные границы: переходы между волосами, шеей и фоном. Они могут выглядеть неестественно. Иногда мошенники специально снижают качество видео, чтобы такие детали было сложнее заметить.

Также обращайте внимание на странный расфокус, глаза и волосы. В дипфейке человек может слишком долго смотреть в одну сторону, редко моргать или практически не менять выражение лица.

Еще один признак — тени и освещение. Если исходные видео были сняты в разных местах, то после генерации может получиться ситуация, будто на человека одновременно светят два источника света с разных сторон.

— А в голосе что может выдать подделку?

— Помимо роботизации и металлического оттенка может меняться скорость речи. Где-то человек начинает говорить быстрее, потом возвращается к обычному темпу. Может исчезать естественное дыхание, речь становится практически беспрерывной.

Иногда подозрение вызывает и фоновый звук. Причем его могут специально добавлять. Если мошенник хочет создать впечатление call-центра, он может наложить шум разговоров и другие звуки, даже если в реальности никакого call-центра нет.

— Раньше казалось, что чаще всего на мошенников попадаются пенсионеры. Сейчас это уже не так?

— Например, пенсионеру могут сказать, что его пенсия переводится на какой-то накопительный счет. Это работает на важности и страхе. Молодой человек на такую схему не поведется, но ему могут через несколько минут позвонить якобы из ФСБ и сказать: «Мы отследили, что к вам сейчас обращался мошенник. Мы давно не можем их поймать. Пожалуйста, помогите государству». Здесь уже включается желание помочь и ощущение собственной значимости. Человек попадает в ту же схему, только адаптированную под его возраст.

— Получается, мошенники заранее собирают подробную информацию о человеке? Откуда они ее берут?

— Мы все оставляем огромное количество цифрового следа. Это и биометрия, и подписки, и сообщества, в которых мы состоим, и различные сервисы, которыми пользуемся.

Есть направление OSINT — разведка по открытым источникам. Оно позволяет собирать информацию о человеке из разных источников и составлять своеобразное досье. Его используют спецслужбы, коммерческие организации и, естественно, мошенники.

Раньше для этого нужно было вручную ходить по ссылкам, искать информацию в разных базах, тратить часы. Сейчас часть этой работы можно автоматизировать. Ты обучаешь агента, уходишь гулять с собакой, возвращаешься — а у тебя готово досье на человека.

— Можно ли вообще скрыть свой цифровой след?

— Полностью — практически невозможно. Это вопрос удобства и безопасности, которые иногда идут в разные стороны. Можно всё закрыть и нигде не показываться, но тогда будет сложно заказывать доставку, записывать ребенка в секцию и общаться с друзьями.

Можно попробовать сделать свой цифровой след более «шумным»: использовать разные профили, не оставлять везде одинаковую информацию о себе. Тогда автоматическому анализу сложнее собрать цельное досье.

Еще я бы рекомендовал договориться с близкими о кодовом слове или фразе, которые помогут проверить, действительно ли вы разговариваете друг с другом. Это, к сожалению, становится необходимостью.

— Как в будущем могут измениться мошеннические схемы? Что еще могут придумать?

— Сильно придумывать не придется. Мошенники очень часто используют хайп и актуальную повестку.

Например, были сложности с бензином — практически сразу появились схемы с продажей места в очереди, купонов, приложений, через которые якобы можно узнать, где есть топливо. Человека могли попросить зарегистрироваться через Госуслуги или установить вредоносное приложение. Хайп закончился, и схемы исчезли.

Сейчас, думаю, следующей большой волной станет начало учебного года. Могут появиться сообщения: «запишитесь в школу», «запишите ребенка в класс», «поставьте его на питание», «перевыпустите карту питания».

Потом закончится сентябрьская волна, появится следующая: например, связанная с выборами. Мошенники постоянно подстраиваются под актуальные события.

— Что конкретно может сделать обычный человек, чтобы защитить себя?

— Если в коммуникации вы чувствуете давление, манипуляцию, попытки ускорить решение, нужно взять паузу. Например, вам звонят и говорят: «Срочно-срочно, мы меняем домофоны». Вы можете просто сказать: «Хорошо, я сам перезвоню на этот номер» — и положить трубку. После этого обсудить ситуацию с коллегой, родственником или самостоятельно проверить информацию.

Стоит быть в информационном поле, где обсуждаются вопросы информационной безопасности и новые мошеннические схемы. Если вы заранее слышали о какой-то схеме, при столкновении с ней будете гораздо более внимательны.

— А что важно делать компаниям?

— Я бы выделил три вещи. Первое — обязательно использовать двухфакторную защиту учетных записей. Пароль сам по себе уже не является хорошей защитой.

Второе — давать сотрудникам только те права доступа, которые им действительно нужны. У обычного сотрудника не должно быть прав администратора на рабочем компьютере.

Третье — постоянно обучать сотрудников информационной безопасности. Это не должно выглядеть так: человек расписался в журнале при трудоустройстве и забыл. Необходимы обучение, закрепление, проверка и повторение. Периодичность и объем будут разными для разных организаций, но знания должны регулярно обновляться.

— Стоит ли специально разговаривать с мошенниками, чтобы отнять у них время?

— Это может быть полезно, но только если вы понимаете, что делаете.

Если вы постоянно работаете с такими историями, разбираетесь в теме и у вас есть свободное время, можно попробовать. Мне нравится идея «мошеннических рулеток», особенно когда в них начали использовать ИИ, потому что если раньше злоумышленники массово атаковали людей, то теперь их время тратит ИИ.

Но если вы не разбираетесь в теме, лучше этого не делать. Можно начать разговор с мошенником, а потом «как в тумане» и самому попасть в его схему.

— Получается, универсальная защита — просто остановиться?

— Да. Если чувствуете давление, срочность, манипуляцию или слишком выгодное предложение — остановитесь. Перенесите разговор, положите трубку, перезвоните самостоятельно, обсудите ситуацию с близкими или коллегами.

Не нужно пытаться срочно доказать мошеннику, что вы его раскусили. Главное — не дать ему управлять вашими действиями.

Недавно в новосибирских мессенджерах начали рассылать сообщения о новой схеме мошенничества. В ней описано, что к человеку могут подойти на улице и помочь что-то настроить в телефоне. Когда жертва соглашается, чужое устройство считывает его биометрические данные, после чего злоумышленники оформляют с их помощью кредит. НГС выяснил, насколько реалистична эта схема и как ее могут использовать.