В Сети появился сайт OnlyFake, на котором любой желающий может при помощи нейросети создать фотографии поддельных документов, будь то российский паспорт или водительские права. По мнению экспертов, подобные цифровые фейки станут опасным инструментом, позволяющим злоумышленникам отмывать и похищать деньги. Подробности о том, как искусственный интеллект стали применять для генерации фальшивых бумаг и чем это грозит в перспективе, читайте в материале «Известий».
Подделки из Сети
Сайт OnlyFake, создающий фотографии поддельных документов при помощи искусственного интеллекта, успел привлечь внимание специалистов по кибербезопасности со всего мира. Ресурс позволяет генерировать снимки за считаные минуты, а стоит такая услуга всего $15 (примерно 1,4 тыс. рублей) — оплата принимается в криптовалюте.
Нейросеть от анонимных разработчиков научилась выдавать изображения паспортов и водительских прав 26 государств, включая Россию, США, Великобританию, Австралию, Канаду и ряд стран Евросоюза. При этом результат получается столь реалистичным, что позволяет проходить проверку на криптобиржах.
— Для генерации изображения достаточно выбрать шаблон, написать необходимую информацию и загрузить фото, — говорит руководитель компонента R-Vision Endpoint в компании R-Vision Петр Куценко. — Затем ИИ обрабатывает запрос и за короткое время создает документ, который для большей убедительности можно замаскировать под «неудачное» фото.
Корреспондент «Известий» на протяжении нескольких дней пытался зайти на OnlyFake: сайт открывался, но демонстрировал надпись Site is down. Everything will be restored soon («Сайт не работает. Скоро всё будет восстановлено»).
Не исключено, что ресурс, ставший неожиданно популярным, попросту был заблокирован. Однако вполне вероятно, что теперь услуги по созданию фото поддельных документов при помощи ИИ будут оказываться в даркнете, но уже за куда большие деньги. Недаром в описании OnlyFake, еще когда он работал, была одна весьма примечательная фраза: «Эра отредактированных при помощи Photoshop документов заканчивается».
Инструмент для мошенников
Между тем фотографии документов, подделанные с помощью нейросетей, могут стать опасным инструментом в руках злоумышленников. Как говорит в беседе с «Известиями» менеджер продуктов Innostage Евгений Сурков, подобные фальшивки применяются для анонимизации мошеннических действий с аккаунтами и цифровыми активами, а также при подтверждении операций путем предоставления паспортных данных.
— Например, таким образом можно попробовать записать на имя пользователя сайт, распространяющий противоправную информацию, взять небольшой кредит (в случае перехвата контроля над каналами коммуникации жертвы), оформить SIM-карту и даже попробовать зарегистрировать фирму-однодневку, — рассказывает эксперт.
В свою очередь, зампредседателя комиссии Общественной палаты РФ по общественной экспертизе законопроектов и иных нормативных актов Александр Терновцов дополняет, что фейки, полученные посредством технологий ИИ, преступники могут использовать на любых электронных ресурсах, где для регистрации достаточно снимков документов. Это, в частности, криптобиржи, онлайн-казино и сервисы бронирования автомобилей.
Как отмечает специалист, популярная соцсеть VK для восстановления доступа к странице просит загрузить фото с паспортом. А поскольку цифровизация всё больше проникает в жизнь людей, расширяются и варианты применения снимков документов.
— Использование нейросетей и других автоматизированных инструментов для создания подделок — новый вызов для правоохранительных органов и организаций, стремящихся обеспечить безопасность и защиту личных данных, — отмечает Петр Куценко.
Правовой аспект
По словам Александра Терновцова, раньше подобные фотографии создавались вручную с применением Photoshop и других графических редакторов — это требовало немало времени и ресурсов. Теперь же на сайте OnlyFake такие фото за считаные минуты создает нейросеть, что, впрочем, порождает определенные юридические коллизии.
— Как мне кажется, тут возникает правовой пробел, несет ли пользователь, генерирующий запрос на изготовление поддельного документа, какую-либо ответственность, ведь фактически подделку изготавливает нейросеть, — говорит собеседник «Известий».
Александр Терновцов напоминает, что юридически фотография является объектом интеллектуальной собственности и защищается законом от посягательств третьих лиц. При этом в российском законодательстве не предусмотрена ответственность за подделку снимков документов.
Она наступает лишь за фальсификацию самих документов в соответствии со ст. 19.23 КоАП РФ («Подделка документов, штампов, печатей или бланков, их использование, передача либо сбыт») или ст. 327 УК РФ («Подделка, изготовление или оборот поддельных документов, государственных наград, штампов, печатей или бланков»). И хотя сами фейковые изображения удостоверений, сгенерированные при помощи ИИ, не являются чем-то противоправным, наказание может наступить при их эксплуатации в преступных целях.
— Если поддельные фото документа пустят в ход для обмана с целью хищения имущества, то такое деяние будет охватываться в том числе составом ст. 159 УК РФ («Мошенничество»), — отмечает Александр Терновцов. — Однако конкретный состав определяется в зависимости от того, как именно использовался поддельный снимок.
Как говорит Петр Куценко, применение снимков документов, полученных при помощи нейросетей, может повлечь за собой серьезные юридические и этические последствия, а также финансовые потери как физических лиц, так и организаций. Именно поэтому способы выявления подобной имитации становятся особенно важными.
Механизмы защиты
Сегодня технологии на основе ИИ могут генерировать изображения высокой точности, что затрудняет идентификацию поддельных снимков документов. По мнению Петра Куценко, сервисам необходимо внедрять многофакторную аутентификацию, а также запрашивать сразу несколько подтверждений для авторизации пользователя. В свою очередь, Евгений Сурков считает, что шансы на распознавание обмана увеличиваются, если требовать изображения с измененным положением или углом наклона бумаги.
— К примеру, можно попросить пользователя выполнить с документом заранее неизвестную ему манипуляцию: повернуть, приблизить или показать другую страницу, поднести документ с фотографией к лицу, — говорит собеседник «Известий». — В последнем случае проверяющему надо будет решить юридический вопрос с обработкой биометрических данных.
Петр Куценко указывает на то, что распознать поддельные снимки может помочь анализ качества изображения, а также оценка текста на наличие опечаток и разных шрифтов. Так, сигнализировать о фальсификации могут локальные искажения, маскирующиеся под плохое разрешение картинки.
Как отмечает эксперт, еще важно сверять голограммы и водяные знаки — на страницы паспорта нанесены голографические изображения в виде герба России, звезды и надписи РФ/Россия/Russia. Кроме того, на всех листах документа есть водяной знак в виде букв «РФ».
— Помимо визуальной оценки необходимо использовать специализированное программное обеспечение для анализа фотографий и метаданных, — рассуждает Петр Куценко. — Такое ПО помогает выявлять контент, сгенерированный при помощи ИИ.
Наконец, при возникновении сомнений относительно подлинности фотографии можно обратиться за помощью к специалистам или организациям, имеющим опыт в верификации данных, заключает собеседник «Известий».