Cор из ИИ: мошенники начали пользоваться шумихой вокруг нейросети Sora
Мошенники обратили внимание на интерес пользователей к новой нейросети Sora, рассказали «Известиям» специалисты по информационной безопасности. С 15 февраля, когда компания OpenAI анонсировала свою разработку, в интернете зарегистрировано более 550 сайтов, в доменах которых упоминается название Sora. Среди них — фишинговые страницы для кражи персональных данных. Появилась и криптовалюта, созданная якобы эксклюзивно для пользователей нейросети, но ничего общего с разработкой OpenAI не имеющая, констатировали эксперты. Sora — первый инструмент, который позволяет генерировать короткие видео из обычного текстового описания. В будущем мошенники будут активно применять его в своих схемах обмана, предупреждают аналитики.
Закрытый плод сладок
Мошенники начали эксплуатировать интерес пользователей интернета к новой нейросети от компании OpenAI — Sora. С момента анонса 15 февраля появились сотни сайтов, которые могут использоваться в схемах обмана, отметили специалисты по информационной безопасности.
— Всего было обнаружено более 550 доменов, в заголовках которых фигурирует название этой нейросети. Среди данных ресурсов присутствуют фишинговые страницы, которые созданы с целью кражи персональных данных пользователей, — рассказал «Известиям» руководитель BI.ZONE Brand Protection Дмитрий Кирюшкин.
Это домены также могут использоваться для киберсквоттинга, то есть перепродажи по более высокой цене компаниям, которые используют продукт, но не успели зарегистрировать имя портала, подчеркнул эксперт.
Sora — нейросеть компании OpenAI, представленная 15 февраля нынешнего года. Она позволяет генерировать короткие видеоролики с помощью обычного текстового запроса.
Работает нейросеть следующим образом. Пользователь формулирует запрос, например: «Сделай видеоролик с девушкой, которая идет по ночному городу». Далее ИИ на основе текста создает видео длительностью до минуты. В настоящий момент Sora находится на стадии закрытого бета-тестирования, присоединиться к нему могут только приглашенные компанией люди.
Аналогичные данные предоставили и в компании ГК «Солар». По словам руководителя центра мониторинга внешних цифровых угроз Solar AURA Александра Вураско, на российский сегмент интернета приходится порядка двух десятков из всех зарегистрированных доменов с упоминанием Sora.
— На данный момент явная вредоносная активность, связанная с этими ресурсами, не фиксируется, в основном ресурсы представляют собой «информационные сайты», предназначенные для нагона и перенаправления трафика, а также заработка на рекламе, — отметил эксерт. — Впрочем, опыт последних лет показывает, что можно ожидать всплеск вредоносной активности на волне популярности генеративных нейросетей.
Наиболее распространенные схемы мошенничеств — продажа доступов к нейросети, а также взломы аккаунтов в соцсетях и мессенджерах под видом регистрации в проекте, сказал Александр Вураско.
Корреспонденту «Известий» удалось обнаружить также ряд Telegram-каналов, якобы связанных с Sorа. Создатели некоторых обещают предоставить доступ к закрытому бета-тестированию и требуют за это оплату в рублях или криптовалюте.
Кроме создания сайтов злоумышленники используют и другие виды мошенничества, связанные с новинкой OpenAI. Сразу после запуска нейросети появился криптотокен Sora, который не имеет никакого отношения к разработке, рассказал «Известиям» ведущий аналитик департамента Digital Risk Protection компании F.A.C.C.T. Евгений Егоров. Соответствующий сайт был зарегистрирован в день анонса, заявил специалист. Как утверждают в описании авторы цифровой валюты, она создана эксклюзивно для сообщества пользователей нейросети и предназначена для того, чтобы расплачиваться криптовалютой без комиссий.
Почему мошенники обратили внимание на Sora
Мошенники обратили внимание на Sora, потому что это первая модель ИИ, которая позволяет по текстовому описанию создавать минутные видеоролики. Перспективы у таких моделей есть во многих областях — в кинематографе, рекламе, образовании, виртуальной реальности, рассказал руководитель группы развития систем искусственного интеллекта «МойОфис» Андрей Наумов.
Сейчас Sora пока недостаточно хорошо понимает физику: видеоролики содержат много неточностей в движении людей. Кроме того, она может придумывать видео только на основании уже увиденных при обучении примеров. Но с развитием подобных моделей и устранением недостатков ИИ можно будет использовать и для более точного моделирования мира. Например, по написанному сценарию можно будет снять целый фильм, где актеры, оператор и декорации будут созданы с помощью ИИ, заявил специалист.
— Инструменты на основе технологий искусственного интеллекта продолжают успешно находить поле для реального применения практически во всех сферах человеческой деятельности, — отметила генеральный директор Content AI Светлана Дергачева.
По мнению эксперта, Sora имеет все шансы стать востребованным прикладным инструментом для тех отраслей, где требуется быстрое производство видеоматериалов. Например, для подразделений маркетинга, рекламы, SMM, блогинга. Также она может быть полезна в сфере образования для подготовки наглядных учебных материалов.
По словам специалистов, с полноценным релизом продукта вырастет и число мошенничеств, в которых будут использоваться возможности этой нейросети, — преступники будут использовать ее как вспомогательный инструмент для атак. Комбинируя Sora с другими инструментами, например DeepFake и DeepVoice, злоумышленники получат возможность изобретать более сложные схемы, подчеркнул Евгений Егоров.
— Несмотря на фильтрацию потенциально пагубных текстовых запросов для генерации видео, найдутся способы обхода цензуры, как уже было с ChatGPT. В таком случае можно ожидать использование сгенерированных роликов в персонализированном мошенничестве, — объяснил специалист.
Кроме того, с помощью Sora злоумышленники смогут создавать презентации вымышленного продукта, а затем продавать его на фишинговых сайтах, резюмировал Евгений Егоров.
