Перейти к основному содержанию
Реклама
Прямой эфир
Армия
Расчеты РСЗО «Град» уничтожили опорные пункты и живую силу ВСУ в Курской области
Спорт
Россияне Шестеркин и Кочетков вошли в список лучших вратарей недели в НХЛ
Армия
Средства ПВО за ночь поразили 59 украинских беспилотников над регионами России
Армия
Главный центр связи Генштаба ВС РФ наградили орденом Суворова
Общество
В аэропорту Казани ввели временные ограничения на полеты
Экономика
В РФ средние зарплатные предложения в нефтегазовой отрасли за год выросли на 21%
Происшествия
Сотрудники МЧС спасли пропавшего в Хабаровске мужчину
Наука и техника
Исследователи из Франции узнали о вреде ремешков смарт-часов для здоровья
Общество
В Республике Башкортостан задержали председателя госкомитета за получение взятки
Армия
Более 200 единиц вооружения и техники было передано добровольцам отрядов БАРС
Культура
Театр Пушкина отметил 110-летний юбилей премьерой «Плохие хорошие» Оскара Уайльда
Экономика
В России почти 891 млн нелегальных товаров было заблокировано в 2024 году
Армия
ВСУ начали использовать в зоне СВО американские дробовики
Общество
В России с 2025 года начнет действовать ГОСТ на шаурму
Общество
Синоптики спрогнозировали небольшие осадки и гололед в Москве 25 декабря
Происшествия
Почти 5 тыс. человек остались без отопления из-за коммунальной аварии в Иваново
Общество
В России хотят фиксировать цену на билеты РЖД на новогодних праздниках
Общество
Продажи элитного жилья в 2024 году выросли на треть
Главный слайд
Начало статьи
Озвучить текст
Выделить главное
Вкл
Выкл

Более 10 млн россиян могут раскрыть личные данные из-за использования поддельных иностранных нейросетей, например ChatGPT и Midjourney, предупредили эксперты. «Известия» выяснили, чем опасны такие ресурсы, как отличить их от оригинальных и как защитить себя при работе с нейросетями.

Риски пользователей

Миллионы россиян рискуют раскрыть личные данные из-за использования поддельных иностранных нейросетей, например ChatGPT и Midjourney. Об этом рассказал директор по LLM-продуктам MTS AI Сергей Пономаренко.

По его словам, пользователи, которые используют ChatGPT, Dall-E, Midjourney и другие большие языковые модели через сторонние сервисы, могут получить вместо «оригинала» другую открытую модель и раскрыть важные данные. «Компания считает, что таких людей в России более 10 млн», — отметил Пономаренко.

Очки
Фото: Global Look Press/Frank Rumpenhorst

Эксперт пояснил, что сейчас российским пользователям трудно получить доступ к международным сервисам из-за сложностей с оплатой. Этим и пользуются мошенники, которые создают фейковые сайты и чат-боты, где обещают людям доступ к системе. Но на самом деле они предлагают минимальную версию продукта, которая уступает по качеству и небезопасна для использования.

Пономаренко напомнил, что при работе с нейросетями нельзя предоставлять им персональные данные и любую ценную информацию, в том числе корпоративную (использовать только сервисы, одобренные руководством и установленные в контуре организации). Кроме того, всю полученную через них информацию нужно перепроверять.

Поддельные нейросети

Как объясняет «Известиям» консультант по информационной безопасности R-Vision Ной Торосян, поддельные нейросети — это неавторизованные версии официальных моделей, которые могут быть некачественными или даже опасными. Их функциональность, уровень безопасности и точности значительно отличаются от подлинника.

Такие нейросети могут принимать разные формы, включая чат-ботов, веб-сайты или отдельные приложения, которые выглядят легитимно, но фактически предоставляют пользователю неоригинальный контент. Поэтому пользоваться ими нужно с осторожностью.

— Главное отличие поддельных нейросетей от настоящих заключается в их низкой эффективности и высоком уровне риска для конфиденциальности. Оригинальные модели обучались на обширных и качественных наборах данных и отличаются высоким уровнем точности. В то время как поддельные версии могут быть созданы на основе свободно доступных, менее мощных алгоритмов, что ограничивает их возможности, — рассказывает Торосян.

Ноутбук
Фото: ИЗВЕСТИЯ/Павел Волков

Хакеры обычно создают нейросети для своих целей — например, кражи данных пользователей или выстраивания таргетированных атак, добавляет руководитель лаборатории развития и продвижения компетенций кибербезопасности компании «Газинформсервис» Ксения Ахрамеева. Обычно они маскируют свои продукты под известные нейросети, недоступные россиянам. Пытаясь воспользоваться ими, люди и попадают на сомнительные ресурсы.

Как отличить поддельную нейросеть

Сегодня в мире существует множество нейросетей, но самыми популярными эксперты «Известий» называют четыре. Именно их и стремятся подделать мошенники:

  • ChatGPT: языковая модель, предназначенная для генерации текстов и общения, широко используется в написании статей, постов, программировании и многом другом.
  • Dall-E: генератор изображений на основе текстовых описаний, активно используется в дизайне и искусстве.
  • Midjourney: еще один мощный инструмент для создания визуального контента, также широко применяется художниками и дизайнерами для создания уникальных иллюстраций.
  • Suno: нейросеть, созданная для работы с аудио и текстом. Генерирует музыкальные композиции на основе запроса пользователя.

Отличить поддельные нейросети от оригинальных можно по нескольким ключевым признакам. Первым Ной Торосян называет URL-адрес: сайты известных сервисов всегда имеют уникальные и легко узнаваемые доменные имена. Фальшивые могут использовать схожие названия, добавляя дополнительные символы или меняя порядок букв.

— Второй момент — репутация сервиса. Изучите отзывы пользователей — большинство известных нейросетей имеют положительные упоминания на форумах и в социальных сетях, — говорит эксперт.

Ноутбук
Фото: ИЗВЕСТИЯ/Анна Селина

К третьему признаку подделки он относит качество контента: оригинальные модели предлагают высокую степень точности, тогда как остальные могут выдавать абсурдные или нерелевантные ответы. И, наконец, важно обращать внимание на требования к пользователю. Если сайт или приложение требуют слишком много личной информации, ненужной для функционирования сервиса, — стоит быть осторожнее.

Способы защиты

Основная угроза, связанная с использованием поддельных нейросетей, — это потеря персональных данных, рассказывает Ной Торосян. По его словам, мошенники могут использовать собранные данные для следующих операций:

  • Кража личности. Получение доступа к персональным данным позволяет злоумышленникам совершать преступления от имени жертвы.
  • Финансовые махинации. Персональные данные могут использоваться для взлома банковских счетов или проведения несанкционированных транзакций.
  • Фишинг. Пользователь может получать письма или сообщения с просьбой подтвердить свои данные, что приводит к передаче конфиденциальной информации прямо в руки мошенников.

— Кроме того, поддельные нейросети могут распространять вредоносное ПО, которое способно повредить устройство пользователя или перехватывать его активность в интернете, — рассказывает собеседник «Известий».

Деньги
Фото: ИЗВЕСТИЯ/Сергей Лантюхов

Для защиты от мошенников он рекомендует не раскрывать конфиденциальную информацию, то есть любую, которую можно использовать против человека или компании. Перед применением новых нейросетей нужно убедиться в их надежности и репутации.

— Также будьте осторожны с платными услугами. Если вам предлагают заплатить за доступ к «улучшенной» версии нейросети, убедитесь, что это действительно официальная услуга, предоставляемая разработчиком, — отмечает Ной Торосян.

В свою очередь, Ксения Ахрамеева советует россиянам пользоваться только нейросетями, разрешенными на территории России, либо продуктами от проверенных разработчиков и крупных компаний.

Для работы с нейросетью лучше использовать отдельную учетную запись в браузере, чтобы исключить доступ нейросети к истории ваших запросов. Тщательно изучить политику конфиденциальности и поставить максимальный запрет на доступ к вашим данным. Запросы осуществлять точечно, то есть конкретная задача — конкретный ответ, не надо давать нейросети лишнюю информацию, — говорит она.

И, наконец, в работе с нейросетями нужно всегда перепроверять полученную информацию. Не стоит забывать, что она не актуализирует знания ежедневно и может содержать неактуальные сведения, заключает CEO NDT by red_mad_robot Валерий Ковальский.

Читайте также
Прямой эфир