«Обнаженную натуру из Третьяковки мы не блокируем»
С недавних пор одним из главных действующих лиц мировой порноиндустрии стал официальный символ чемпионата мира по футболу — антропоморфный волк Забивака. Об этом рассказала «Известиям» порноаналитик «Лаборатории Касперского» Анна Ларкина. Необычная специальность, по которой она работает уже 10 лет, стала актуальной после появления в продуктах компании модуля «Родительский контроль». Чтобы задать параметры для фильтрации содержания сайтов по определенным параметрам, потребовался эксперт, в обязанности которого входило выявление в Сети порнографического и эротического контента, объявлений о продаже оружия и наркотиков, видео и фото со сценами насилия и многого другого. В интервью «Известиям» Анна Ларкина рассказала о последних тенденциях в сфере небезопасного контента, возможностях современных нейросетей и о том, что больше всего удивило ее за 10 лет работы.
— Как выглядело объявление о приеме на работу?
— Предлагалась должность специалиста по контент-анализу со знанием немецкого языка.
— На собеседовании вам сразу сказали, чем предстоит заниматься?
— Я жила в Германии, знаю немецкий, а на прежней должности (Анна была сотрудницей закрывшегося в 2016 году сервиса «Работа@Mail.Ru». — «Известия») занималась отфильтровыванием недобросовестных работодателей и резюме. В общих чертах эти работы похожи: нужно по определенным параметрам фильтровать определенный контент. На встрече меня спросили, как я отнесусь к тому, что мне придется иметь дело со специфическим контентом — порнографией, наркотиками, насилием. Я ответила: «Нормально».
— И теперь в вашу «юрисдикцию» входит порно, эротика, насилие, наркотики и оружие?
— И еще 85 параметров. Но перечислять их вряд ли нужно. Они связаны с конкретными продуктами, которые предлагает «Лаборатория Касперского».
Сотрудник в офисе компании «Лаборатория Касперского» в Москве
— Вы уже столько лет анализируете довольно специфический контент. Думаю, сейчас вы хорошо разбираетесь в тенденциях, например, порно. Что нового появилось в этой области за прошедшее десятилетие?
— Здесь, скорее, речь о том, как подобный контент проявляется в интернете. Например, недавно любители «фурри» (люди, интересующиеся антропоморфными животными и идентифицирующие себя с ними) начали использовать для создания порноконтента символ чемпионата мира по футболу 2018 года — волка Забиваку. Мы отлавливали в Сети контент, содержавший маскота с подрисованными частями тела, и обучали наших роботов в дальнейшем блокировать подобное творчество в рамках модуля «Родительский контроль».
— Робот сможет отличить грудь Венеры Милосской от груди Венеры из, например, Ростова?
— Дело в том, что робот анализирует не только изображение, но и окружающий контент, и код сайта. Вряд ли рядом с Венерой Милосской будет написано: «Жена у соседа без смс». Конечно, обнаженную натуру из Третьяковки наши решения не блокируют.
— А есть вещи, которые очень сложно детектируются?
— Есть сайты, на которых нет никакого контента, кроме картинки с условным названием JPG001. Там не за что зацепиться — это сайт, на котором есть одна картинка с порно. Может, это временный сайт или сайт в разработке. Вот такие задетектировать тяжелее. Но это крайне редкая история. Скорее всего, на сайте будет хоть одна ссылочка, которая выдаст его. Был один интересный случай, когда у совершенно обычного безобидного магазина по онлайн-продаже цветов в коде было зашито описание всей возможной порнографии, которая существует. Все жанры, все категории — сплошным текстом. А внешне он выглядел абсолютно нормально. Мы до сих пор так и не поняли, для чего это было сделано. Для нас это было ложное срабатывание. Возможно, создатели магазина сами сделали это, чтобы таким крайне сомнительным способом подняться в выдаче поисковых систем. А может, их просто взломали конкуренты.
Фрагмент картины Питера Пауля Рубенса «Суд Париса»
— Что можно назвать самым ярким из увиденного? Вас еще можно чем-то удивить?
— Когда-то, в самом начале работы, меня совершенно поразила порнография с участием Лунтика. Это был шок. В какой-то момент сильно удивил шведский сайт, где были выложены фотографии женщин в гипсе. Они были одеты, у одной сломана рука, у другой — нога. По описанию на сайте можно было понять: фото предназначены для того, чтобы мастурбировать, глядя на них. Был случай, когда то же самое было на сайте с котятами. То есть жуткое порнографическое описание, ниже такие же комментарии, а на фото — котята в разных позах. При этом все изображения вполне пристойные. Запомнился еще один сайт, который сделал мужчина, очень похожий на байкера. Он был сфотографирован голым на дне бассейна, под водой. Подпись гласила: Man under water. Это тоже отдельный жанр порно.
— Вы «в теме» уже 10 лет. Что изменилось за это время по технической части?
— Детект таких сайтов и контента отчасти модифицировался, всё больше работы делают роботы. Помимо этого, поменялись и векторы угроз. С конца 2000-х в нашу жизнь активно ворвались соцсети. И именно в них мы сейчас активно детектируем подобный контент. В наш продукт Kaspersky Safe Kids мы уже добавили возможность детектирования и блокировки по поисковым запросам. Наше решение детектирует запросы детей и, если находит что-то запрещенное, по мнению родителей, — оповещает их. Также в настройках родители могут и вовсе блокировать выдачу определенных запросов.
— Сейчас действительно так сильно активизировались педофилы?
— Благодаря соцсетям взрослые получили новый канал доступа к ребенку. Всегда существовали секретные сайты, где размещали детскую порнографию, но теперь взрослые могут сразу прийти на страницу ребенка. Еще в конце 2000-х я исследовала этот вопрос — смотрела, насколько быстро в аккаунт ребенка набегают взрослые. В течение первых суток уже была замечена такая активность.
— А как вы поняли, что это педофилы?
— Конечно, неизвестно, какие намерения были у этих людей на самом деле. Но приходили разнообразные «грязные» сообщения от взрослых мужчин. С тех пор социальные сети, в частности «ВКонтакте», стали ответственнее подходить к самостоятельной фильтрации.
— С вашей точки зрения, порноконтент может сильно травмировать ребенка?
— Всё зависит от конкретного ребенка. Никогда не знаешь, что именно может повлиять. Однако, помимо такого контента, в интернете есть еще и сцены насилия. Трупы людей, расчлененка, издевательства над животными. Это может быть в разы жестче, и мне, например, на это смотреть куда тяжелее.
На новостных ресурсах за последние 10 лет этого стало меньше. И многие стали публиковать сообщения: «Беременным и детям лучше не смотреть». Это хорошая тенденция. Это очень правильно, я давно говорила о том, что так необходимо сделать. Вообще я считаю, что поступление информации для детей не должно быть жестко ограниченным, но до определенного возраста оно должно быть контролируемым, в первую очередь с помощью родителей. Так как мы имеем дело с «родительским контролем», мы часто задумываемся об этом. Родитель должен иметь возможность обсудить с ребенком просмотренное. Для этого он должен быть в курсе, что его ребенок смотрит в интернете, а что хочет посмотреть.
В «Лаборатории Касперского» существуют два уровня компетенции: аналитик и эксперт. При этом работа контент-аналитиков требует не только аналитических навыков, но и понимания трендов угроз, актуального на сегодняшний день контента, а также культурных изменений. Например, если произошел теракт, в интернете могут появиться фото людей, попавших в эпицентр взрыва. Поэтому аналитику нужно внести коррективы в работу защитного решения для детектирования подобного контента, предугадав каналы распространения этих снимков.
