«Нам нужны цифровые судьи и цифровые адвокаты»
В России могут быть созданы специальные профсоюзы, которые займутся защитой прав граждан в цифровом пространстве. Об этом в интервью «Известиям» сообщил специальный представитель президента России по вопросам цифрового и технологического развития Дмитрий Песков. Он также заявил о необходимости цифровых адвокатов и цифровых судей. По сути, это будет искусственный интеллект, заточенный на разрешение сложных ситуаций. Также специальный представитель президента рассказал о границах личного пространства при оказании государством услуг и объяснил ситуацию с «дипломами по требованию».
— Дмитрий Николаевич, несколько дней назад вы рассказывали о «дипломах по требованию», которые по идее будут логическим продолжением цифровых дипломов. Что это такое?
— Это дипломы, которые будут показывать актуальный уровень знаний выпускника на данный момент. Например, раньше у человека была тройка по некому языку программирования. Он прошел курсы, многому научился и знает язык на пятерку. Этот факт можно будет внести в диплом, и он будет соответствовать знаниям человека сейчас, а не когда он получал документ.
— Как возникла тема «дипломов по требованию»?
— Недавно я читал лекцию на открытии акселератора стартапов в области искусственного интеллекта, которая посвящена тому, что произойдет в мире с системой высшего образования. В ходе лекции обсуждался вопрос, как могут эволюционировать образовательные институты в будущем. Одна из тенденций — это переход от единожды выданных дипломов к тому, что называется diploma on demand, или «диплом по требованию».
— Они появятся и в России?
— Постепенно. В России сейчас продолжается создание цифрового диплома, которое включает в себя портфолио. Это часть утвержденной два года назад программы «Современная образовательная цифровая среда» (входит в нацпроект «Образование»). По ней со следующего года пять университетов должны начать выдавать дипломы в цифровой форме. Подчеркну, что пока никаких инициатив со стороны государственных структур для «дипломов по требованию» нет. На мой взгляд, произойдет естественная эволюция цифрового диплома в «диплом по требованию», которая может занять пять-десять лет.
— С дипломами понятно. Расскажите, как обстоят дела с цифровыми профилями россиян?
— Первое, что надо понимать, что у крупнейших провайдеров уже есть профили граждан. К примеру, некий банк уже про нас с вами очень много знает, даже если мы не являемся его клиентом. Однако эти данные разрозненны, хаотичны, что не позволяет государству оказывать качественные услуги. То есть когда вы обращаетесь один раз в одно ведомство, а нужная для выполнения услуги информация уже имеется, не надо делать еще один запрос (или несколько) в другое ведомство. Вот для этого и нужен полноценный цифровой профиль. Вообще идея, которую предлагает Министерство цифрового развития, мне кажется очень красивой. А именно, не пытаться сделать отдельные версии электронного паспорта, прав, сертификатов, свидетельств о рождении и всего остального, а разрешить обращаться к государственному облаку через ваш смартфон.
— Получается, что государство должно знать абсолютно всё о своих гражданах, чтобы оказывать качественные услуги? Где же границы личного пространства, которые нельзя нарушать?
— Государство должно знать достаточно о гражданах, чтобы оказывать качественные услуги. Но не абсолютно всё. Ни в коем случае. И с границами тут всё ясно. Гражданин должен обладать прямым правом распоряжения теми данными, которые являются обязательными для государства и теми данными, которые он предоставляет добровольно. Для этого должны быть разработаны соответствующие инструменты. С моей точки зрения, основной страх граждан связан не с тем, что о нем знает государство. Оно уже и так знает о нем практически всё. Страх связан с возможностью утечки информации рекламщикам, продавцам, банкам, спамерам, мошенникам и так далее. Нам государство в три часа ночи с предложением продать страховку не звонит, правда же? Вот против таких утечек должны быть разработаны защитные инструменты. Например, у нас компания «Мегафон» выступает с инициативой создать такой кабинет управления правами граждан прямо на «Госуслугах», где вы просто галочками отмечаете те данные, которыми готовы делиться.
— В Москве установлены 170 тыс. камер наблюдения. На нескольких тысячах из них есть функция распознавания лиц. Это разве не вмешательство в личную жизнь? Притом что у граждан на это разрешение не спрашивали.
— Давайте разведем системы частные и системы государственные. И тогда ситуация будет отличаться с точки зрения закона. Что точно недопустимо, это установка системы автоматического распознавания людей без согласия человека в частных пространствах. Например, возьмем ситуацию, когда владелец торгового центра сам устанавливает себе камеру с распознаванием лиц или использует информацию с этой камеры для каких-то действий по отношению к человеку. Очевидно, это прямое нарушение прав граждан, и наше законодательство должно жестко реагировать на подобные нарушения. Те системы, которые расположены, например, на дорогах, подчиняются действующему законодательству. Другое дело, что там постоянно возникают вопросы, связанные, например, с нелегальной передачей данных с тех самых камер наблюдения в Москве. Постоянно возникают ситуации, когда эти данные перепродают: о том, кто куда едет, кто где находится... Здесь, конечно, требуется гораздо более серьезное регулирование и внимание к этим вопросам.
— Вы планируете создать в ближайшее время такие инструменты?
— Очевидно, что защищать наши собственные права в отношении данных каждому по отдельности очень тяжело. Логично было бы, если бы мы это доверяли каким-то профессиональным организациям, которые берут на себя функцию представления наших интересов в отношении с государством, функцию представления наших интересов с частными компаниями, общественными организациями и тому подобное. Это цифровые профсоюзы защиты данных. Но нам еще нужны цифровые судьи и цифровые адвокаты. Я уверен, что должны существовать площадки, на которых можно пожаловаться на решения, принятые искусственным интеллектом. Например, на штраф ГИБДД. Мы прекрасно знаем, что штрафы сейчас выписывает не тот лейтенант, который указан на извещении, а бездушный искусственный интеллект, который в автоматическом режиме распознает нарушение и которому тоже свойственно ошибаться. Нормальных, быстрых возможностей обжаловать решение такого искусственного интеллекта у нас с вами нет. Поэтому необходима система, в которой мы могли бы не идти в суд, а обратиться к системе цифровых адвокатов, один из которых с вашей претензией пойдет к алгоритму, натренированному на распознавание сложных ситуаций, искусственному мировому судье. Когда у нас заработает такая система, состоящая из контрольно-надзорных органов, адвокатов и быстрых судебных решений в виде искусственного интеллекта, тогда мы будем себя чувствовать более защищенными.
— Давайте еще поговорим о безопасности. В мае Минцифры предложило законопроект о переходе критической информационной инфраструктуры страны (IT-системы госорганов, научных и кредитно-финансовых организаций, а также предприятия оборонной, топливной и атомной промышленности, транспорта, энергетики и другие компании) на отечественное ПО. Но у нас и официальные ведомства не все перешли на отечественные программы. В чем причина?
— Смотрите, есть три типа программного обеспечения. Рассматривать их вместе методологически неправильно. Первый тип — программное обеспечение, которое относительно легко замещается. Это такие решения, как офисные пакеты, антивирусы, текстовые редакторы, браузеры. Это должно замещаться быстро, максимально жестко и в максимально короткие сроки. И это происходит вполне успешно.
Есть второй тип, который замещать не надо, причем категорически не надо. Это иностранное программное обеспечение, которое критически важно для создания итогового продукта. Например, инженерное ПО для моделирования сложных систем. Если вы пытаетесь сделать самый лучший в мире самолет или автомобиль, то вам необходимо для его проектирования использовать самые лучшие в мире системы моделирования. Если это российские системы, значит, это должны быть российские системы. Если бразильские, то бразильские. Более того, нет какой-то одной системы, на которой можно, условно говоря, собрать весь самолет. Нужен комплекс систем, поэтому нужно брать всё то лучшее, что есть в мире.
Третий тип — это то, что менять надо, но компетенций для этого внутри страны нет или недостаточно. Например, системы бронирования билетов, системы управления городской инфраструктурой. Во всех этих сегментах есть отечественные компании, которые пишут софт, но по потребительским характеристикам догнать мировых конкурентов за один или два года невозможно.
— Мы можем как-то стимулировать переход на отечественное ПО в третьем сегменте?
— Да, мы это и делаем. Если вы используете российское ПО, то у вас есть преимущество на закупку. У вас есть льготное кредитование. У вас есть компенсация расходов на разработки со стороны государства. У вас есть компенсация затрат на внедрение: чтобы, например, поменять решение того же SAP (Systemanalyse and Programmentwicklung, системный анализ и разработка программ. — «Известия»), надо потратить довольно много средств, если вы даже решили поменять это на конгломерат отечественных решений. Вот здесь государство потихоньку, но разрабатывает и внедряет программы, которые должны за определенный период времени привести к такого рода импортозамещению.
— Казалось бы, связь — это главное, что должно быть защищено, но в России 90% телекоммуникационного оборудования иностранное. Должны ли мы перейти на отечественное оборудование для связи?
— Да, но постепенно и не травматично. Что значит «постепенно»? По мере того как мы с 3G переходим на 5G, надо делать так, чтобы базовые станции 5G, например, были на открытых стандартах с отечественным софтом и отечественного производства. Такие уже есть.
— Ранее вы упомянули «Госуслуги». С вашей точки зрения, этот проект успешен?
— Знаете, все мои зарубежные коллеги, включая американских, британских, японских и других, просто белели лицом, когда я показывал, как плачу штрафы в ГИБДД. Я не видел ни одной системы в мире, в которой в онлайне можно заплатить налоги на имущество, штрафы, получить услугу по паспорту несколькими кликами с облачным распознаванием и тут же интегрированной системой платежей. Это уникальное явление.
— Но все-таки и у «Госуслуг» есть недостатки... Например, система страдала, когда в нее поступало много запросов по «коронавирусным» выплатам на детей.
— Слушайте, любые системы большого масштаба подвержены проблеме нагрузок и не очень умеют работать под запрос в кризисной ситуации. Все авиакомпании в мире прекрасно летают, когда погода хорошая. А когда шторм, то в аэропортах скапливается сразу в 10 раз больше людей, чем обычно, возникают очереди, хаос, беспорядки и всё остальное. То же самое характерно для работы для государственных систем при экстремальных нагрузках.
