«Через два-три года роботам передадут лицензию на убийство»
В Евросоюзе написали «моральный кодекс» для искусственного интеллекта, а в России идет разработка стратегии развития ИИ. Потому что даже управляемые человеком программы не должны существовать вне правового поля. Тем более что развиваться искусственный интеллект будет, прежде всего, в военной сфере. О его достоинствах и недостатках, почти безграничных возможностях и «побочных эффектах» на круглом столе, прошедшем в пресс-центре «Известий», рассказали эксперты.
«Мы не говорим о сверхъестественном разуме»
Игорь Ашманов, президент IT-компании «Крибрум», эксперт по ИИ
Еврокомиссия разработала основы этических законов для искусственного интеллекта (ИИ). Рекомендации эти, по-моему, абсолютно беспомощны. Это, в основном, благоглупости, за все хорошее против всего плохого.
Искусственный интеллект для тех, кто его разрабатывает, — это даже не наука, а довольно развитая традиционная инженерная дисциплина, набор математических и инженерных методов оптимизации и машинного обучения, которые позволяют имитировать когнитивные функции человека. Мы говорим не о сверхъестественном разуме, который возник в результате неизвестно чего внутри компьютера (как в голливудских выдумках сценаристов), а о реальной ситуации, которая сейчас находится на кончиках пальцев разработчиков и программистов.
Обучая искусственный интеллект что-то распознавать, мы добиваемся того, что он начинает это делать лучше, чем человек. Но никакого «саморазвития» или «осознания себя» там в принципе нет.
Должны ли быть какие-то юридические рамки для ИИ? Должны, но непонятно, что здесь могло бы являться предметом регулирования. Это очень серьезный раздел права, который пока еще не сложился.
Юристы занимаются сейчас более насущными и конкретными вопросами в сфере ИИ. Например, надо определить, кто отвечает за поведение беспилотного автомобиля. Поэтому их всё еще нет на дороге, хотя беспилотный транспорт технически уже может ездить. Не решено, что за страховка должна быть оформлена, кто отвечает за сбитого пешехода.
Проверка систем беспилотного автомобиля перед началом испытаний
Многие страны — Китай, США, Европейский союз — уже создали национальные стратегии развития искусственного интеллекта. В России стратегия пока разрабатывается. Есть программа «Цифровая экономика», где указано немало законов, которые надо написать и принять, в том числе закон об общедоступных данных, закон о больших данных. Закон о личных данных нужно переделывать. По мере появления конкретных жизненных проблем с искусственным интеллектом их придется регулировать.
Основное, что правильно требовать от разработчиков, — возможность восстановить порядок принятия решений искусственным интеллектом. Кодексы для разработчиков пишут профессиональные юристы, в том числе российские.
Основная сфера приложения искусственного интеллекта — это война. Все стараются не опоздать в этом деле, потому что если кто-то сделает очень быстрое и автономное оружие, которое невозможно будет сбить или отразить, то он, скорее всего, заберет себе весь мир.
Бояться надо не ИИ, а людей, которые его разрабатывают. Все неприятности на нашей планете от людей, и еще немного — от землетрясений или цунами. Лет через 10–15 существующие технологии позволят сделать телохранителя, который будет в состоянии увидеть за 500 м и вынуть из воздуха пулю, выпущенную киллером.
Через 20 лет на поле боя в любом случае будут работать только роботы. Все армии мира имеют подразделения, занимающиеся искусственным интеллектом. Основной «прогресс» будет именно там. Скорее всего, уже через два-три года роботам передадут лицензию на убийство.
Искусственный интеллект можно приладить таким образом, чтобы он заменял людей. Миллионы людей работают в колл-центрах, но через некоторое время простые вопросы голосом будет разбирать робот. Исчезнет довольно много профессий рутинного среднего класса, когда люди бумажки перекладывают.
Но послушайте музыку, которую сочиняет искусственный интеллект, посмотрите картины, которые он рисует. Вам не понравится, это суррогат.
Есть определенный набор вещей, которые не могут быть услугой. Их также нельзя и автоматизировать, отдавать искусственному интеллекту.
Никакая машина не способна заменить человека
Артем Кирьянов, юрист, член Общественной палаты РФ
У Еврокомиссии, которая разработала основы этических законов для искусственного интеллекта, очень большие бюджеты на содержание сотрудников, которых нужно постоянно занимать. Вот они и заняты. К счастью, документы Еврокомиссии не имеют к нам никакого отношения. Очень надеюсь, что в России не возникнет творческого зуда написать что-нибудь подобное, поскольку у нас бюрократия не так сильно развита и снабжается ресурсами не так, как в Брюсселе.
Не надо регулировать прогресс. Юриспруденция обслуживает ключевые нормы, сложившиеся в обществе в данный момент.
Тема искусственного интеллекта и восстания машин была раскрыта уже лет сорок назад Станиславом Лемом в книге «Сумма технологии». Наверное, мы смотрим много интересных научно-фантастических фильмов, не имеющих связи с реальностью, и нам кажется, что искусственный интеллект — некая штука, которая может принимать решения за людей, влиять на них, формировать социальные отношения и в какой-то момент выйти из-под контроля.
Но по крайней мере в ближайшие лет 300 это невозможно. Никакая машина не способна заменить человека просто из-за различной природы бытия.
Помимо законодательной базы, касающейся конкретных продуктов, например больших данных, всё остальное будет отраслевым регулированием. Надо вникать, какие задачи будут в правовом регулировании по дронам, если столкнулись несколько федеральных органов. Если мы всё кодифицируем заново, возможно, будет кодекс, посвященный искусственному интеллекту.
Форум «Открытые инновации» в Сколково
Отнимет ли искусственный интеллект работу у людей? Вопрос не в этом. Мы так боремся за работу, а бороться надо за другое. Всё человечество, к сожалению, вынуждено работать, за исключением 1,5–2% творческих людей, которые из своего бизнеса или развлечений получают и деньги, и удовольствие. Всем остальным надо гораздо меньше работать и гораздо больше отдыхать. Если сохранится соотношение по финансам, общество сможет поставить искусственный интеллект на службу эффективности бизнес-процессов и будет производиться раздача прибыли — как при коммунизме, только с деньгами.
Что в этом плохого? Почему мы должны заставлять людей работать 40 часов в неделю, когда они могут работать пять часов в неделю, а всё остальное время проводить хорошо? Это гораздо лучше, чем сохранять рабочие места, которые не нужны. Представим, что со всем в компании может справиться один компьютер, но при этом компания вынуждена содержать 100 дармоедов, которых нельзя уволить. Это еще хуже, чем отпустить их на свободу и дать шанс на самосовершенствование.
Искусственный интеллект — ровно то, что закладывают его создатели. Это не человеческая мысль, ее заменить нельзя. А искусственный интеллект не покушается ни на что, потому что у него нет желаний.
Есть много правильных вещей. Все так ругаются на нашу телемедицину просто от непонимания, какие возможности есть. В отдаленном поселке Якутии фельдшер лечил, как мог, а тут вдруг можно и с профессором посоветоваться, причем по объективным историям с нормальной диагностикой. Чуть еще доработать — и чтобы профессор практически уже руками дотянулся через 7 тыс. км и пощупал.
Я лучше скажу, чего не будет. Хотелось бы, чтобы у нас произошел скачок с транспортом, логистикой и дорогами, но он не произойдет в ближайшие 20 лет. Мы будем по-прежнему ремонтировать и строить в том же ритме. Не будет новых видов транспорта, которые мы сегодня не можем предсказать: ни летающих автомобилей, ни беспилотников для жизни. Будем жить, как обычно: не очень счастливо, не очень хорошо и много работать.
Расширенный вариант беседы читайте в материале Игры без разума: что нам даст и чего лишит искусственный интеллект
