Операционная с системой: ИИ защитит роботов-хирургов от хакерских атак
Российские ученые разработали систему безопасности для удаленного проведения хирургических операций — она защитит канал связи между медиком и телеоперационной системой. Для этого предлагается использовать искусственный интеллект. В случае ЧП — атаки хакеров или разрыва соединения по другой причине — он остановит операцию или доведет ее до конца без участия человека. По мнению специалистов, высокие стандарты безопасности оправданны, так как от стабильной работы устройства зависит успех операции. И хотя медицинские учреждения интересуют хакеров гораздо реже, чем, допустим, банковские, известны случаи, когда кибератака ставила под угрозу жизнь пациента на операционном столе, рассказали эксперты.
Железная безопасность
Особую архитектуру для электронных телеоперационных систем, предназначенных для удаленного хирургического вмешательства, разработали специалисты компании «Нейроспутник», резидента «Сколково» и Медтех-кластера. Она автоматически обеспечит безопасность пациента, если оперирующий хирург потеряет контроль над ситуацией. В такие комплексы встраивается искусственный интеллект, который ассистирует врачу в его работе и независимо контролирует безопасность пациента. Если произойдет что-то непредвиденное, программа заблокирует дистанционное управление и завершит операцию самостоятельно.
— В процессе удаленной операции есть риск кибератак и потери управления. Нападения могут проводиться разными методами. Возможна и просто потеря данных при их передаче. В результате хирургическое вмешательство может закончиться с тяжелыми последствиями для пациента. Мы предложили свое решение этих проблем,— сообщила генеральный директор «Нейроспутника», доцент МИСИС Александра Бернадотт.
Технологии для телехирургии развиваются сейчас во всем мире. В большинстве из них для проведения операций используется роботизированный манипулятор, которым медик может управлять из любой точки планеты. Такой подход позволяет проводить сложные операции там, где это ранее было невозможно. Например, в условиях полевого военного госпиталя, на объектах, расположенных вдали от больших городов, или в космосе.
Однако практическое использование систем для удаленной хирургии осложняется высокими требованиями безопасности, так как любое ее нарушение может привести к непоправимым последствиям для здоровья пациента. По данным исследователей из Университета Раш в Чикаго, с 2000 по 2013 год 144 операции с участием роботизированных систем закончились смертью человека. Правда, в этой статистике речь не идет о машинах, управляемых человеком удаленно. Однако эти технологии во многом похожи.
По словам Александры Бернадотт, опасность представляют ошибки при передаче команд от хирурга к манипулятору, полная или частичная потеря сетевого соединения или отказ отдельных компонентов системы. Такие проблемы могут возникнуть как из-за кибератак, так и в результате перебоев с сетевым соединением.
Физическую безопасность пациента защищает специальная автономная система, к которой нет сетевого доступа. Управлять ею можно только при наличии непосредственного доступа к устройству, рассказала специалист. Если злоумышленники перехватят контроль над оперирующим модулем либо он выйдет из строя, по команде системы хирургические инструменты остановятся в безопасной позиции или необходимые манипуляции будут доведены до конца автоматически. В случае потери связи с хирургом ИИ приостановит операцию и возобновит ее после повторного подключения медика. На случай проблем с электричеством предусмотрен блок автономного питания.
Система безопасности, предложенная разработчиками, в первую очередь предназначена для использования в оперирующем устройстве «Левша», работы по созданию которого ведутся сейчас в России компанией «Нейроспутник». Его планируют использовать для дистанционных эндоваскулярных операций, которые позволяют, например, проводить хирургическое вмешательство на мозге без трепанации черепа. Это делается за счет микрокатетера, который вводится в бедренную артерию. Также «Левша» может проводить сердечно-сосудистые операции. Устройство станет первым в мире с такими возможностями.
Умен и опасен?
Так как важная роль в обеспечении безопасности таких систем отдается искусственному интеллекту, возникает вопрос, насколько можно ему доверять.
— Ошибки ИИ, конечно, возможны. Избежать их можно, только используя математически точные методы машинного обучения. Нейросети тут предстают как черные ящики. Но человек в таких условиях ошибается на порядки чаще, — пояснила Александра Бернадотт.
Когда речь идет о создании некой роботизированной системы с расширенными требованиями к безопасности, регулятор будет предъявлять к ней самые строгие требования, поясняет заведующий лабораторией анализа показателей здоровья населения и цифровизации здравоохранения МФТИ Станислав Отставнов.
— Здесь есть модуль искусственного интеллекта. Система непосредственно будет взаимодействовать с пациентом и выполнять манипуляции на нем. Кроме того, ИИ всегда относят к наиболее высокому классу риска, — отметил специалист.
По его мнению, опасность хакерских атак на системы, которые проводят хирургические операции простым пациентам, невелика, так как злоумышленников чаще интересуют банковские, а не медицинские учреждения.
Как пояснил эксперт по кибербезопасности Kaspersky ICS CERT Владимир Дащенко, оценить систему безопасности, опираясь исключительно на ее описание, сложно. Это связано с тем, что в любой IT- или киберфизической системе необходимо оценить модель угроз, которую построили для той или иной системы, и провести соответствующее тестирование, чтобы определить ее уровень защищенности. После этого станет понятно, насколько эффективна та или иная система безопасности, считает эксперт.
— Пока сложно сказать, достаточен ли уровень безопасности для практического использования системы. В целом известны случаи, когда кибератака ставила под угрозу жизнь пациента на операционном столе. Тогда врачи принимали решение закончить операцию, полагаясь только на свой опыт, память и классическую хирургию без киберсоставляющей, — сказал Владимир Дащенко.
По мнению эксперта, это непростой вопрос, который требует дополнительных исследований.
