Спецпроекты
О боевых роботах, компьютерном суперинтеллекте и правовых подходах к ИИ
О боевых роботах, компьютерном суперинтеллекте и правовых подходах к ИИ
Люди
отправить
Задать вопрос
по материалу
 

Никита Куликов: Боевые роботы – это то же самое что автомат Калашникова

О боевых роботах, компьютерном суперинтеллекте и правовых подходах к ИИ

В Госдуме собирают идеи по правовому регулированию роботехники. Эти вопросы больше не находятся за гранью, разделяющей реальность и фантастику. «Умная страна» поговорила с учредителем автономной некоммерческой организации «ПравоРоботов», создателем Legal Crypto Rating, членом экспертного совета по цифровой экономике Госдумы Никитой Куликовым о том, как меняются подходы к правовому регулированию искусственного интеллекта, какие права могут появиться у роботов в ближайшем будущем и сколько понадобится времени человечеству для того, чтобы изобрести суперинтеллект.

Никита, Вы возглавляет организацию «ПравоРоботов». Расскажите подробнее о ней? Чем она занимается?

Автономная некоммерческая организация «ПравоРоботов» была создана для поддержки утвержденной в 2017 году правительством Российской Федерации программы «Цифровая экономика». «ПравоРоботов» – это в первую очередь экспертная организация. Наши советники и эдвайзеры консультируют разные инфраструктурные и технологические проекты по вопросам цифровой трансформации, структурирования бизнеса, лоббирования интересов, юридического сопровождения, финансового консалтинга, взаимодействия с госорганами и оказание GR поддержки.

Нас периодически приглашают к участию во всех ключевых для цифровой отрасли конференциях и саммитах. Автономная некоммерческая организация «ПравоРоботов» приняла участие в организации и проведении нескольких десятков секций и круглых столов по вопросам, связанным с цифровой трансформацией бизнеса.

Какие подходы к правовому регулированию работы роботов есть на Западе? Есть ли уже какие-то законы, действующие по отношению к роботам, их владельцам или создателям?

Несмотря на всю прогрессивность технологий, мы сейчас с вами в первую очередь все-таки говорим о праве. Право и законодательство насчитывает в своей истории и развитии тысячелетия. А теперь представьте, что весь этот «багаж» придется модернизировать, а иногда и попросту переосмысливать исходя из новых реалий. Поэтому данную задачу в принципе тяжело реализовать: трудно осознать саму возможность переосмысления правовых статутов, которые уже сотни лет до нас существуют, а мы тут такие умные пришли и вдруг решили их переписать. А отвечая на ваш вопрос, я бы сказал, что ответ может быть только один – пока ничего толкового нет, а все подходы сведены исключительно к подстраиванию действующих норм под новые взаимоотношения. При этом, я считаю, что было бы правильным сфокусироваться на создании новых актуальны норм, а не заниматься адаптацией условных «римских статутов» под взаимоотношения робота и человека.

Какие подходы к правовому регулированию искусственного интеллекта есть в России?

В этом вопросе мы также не далеко ушли от наших западных коллег, и пытаемся встроиться в имеющиеся правовые рамки. При этом я не говорю, что новых и необычных предложений нет – просто если пойти чуть дальше и продумать этапы принятия законодательных актов, то очевидно, что сразу принять, что называется «в лоб», никакой нормативно-правовой акт по экстраординарной тематике не получится, и делать это надо постепенно. Собственно, так я и поступил с концепцией АНО «ПравоРоботов» по регулированию беспилотного автотранспорта. Мы предложили начать регулирование с внесения поправок в ПДД и только после этого предлагаем заняться разработкой полноценного закона. И в целом, такой подход справедлив ко всем новым и уникальным законодательным инициативам.

Раз уж вы заговорили о беспилотных автомобилях, то давайте их и обсудим. В Иннополисе в Республике Татарстан недавно начало работать беспилотное такси. Также беспилотники активно тестирует «Яндекс» на различных закрытых участках дорог. Сколько времени понадобится, чтобы беспилотные автомобили появились на улицах российских городов? И какие законодательные акты для этого надо принять?

В первую очередь, как я уже отметил ранее, необходимо внести соответствующие поправки в ПДД, которые помогут закрепить в законодательстве ключевую терминологию связанную с беспилотными автотранспортными средствами. В частности, я считаю первоочередным вопросом законодательно закрепить, понятие беспилотного автотранспортного средства, вопрос наличия ответственного лица такого автобота, установку «черного ящика», предусмотреть возможность наличия функции переключения с автоматического режима управления автоботом на ручной, ну и разумеется ввести специальную дорожную разметку и знаки-обозначения для автоботов. Я бы еще добавил запрет на перевозку в таком транспорте несовершеннолетних лиц, т.к. безопасность все-таки прежде всего, а технология это новая и всякое может случиться. Во всех остальных вопросах я предлагаю по-прежнему руководствоваться нормами ПДД. Это будет такой промежуточный компромиссный вариант, который поможет эффективно дождаться появления специализированного федерального законодательства и при этом не тормозить прогресс. К слову, наше предложение пока что осело в Министерстве транспорта РФ, т.к. государственная политика в данном вопросе еще только определяется.

В Женеве в начале сентября прошло заседание группы правительственных экспертов ООН, где обсуждались законодательные ограничения для боевых роботов. Боевые роботы могут самостоятельно искать и уничтожать цели. Какое законодательство должно действовать в отношении них? 

Раз в данный момент мы относимся к роботам как к инструментам, то и никаких дополнительных ограничений вводить не имеет смысла. Автомат Калашникова такой же инструмент, как и условный боевой робот. И что важно – они оба лишены интеллекта. Но при этом, автомат Калашникова не запрещают, а ограничивают оборот, да и то не во всех странах. А терминология «запрещать» и «ограничивать» это две большие разницы. Но если произойдет объединение роботов, в том числе и боевых, как устройства, и условно искусственного интеллекта, т.е. роботы будут наделены возможностью каким-то образом действовать и принимать решения самостоятельно, то, разумеется, вопрос ограничений может уже рассматриваться серьезно. А до тех пор это скорее шумный повод обсудить интересный вопрос, но в то же время достаточно бессмысленный. 

Что вы думаете по поводу запрета на производство таких роботов? 

Как я уже сказал ранее, производство «боевых роботов» должно регулироваться так же, как и производство других видов вооружений, например, таких, как ранее озвученные мною автоматы Калашникова. А до роботов, наделенных искусственным интеллектом, нам всем еще в достаточной мере далеко, так что мы, несомненно, успеем к этому времени подготовится, и морально и законодательно.

Сколько понадобится времени на создание полноценных автономных боевых роботов? 

Думаю, десятки лет. Хотя не удивлюсь, если они появятся условно «послезавтра» - военные и особо секретные разработки на то и секретные, что о них никто не знает. А на каком уровне и стадии разработки данных технологий все эти бывшие «шарашки», научно-исследовательские институты (НИИ) и конструкторские бюро (КБ) находятся, мы даже предположить не можем.

Илон Маск, Билл Гейтс, Стивен Хокинг называли суперинтеллект одной из самых больших угроз человечеству. Согласны ли вы с ними?

Если кратко, то да. И дело тут не в личностях и персоналиях перечисленных вами людей. Хотя они, несомненно, великие и к их мнению сложно не прислушаться. И я могу объяснить почему. Дело в том, что от искусственного суперинтеллекта, так же, как и от интеллекта некоторых людей, можно будет ожидать чего угодно. А теперь представьте интеллект схожий с человеческим, но при этом превосходящий его по возможностям, как в навыках, так и в силе, способности перемещаться, влиять на поведения цифровых устройств, невероятную способность к самообучению и имеющий доступ к неограниченному массиву информации. Лично меня такая перспектива пугает, как и моих коллег.

Могут ли в будущем роботы получить такие же права, как и человек? 

Если роботы получат свою вариацию интеллекта, то тогда их единственное отличие от людей будет заключаться только в физиологических особенностях – условно органика и металл. А такого рода задачи в историческом масштабе уже возникали, к примеру, вопрос расовой сегрегации в США, в рамках которого люди с белым цветом кожи имели отличенные права от людей с черным цветом кожи. Однако вопрос сегрегации был преодолен. И предполагаю, что если подобный вопрос возникнет относительно роботов, учитывая наличие аналогичных прецедентов, он со временем также будет разрешен.

Через сколько лет потребность решить законодательные вопросы, касающиеся роботов, могут стать очень актуальными? 

Как вы правильно отмечаете на протяжении всей нашей беседы, вопрос правового регулирования всегда будет ставиться во главу угла. Причем не только в вопросах робототехники, но и во всех вопросах, связанных с новыми технологиями. Так, например, я создал Legal Crypto Rating именно для проведения правовой аналитики проектов цифровой экономики, то есть проектов новых для экономики, по которым либо еще толком нет нормативного регулирования, либо отсутствует правоприменительная практика. Это, несомненно, новый тренд, который будет актуален еще долгое время. Так что ответ на вопрос, когда появится профильное законодательство не столь принципиален, т.к. даже в отсутствии такого законодательства, как бы это парадоксально не звучало, нужно стараться «его не нарушать», предвосхищая порядок регламентации данных вопросов, пусть и в формате обычаев делового оборота или, скажем, разъяснения действующего законодательства и его приспособления к новым бизнес-процессам и реалиям. 

Беседовал: Александр Столяров


Подпишитесь на рассылку «Умной Страны»
Подписаться