От будущего, настойчиво стучащегося в двери (где-то на соседней страничке есть заметка о криптовалютах и блокчейне), переходим к теме, до недавнего времени волновавшей лишь футурологов да писателей-фантастов.
Так, в прошлую пятницу Ассоциация юристов Украины провела дискуссию под названием "AI & Law: To Regulate or to Be Regulated?", участники которой обсудили вопросы регулирования разработки и использования искусственного интеллекта (далее – ИИ) и робототехники.
Мечты об электроовцах
Вот уже сотню лет лучшие умы человечества бьются над идеей создания искусственного разума. Но несмотря на активную работу и даже некоторые успехи в этом направлении, говорить о создании полноценного ИИ на сегодняшний день было бы преждевременно.
Так зачем же регулировать то, что сегодня даже не существует? Ответить на этот и многие другие вопросы попытался управляющий партнер ЮФ "Dexis Partners", член Международной ассоциации искусственного интеллекта и права, Иван Городисский, представив доклад, посвященный проблемам законодательного регулирования в сфере ИИ и робототехники.
Несмотря на то, что в юридических кругах о нейронных сетях и робототехнике заговорили относительно недавно, И. Городисский заметил, что отдельные статьи, посвященные проблематике, публиковались еще в конце 80-х; впрочем, лишь в последние годы акцент сместился в сторону практических вопросов, а вслед за учеными и энтузиастами вопросами ИИ и робототехники заинтересовались и бюрократы.
Так, принимая во внимание тенденции в сфере ИИ и робототехники, в том числе распространение так называемых умных и автономных машин (самоуправляемых автомобилей, дронов и медицинских роботов), способных к самостоятельному обучению и принятию решений, 16 февраля 2017 года Европейский Парламент принял резолюцию "Нормы гражданского права о робототехнике" № 2015/2103(INL).
При этом, подчеркнул докладчик, в отсутствие соответствующей практики авторы документа вынуждены ссылаться даже на литературные источники: миф о Пигмалионе, легенду "Как раввин Лев создавал Голема", а также творчество таких писателей, как Мэри Шелли, Карел Чапек и Айзек Азимов ("три закона" которого цитируются едва ли не дословно).
Так что же предлагают евродепутаты?
Законы робототехники
В современной науке нет единого определения ИИ или робототехники, как нет его и в резолюции Европейского Парламента. На сегодняшний день следует говорить об их отдельных проявлениях, таких как умные и автономные машины, упомянутые выше.
В своем докладе И. Городисский отметил следующие пункты указанной резолюции:
• Умные машины не должны заменять человека полностью, а только дополнять его возможности для большей эффективности; человек должен иметь возможность в любое время контролировать ИИ и робототехнику.
• Разработчики должны уделять особое внимание эмоциональной взаимосвязи машины и человека, что, в свою очередь, включает в себя возможность однозначной идентификации машины как таковой.
• Кроме того, необходимы разработка и внедрение общеевропейской системы стандартов в области ИИ и робототехники, создание единого реестра продвинутых роботов и, наконец, учреждение специального Агентства ЕС, компетентного в технических, этических и регуляторных вопросах, связанных с умными машинами.
Впрочем, на этом инициативы парламентариев отнюдь не заканчиваются. Так, ожидаемо, бурную дискуссию вызвал вопрос о юридической ответственности ИИ и роботов.
Согласно резолюции Европарламента на сегодняшнем этапе ответственность машины за негативные последствия совершенных ею действий исключается полностью. В таком случае, – отметил докладчик, – отвечать будут производитель, оператор, собственник или пользователь (и, что весьма вероятно, солидарно).
Но как определить, чье деяние привело к негативным результатам?
На заметку
Как верно заметил один из участников дискуссии, из текста резолюции непонятно, является ли "производителем" робота разработчик программного обеспечения или изготовитель аппаратной части.
Так, продвинутых роботов, обладающих высокой автономностью воли, по мнению авторов резолюции, следует оборудовать "черным ящиком" (англ. black box), записывающим данные о каждой совершенной операции, а также логику рассуждений, по которым робот принял то или иное решение.
Вместе с тем Европарламент пришел к выводу, что возможным решением вопроса о поиске лица, обязанного нести ответственность за вред, причиненный роботом, является введение системы общеобязательного страхования по аналогии со страхованием ответственности собственников транспортных средств.
Вместо заключения
Стоит понимать, что резолюция Европейского Парламента не претендует на всесторонность и всеобъемлемость и даже не является обязательной – это лишь первый, несмелый шаг в сторону регулирования отношений в сфере ИИ и робототехники.
И все же зачем регулировать то, что на сегодняшний день даже не существует? По мнению И. Городисского, государство, которое первым примет законы в сфере ИИ и робототехники, несомненно установит стандарт, на который будут ориентироваться и другие страны; таким образом, Союз, будучи далек от передовой технической революции, пытается обезопасить себя не только от игры на чужом поле, но и по чужим правилам.
И с этой точки зрения инициативы отечественных юристов по разработке Закона "О роботах и робототехнике" уже не выглядят полной бессмыслицей.