Понятие «электронного лица»: обзор существующих подходов к наделению юнита искусственного интеллекта правосубъектностью
Существуют различные концепции правосубъектности, в рамках которых возможно рассматривать смысл, природу и содержание правосубъектности роботов и юнитов искусственного интеллекта (в том числе и применительно к сфере интеллектуальной собственности).
Например, по мнению Филипе Майа Александре, юниты искусственного интеллекта могут иметь моральное право на получение правосубъектности в тех ситуациях, когда они обладают способностями действовать действительно автономно и иметь существенный (заложенный или наработанный) субъективный опыт .
В рамках действующего законодательства (в разных правовых системах) компьютеры (компьютерные системы) до сегодняшнего дня полностью лишены правосубъектности, и, следовательно, они не обладают правоспособностью, то есть не могут иметь права и обязанности, выражать действительную волю, нести ответственность за свои действия. Однако юниты искусственного интеллекта могут не только действовать в соответствии с заложенными в них знаниями, но и учиться на собственном опыте, изменять свое поведение в соответствии с различными процессами,
504
в частности когнитивными, реактивными и проактивными . [501] [502] Поведение юнита искусственного интеллекта определяется людьми независимо от того, насколько сложным или автономным оно является, однако, поскольку роботы и их алгоритмы становятся всё более продвинутыми, они могут приобретать «человеческие» характеристики, такие, как способность независимо мыслить, понимать сложные концепции[503]. Данный подход основан на определении антропоморфных качеств соответствующего субъекта и не лишён недостатков. В частности, в силу того, что возможность признания юнита искусственного интеллекта электронным лицом, наделённым правосубъектностью не в силу юридической необходимости для решения некоторых правовых проблем, а в силу определённых качеств такого юнита, ведёт к необходимости глобального пересмотра концепций правосубъектности вообще. Именно в рамках такого подхода предоставление юнитам искусственного интеллекта правосубъектности может открыть путь к наделению их в будущем правами, схожими с правами человека[504]. Франсишку Андраде, Паулу Новаиш, Хосе Мачаду и Хосе Невеш задаются вопросом о том, могут ли вообще агенты - юниты искусственного интеллекта в принципе быть персонифицированы, и отмечают, что термин «лицо» во многом связан с социальными и правовыми ролями, которые играет человек. Поскольку в XXI веке социальные роли в существенной степени пересматриваются, постольку интеллектуальные программные системы могут в ближайшем будущем 507 играть некоторые новые социальные роли . Современные юниты искусственного интеллекта способны осуществлять сложные и обширные рассуждения, однако они ограничены очень конкретными областями и задачами; ни один юнит искусственного интеллекта не близок к общему интеллекту (которым наделены люди и, в определённой степени, некоторые млекопитающие), способному адаптироваться и обучаться в ситуациях широкого круга. Поэтому, хотя идея правосубъектности искусственного интеллекта позволяет обозначить дискуссию о том, какие права и обязанности могут ему приписываться (в рамках частичной правосубъектности), полная правосубъектность, эквивалентная человеческой, невозможна в настоящее время и в обозримом будущем. Зачастую в рамках подхода, схожего с приведённым выше, проводят параллели между вопросом о необходимости наделения юнитов искусственного интеллекта правами и обязанностями и актуальным вопросом защиты прав животных. В ряде стран так или иначе есть некоторая практика признания за «разумными» животными некоторых прав, в частности, как отмечает Джеймс Гэрфорт, в Швейцарии и Германии впервые животные начали рассматриваться как существа, а не только как объекты, в Новой Зеландии были признаны некоторые права высших приматов, а в Индии - китов[505] [506] [507]. Ричард Купп отмечает, рассматривая возможность наделения правосубъектностью животных, что это может создать угрозу для наиболее уязвимых категорий людей с недостаточными когнитивными способностями, в силу чего, из-за их возраста или заболеваний, они не могут быть независимыми вообще или пользоваться меньшей независимостью, чем некоторые животные. разрушительными для общества[508]. То же может быть применимо и к искусственному интеллекту: очевидно, что, в случае создания такой возможности на законодательном уровне, правами и обязанностями будет наделяться не каждый юнит искусственного интеллекта автоматически, значит, должны быть установлены какие-то соответствующие критерии. При этом исследователи также отмечают, что область защиты прав животных, которая позволяет провести нужные параллели при рассмотрении идеи негуманоидных субъектов права, как правило, сосредоточена на предотвращении жестокости, а не на определении того, какими именно правами человека должны пользоваться животные. С учётом того, что искусственный интеллект не может испытывать подлинные страдания, в центре внимания должны быть именно его права и обязанности[509]. При этом если попытки расширения прав животных объясняются практическими идеями защиты животных (от жестокого обращения), то попытки наделения правосубъектностью иных сущностей являются, по- видимому, следствием необходимости решения проблемы их категоризации в рамках правового пространства[510]. Конкретное содержание понятия «электронное лицо», отражающего специфическую форму правосубъектности юнитов искусственного интеллекта, находится сегодня на стадии научно-юридической проработки и обсуждения, конструирования. Рассмотрим понятие правосубъектности применительно к юнитам искусственного интеллекта. Начнем с понятия общей правосубъектности в целом, которая предполагает способность осуществлять права и выполнять обязанности, а также нести ответственность. Всех субъектов права можно разделить на две основные крупные категории: индивидуальные и коллективные субъекты. К индивидуальным субъектам относятся физические лица, к коллективным - организации, государство и т.д. Концепция электронного лица (как потенциального субъекта права) является совершенно новой, соответственно, в первую очередь, необходимо понять, вписывается ли такое лицо в указанную классификацию либо же будет представлять собой новый вид субъектов. Следствием наделения юнитов искусственного интеллекта правосубъектностью будет то, что такие устройства будут иметь не только права, но и обязанности . При этом цель наделения актора правосубъектностью заключается в том, чтобы позволить ему иметь определённые правовые последствия своих действий и ощущать на себе воздействие этой правовой системы . Именно возможность (способность) ощущать на себе последствия своих действий (бездействия) может стать ключевым вопросом, отправной точкой. Шейх Солайман указывает, что вкратце правосубъектность включает в себя следующие требования или атрибуты: лицо может быть субъектом права; быть субъектом права влечёт за собой способность осуществлять права и выполнять обязанности; осуществление права требует осознанности и выбора[511] [512] [513]. Применительно к исследуемой тематике заслуживают внимания содержащиеся в проекте Федерального закона «О внесении изменений в Гражданский кодекс Российской Федерации в части совершенствования правового регулирования отношений в области робототехники» (авторства Д.С. Гришина (Grishin Robotics) и международной юридической фирмы Dentons)[514] предложения дополнить Часть первую Гражданского кодекса Российской Федерации новой главой, и в частности статьёй 127.1 «Понятие робота-агента» следующего содержания: «1. 2. Виды моделей роботов-агентов должны быть зарегистрированы их производителями в едином государственном реестре роботов-агентов. Порядок создания и ведения реестра роботов-агентов, а также орган, уполномоченный в области создания и ведения такого реестра, определяются в соответствии с федеральным законодательством о робототехнике. 3. Робот признаётся роботом-агентом и наделяется правоспособностью при условии регистрации его модели в едином государственном реестре роботов-агентов и с момента публичного заявления его собственника о начале его функционирования в таком статусе. До момента таких регистрации и публичного заявления действия робота рассматриваются как действия его владельца в соответствии с общими правилами о роботах, установленными настоящим Кодексом, законом или иными правовыми актами. Требования к указанному публичному заявлению, а также дополнительные условия начала, окончания и (или) приостановления правоспособности робота-агента определяются в соответствии с законодательством о робототехнике. 4. Регистрация моделей роботов-агентов является добровольной. К роботам, модели которых не зарегистрированы в качестве роботов-агентов, положения настоящей главы не применяются. 5. С момента исключения модели робота из реестра роботов- агентов ответственность за действия робота-агента перед третьими лицами несёт собственник, с учётом условий, определённых договором между собственником и владельцем (владельцами), а также положений закона или иных правовых актов.» В том же законопроекте предложено дополнить названный акт и статьёй 127.7 «Правоспособность робота-агента» следующего содержания: «1. 2. Уполномоченный орган Российской Федерации в области робототехники вправе ограничивать случаи участия роботов-агентов и в пределах одного вида деятельности, а также устанавливать иные ограничения и (или) требования, применимые к роботам-агентам, их собственникам, владельцам и иным лицам, участвующим в отношениях с роботами-агентами». Однако, на наш взгляд, эти законодательные предложения не предлагают релевантных решений исследуемых нами проблем. Так, законопроект не фиксирует вообще никаких требований к роботу-агенту (юниту искусственного интеллекта), единственное исключение - регистрация такого агента. Такой подход размывает предметно-объектную область регулирования этого законопроекта, делает её совершенно неконкретной. Явно не проработан авторами законопроекта вопрос об «собственном обособленном имуществе робота». Причём, прежде всего, - с теоретической точки зрения. У робота явно совершенно иное отношение к имуществу, нежели у человека, и в этом коренится дефект идеи. Это как если бы роботу приписали ещё и религиозные верования. Представляется целесообразным привести также и следующий пример. В США в декабре 2017 года был разработан и внесён в Конгресс проект Закона «Об основополагающем понимании применимости и реалистичной эволюции искусственного интеллекта» (Закон о будущем 517 искусственного интеллекта) от 2017 года . Данный проект представляет научно-исследовательский интерес в силу предлагаемого в нём определения понятия искусственного интеллекта. Подпункт 1 пункта «а» статьи 3 данного проекта нормативноправового акта предусматривает, что понятие «искусственный интеллект» включает в себя следующее (считаем повтор здесь ранее уже приводившегося перевода извлечений обоснованным): «(1) Искусственный интеллект. - Термин “искусственный интеллект” подразумевает следующее: (A) любые искусственные системы, выполняющие задачи в изменяющихся и непредсказуемых условиях без значительного контроля со стороны человека либо способные учиться на своем опыте и повышать свою производительность. Такие системы могут быть разработаны в программных, аппаратных или других, ещё не предполагаемых дизайнах. Презюмируется, что они могут решать задачи, требующие человекоподобного восприятия, сознания, планирования, обучения, сообщения или физических действий. В целом, чем более система антропоморфна в контексте своих задач, тем более можно утверждать, что она использует искусственный интеллект; (B) системы, думающие как люди, такие, как когнитивные архитектуры и нейронные сети; (C) системы, действующие как люди, такие, как системы, способные пройти тест Тьюринга или другие аналогичные тесты [515] [516] посредством обработки естественного языка, представления знаний, автоматизированных рассуждений и обучения; (D) набор технических средств, стремящихся имитировать выполнение каких-либо когнитивных задач; (E) системы, действующие разумно, такие, как интеллектуальные программные агенты и материально осязаемые роботы, достигающие своих целей с помощью восприятия, планирования, рассуждения, обучения, коммуницирования, принятия решений и совершения действий. (2) Общий искусственный интеллект. - Термин “общий искусственный интеллект” условно означает систему искусственного интеллекта будущего, которая демонстрирует, по-видимому, интеллектуальное поведение, по крайней мере, настолько же продвинутое, как и поведение человека, причём как когнитивное, так и эмоциональное, так и социальное. (3) Инструментальный искусственный интеллект. - Термин “инструментальный искусственный интеллект” означает систему искусственного интеллекта, решающую задачи в определённой прикладной области, такой, как стратегические игры, перевод с языка на язык, беспилотные автомобили и распознавание образов»[517]. Данное определение исходит из концепта антропоморфности юнита искусственного интеллекта, но, несмотря на это, указанный проект нормативно-правового акта не содержит указаний на необходимость или даже возможность наделения юнитов искусственного интеллекта специфической правосубъектностью. В любом случае, представленные законопроекты отражают лишь точки зрения их разработчиков, а подходов в научной литературе представлено несколько больше. Дженнифер Робертсон отмечает, что в западной научной литературе, рассматривающей вопросы прав роботов, как правило, противопоставляются живой человек и неживой негуманоидный субъект (с искусственным интеллектом) и предлагаются следующие подходы: - проведение аналогии между правовым статусом животного и потенциальным правовым статусом робота; - проведение аналогии между правовым статусом человека с ограниченными возможностями и потенциальным правовым статусом робота; - наделение робота новым видом правового статуса, который не соответствует правовому статусу ни человека, ни вещи[518] [519] [520] [521]. Если юридическое лицо, действительно, представляет собой в определённой степени юридическую фикцию , то вполне обоснованно, пишет А.В. Нестеров, было бы рассматривать юнит искусственного интеллекта как «очередную юридическую фикцию в виде некоторой 522 организационной конструкции с искусственным интеллектом» . Как объясняет Буркхард Шафер, использование лексической конструкции «электронное лицо» изначально было несколько некорректным, способным ввести в заблуждение, но юристы понимают правосубъектность иначе. Подобного рода юридические термины вводятся для удобства. Мы наделяем компании статусом «юридическое лицо» не ~ 523 потому, что они заслужили этого, а просто для целей упрощения , удобства. По словам Мади Дельво, понятие «электронное лицо» в определённой степени аналогично понятию «юридическое лицо» - это абстрактная юридическая форма, а не биоэтическая или философская 524 констатация . Ф.В. Ужов предлагает следующее определение: электронное лицо - это носитель искусственного интеллекта (машина, робот, программа), обладающий разумом, аналогичным человеческому, способностью принимать осознанные и не основанные на заложенном создателем такой машины (робота) алгоритме решения и в силу этого наделённый определёнными правами и обязанностями[522] [523]. А.А. Карцхия, допуская возможность самостоятельности, автономности юнита искусственного интеллекта со статусом «электронного лица», считает необходимым исходить из того, что юнит искусственного интеллекта должен действовать под контролем принципала-человека и быть, в конечном счёте, подконтрольным и подотчётным человеку в правовом смысле[524]. Анализ представленных в отечественной и зарубежной научной литературе идей и подходов относительно исследуемого предмета позволяет выделить следующие концепты, в рамках которых делаются попытки ответить на вопрос о правосубъектности юнита искусственного интеллекта: - концепт индивидуального субъекта права применительно к электронному лицу (правосубъектность юнита искусственного интеллекта, коррелируемая (соотносимая, сопоставимая) с правосубъектностью человека); - концепт коллективного субъекта права применительно к электронному лицу (правосубъектность юнита искусственного интеллекта, коррелируемая (соотносимая, сопоставимая) с правосубъектностью юридического лица); - концепт специальной ограниченной правосубъектности электронных лиц в контексте агентских отношений. Кроме того, существуют подходы к наделению юнитов искусственного интеллекта правосубъектностью, схожей (сопоставимой) с человеческой, правосубъектностью юридических лиц, а также ограниченной правосубъектностью животных. Чуть ниже эти подходы будут рассмотрены и объяснены детально. Впрочем, известны и более сложные подходы, если выделять таковые по иному основанию. Тим Малган выделяет четыре основных правовых подхода к определению правосубъектности «цифровых существ» (то есть юнитов искусственного интеллекта): - концепция исключительной правосубъектности («exclusivism»), согласно которой только биологические гуманоидные (человеческие) существа могут выступать как субъекты, или лица, с самостоятельной условно полноценной правосубъектностью (соответственно, указанные юниты не могут быть таковыми ни в коем случае); - концепция минимальной инклюзивности («minimal inclusivism»), согласно которой цифровое существо может быть ограниченно автономным агентом, но не правоспособным агентом или лицом с самостоятельной условно полноценной правосубъектностью; - концепция умеренной инклюзивности («moderate inclusivism»), согласно которой цифровое существо может быть как ограниченно автономным агентом, так и правоспособным агентом, но не лицом с самостоятельной условно полноценной правосубъектностью; - концепция полной инклюзивности («extreme inclusivism»), согласно которой цифровое существо может быть лицом с самостоятельной правосубъектностью, наделённым правами человека и 527 имеющим значимые интересы . 3.3.3.