Александр Латыев в своем блоге, обсуждая вопрос о возможной правосубъектности искусственного интеллекта (ИИ), задается вопросом о «границах виртуальной личности».
«[К]ак бы [мы] ни относились к ИИ — как к лицу, его подобию, либо же инструменту его владельца или создателя — придется решить прежде всего проблему определения границы ИИ, отделения действий одной виртуальной личности или одной виртуальной вещи от другой. Где проходит эта граница? Уж явно не по границам вычислительных машин, в которых он «живет». Даже государственные границы сегодня не препятствие для распределенных вычислений. Может, стоит искать границы программ и их процессов? Может ли информатика дать нам ответ на этот вопрос?
Определение этой границы необходимо для любого правового регулирования. Для него необходимо отличать действия одного лица от действий другого, даже если эти действия совершаются посредством машин, и тем более если ИИ будет наделяться субъектностью. Без отграничения «меня» от «тебя» и «моего» от «твоего» право не работает.»
***
Субъект (в отличие от объекта) — это прежде всего центр обработки информации. Он получает информацию о внешнем мире через рецепторы (систему ввода), обрабатывает ее при помощи тех или иных процессов и выдает сигналы на аффекторы (система вывода).
В живой природе границы субъекта всегда проходят по физическим границам организма, или скорее даже по границам нервной системы организма. В компьютерном мире такой внешней физической границей являются системы ввода и вывода информации, но это только начало ответа. В отличие от живой природы, в рамках одного компьютера может работать несколько программ, осуществляющих такую обработку информации независимо друг от друга (несколько субъектов живут в одной машине). С другой стороны, одна такая программа обработки информации может работать на нескольких объединенных в сеть компьютерах в режиме распределенных вычислений (один субъект живет в нескольких машинах).
Вывод: границы субъекта надо искать не в физическом пространстве, а в блок-схемах программ, обрабатывающих информацию.
Я бы сказал так. Виртуальный субъект — это совокупность процессов обработки информации, образующих связное множество.
«Связность» означает, что между каждыми двумя процессами существует хотя бы одна цепочка информационных связей, напрямую или через другие процессы. Если же, например, в рамках одной машины реализованы два таких связных множества процессов обработки информации, не взаимодействующие между собой, это означает, что в этой машине живут два виртуальных субъекта, даже если они используют одни и те же системы ввода и вывода. (Сходная ситуация бывает у шизофреников, страдающих раздвоением личности.)
***
Но «проведение границ» виртуальной личности — это лишь первый шаг к правосубъектности.
Может ли вообще совокупность процессов обработки информации стать участником гражданского оборота? Почему бы и нет, ведь человек, в сущности, это тоже совокупность процессов обработки информации. Но ясно также и то, что не всякая совокупность процессов заслуживает звания субъекта.
Технически подобные процессы без проблем могут совершать сделки. Компьютерные программы давно и успешно торгуют на биржах и т. п. Пока что они совершают сделки от имени людей и компаний.
Но в принципе правопорядок вполне может придать правосубъектность виртуальному субъекту, наделив его правами и обязанностями юридического лица. Если что, с робота можно будет взыскать долг через суд, проторговавшегося робота можно будет обанкротить и т. п. (А создателя робота, кстати, можно к субсидиарной ответственности привлечь.)
Однако для всего этого нужно, как минимум, чтобы такие виртуальные субъекты были в достаточной степени стабильными и идентифицируемыми.
Иначе говоря, нужна уверенность, что завтра субъект останется тем же, что был сегодня (в компьютер не запишут совершенно новую программу вместо старой), и что сделку совершает именно этот виртуальный субъект (а не другой субъект, использующий ту же систему вывода, например). По-видимому, обеспечить это можно двумя концептуально различными способами.
Первый — локализация каждого виртуального субъекта, которому предоставляется правосубъектность, в отдельном физическом «теле» (роботе или компьютере) с собственными системами ввода и вывода. Плюс установление правового запрета на модификацию таких субъектов извне (субъект права должен действовать самостоятельно, без внешнего вмешательства!).
Второй — реализация соответствующих процессов в рамках некоей системы, обладающей свойствами «неизменяемости» (программу нельзя модифицировать, после того, как она записана в систему). Таким свойством обладают, например, смарт-контракты в блокчейне Ethereum. В рамках этой системы легко может производиться и идентификация программы, от которой исходит сообщение. Так, в блокчейне Ethereum каждому смарт-контракту соответствует уникальное число, по сути являющееся идентификатором строки в распределенном реестре, где записана программа смарт-контракта.
Защита стабильности субъекта здесь осуществляется принципиально иным способом, чем в случае физически изолированного робота. В блокчейне неизменяемость информации обеспечивается ее многократным дублированием (копии блокчейна хранятся на множестве компьютеров-нод, каждый из которых исполняет код каждого смарт-контракта). Ввиду этого реализация искусственного интеллекта на смарт-контрактах пока что остается слишком дорогим удовольствием. Но чисто теоретически это возможно уже сейчас.
***
Способность к обработке информации, идентифицируемость и стабильность — необходимые, но не достаточные условия для придания системе правосубъектности. Подобными свойствами обладают, например, улитка или собака, но мы их не делаем субъектами права!
По-видимому, для получения правосубъектности системе необходимо как минимум умение понимать значение применимых к ней норм права. Иначе говоря, способность понимать язык, на котором формулируются нормы права.
Важно понимать, что это не тот язык программирования, на котором написан код самой системы. Речь именно о языке правовых норм, то есть о (1) языке описания фактов, являющихся элементами гипотез правовых норм, (2) языке запретов и дозволений, составляющих диспозиции правовых норм, и (3) языке описания санкций в случае нарушения нормы.
Это не обязательно естественный человеческий язык; тут, наверное, можно подумать и о каком-то особом языке правовых норм для роботов. Впрочем, если роботы будут участвовать в гражданском обороте (хотя бы в той же биржевой торговле) наравне с людьми, то им необходимо уметь читать соответствующие нормы именно на человеческом языке — или эти нормы должны быть написаны на языке, понятном и людям, и роботам.
По-видимому, для успешного пользования подобным языком нашему роботу необходимо иметь в голове некую виртуальную модель вселенной, где сам робот существует отдельно от остальной вселенной; может совершать действия, направленные на познание и изменение вселенной; а также может обмениваться информацией с другими обитателями вселенной на предназначенном для этого языке общения. В философии это свойство называют сознанием.
Выходит, для получения правосубъектности компьютерная система должна обладать сознанием!
И вот именно до этого пока еще очень далеко.
Если проблемы «искусственного интеллекта» (в узком техническом смысле), а также стабильности и идентифицируемости виртуального субъекта уже сегодня в принципе решены или решаемы, то до создания системы, способной понять значение норм ГК в степени, достаточной для эффективного участия в гражданском обороте, нам еще ехать и ехать.
А про значение норм НК я вообще молчу. Их и человек-то не всякий поймет…
