Цифровизация и искусственный интеллект в правовом измерении

Министр цифрового развития, инноваций и аэрокосмичес­кой промышленности Казахстана Багдат Мусин привел убедительные данные, доказывающие, что наша центральноазиатская республика является одним из лидеров в процессе цифровизации. При этом особенно мы продвинулись в сфере оказания государственных услуг. Судя по той информации, которую нам представили, Казахстан превращается действительно в слышащее своих граждан и «человекоцентричное государство».

Анализ деятельности властных структур в прошлом году свидетельствует о том, что права человека в Казахстане реально защищаются и многие человеческие проблемы находят свое разрешение благодаря цифровизации. Именно на этом акцентировал внимание осенью прошлого года на форуме, посвященном вопросам цифровизации, Президент Республики Казахстан, Касым-Жомарт Токаев.

Между тем, знакомство с новейшими достижениями науки и техники в течение трех дней работы Форума наглядно продемонстрировало, что в Казахстане, как впрочем, и практически во всех странах Евразийский экономический союза (ЕАЭС), к сожалению, недостаточно проработана правовая сторона цифровизации, хотя многие процессы, которые сегодня происходят в экономике, в государст­венной и политической жизни, очень тесно связаны с цифровизацией, другими технологическими императивами, внедрением этих технологий во все сферы общественной жизни.

Меня как юриста, в первую очередь интересует: каково правовое оформление происходящих процессов? Насколько наш законодательный массив обеспечивает применение «цифры» именно во благо человека, не будет ли сопутствующих или побочных, как говорят медики, эффектов?

Сегодня во многих странах, в том числе в Казахстане, для обеспечения общественного порядка, соблюдения правил дорожного движения на улицах, в общественных местах устанавливаются видеокамеры, позволяющие распознавать и идентифицировать практически любого человека. Обсуждается вопрос установки видеокамер на избирательных участках во время выборов. При всей полезности подобных мероприятий очевидна необходимость правового механизма, защищающего права человека на неприкосновенность личной жизни.

В прошлом году Президент Казахстана дал поручение разработать так называемый Цифровой кодекс. Насколько мне известно, работа в этом направлении ведется достаточно активно. У наших партнеров, соседей –коллег из Киргизии соответствующий цифровой кодекс разработан и направлен в Парламент. Я думаю, здесь чрезвычайно важен обмен информацией между соответствующими институтами, государственными органами наших стран.

Насколько мне известно, государства – члены Евросоюза и Европарламент также достигли соглашения по закону, который должен регулировать использование искусственного интеллекта. Инициатива направлена на то, чтобы системы ИИ, продаваемые и используемые в ЕС, были безопасными и уважали фундаментальные права и ценности общества.

Симптоматично, что Венецианская комиссия Совета Европы в декабре прошлого года уделила свое внимание вопросу внед­рения цифровых технологий и искусственного интеллекта в ходе избирательных процессов.

Создание искусственного интеллекта стало объективной реальностью. В то же время возникают вопросы не только об ответственности за возможное причинение вреда с его помощью, но и об осмыслении данного феномена с правовых позиций. Особенно важно обеспечение прав человека при использовании искусственного интеллекта. Юридическое оформление этого процесса сегодня находится практически на нуле. Хотя две основные проблемы всегда остаются: первая – это кто отвечает за вред, причиненный тем или иным механизмом, которым «руководил» искусственный интеллект, и вторая – что делать с продукцией, с произведениями искусства, «произведенными» искусственным интеллектом, как быть с авторскими правами?

Искусственный интеллект начинают использовать для написания научных диссертаций, музыки и так далее, я уже не говорю о том, что в будущем может встать вопрос и о правосубъект­ности искусственного интеллекта, ведь в последнее время в Европейском союзе уже всерьез обсуждается вопрос о признании субъектом правоотношений наряду с традиционными (физические, юридические лица и государство) ещё и электронной личности. Уже были случаи даже, когда в некоторых странах брак зак­лючался с роботами. Правда, потом, как мне известно из прессы, суды аннулировали подобные акты.

Американский писатель-фантаст Айзек Азимов еще в середине прошлого века сформулировал «три закона робототехники», ставшие общепризнанным стандартом для научной фантастики. Первый закон звучит так: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Второй: «Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону». И, наконец, третий: «Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам».

Сегодня, когда ИИ активно применяется в военном деле, предложения гениального фантаста кажутся наивными. Но тем не менее законодательные ограничения по использованию ИИ однозначно необходимы.

В литературе высказываются мнения, что информация сегодня – это так сказать «новая нефть», в том смысле, что она очень ценная и в то же время является движущей силой в экономике, политике, социальных процессах. Меняется традиционное представление о романо-германской и англо-саксонской системах права. Правоведы опять заговорили об их конвергенции. Зачастую это происходит даже в таких странах, где однозначно сложилась европейская континентальная система.

В Казахстане вопрос конвергенции английского и континентального права актуализируется в связи с деятельностью Международного финансового центра «Астана», правовая система которого, как известно, основана на праве Англии и Уэльса.

Также необходимо законодательное решение и об обороте криптовалют.

Что касается трудового права, то работать сегодня можно как в офисе или в заводском цехе, так и дома, а также и не в офисе, и не дома, но постоянно находясь на электронной связи с работодателем. Во Франции 8 августа 2016 года принят закон, который дает право работникам в определенное время суток отключаться от средств связи, телефона и так далее. Таким образом, реализуется конституционное право на отдых. В Трудовом кодексе Казахстана с 2022 года дейст­вуют нормы, обеспечивающие защиту трудовых прав граждан, работающих в удаленном режиме.

В административном праве актуализируется вопрос элект­ронного участия граждан в управлении государством. Приходится переосмысливать и некоторые институты конституцион­ного права: конституционная территория государства, время. Территория отсутствует в киберпространстве. Нейтральность и экстерриториальность Интернета – это, условно говоря, «угроза» государственному суверенитету, а социальные сети, по мнению некоторых теоретиков, – патерналистс­ки-вертикальной организации государства.

Ряд ученых предсказывает грядущий кризис представительной демократии. В древности демократия, как известно, носила непосредственный характер (Древние Афины, Новгородское вече, казахские курултаи и прочее). Теперь демократия носит представительный характер: избираются депутаты, президенты и другие представители народа. Насколько легитимными будут устанавливаемые ими правила в ситуации, когда волю всего народа (или его большинства) можно будет выявить через Интернет практически в считанные часы? Как должно реагировать государство на такие импровизированные «референдумы»? Кстати, в некоторых странах уже сейчас устанавливают правила, согласно которым государственный орган обязан принять к рассмотрению обращение, набравшее значительное число электронных подписей (100, 1000, 10 000, 100 000 и так далее). В Казахстане в соответствии с Законом от 2 октября 2023 года для того, чтобы петиция была принята для размещения на интернет – ресурсе, к ней должны присоединится не менее 50 граждан РК.

Широкое применение цифровых технологий в правоохранительной деятельности поможет покончить с таким позорным явлением, как пытки, которое, увы, еще имеет место быть.

Внедрение технологий блокчейна позволяет более успешно вести борьбу с коррупцией, так как практически невозможными становятся нарушения тендерных процедур и других механизмов распределения государственных средств, а также искажение воли избирателей при выборах депутатов, президентов.

В Казахстане уже сейчас начинает использоваться искусственный интеллект в правосудии. Сравнительно недавно, в прошлом году, Верховный суд презентовал соответствующий механизм, который готовит проекты решений по гражданским делам. Стороны заранее (до судебного процесса) могут ознакомиться с тем вариантом, который предлагает искусственный интеллект. Естественно, реальное решение выносит судья именем Республики Казахстан. Искусственный интеллект, таким правом, конечно, не наделен. Но, тем не менее, судья в той или иной степени связан вариантом, предложенным искусственным интеллектом. Ведь в программу ИИ закладывается информация всех законодательных массивов, материалов судебной практики.

Судья, разумеется, вправе, руководствуясь своим правосознанием, чувством справедливости, принять решение, отличающееся от варианта искусственного интеллекта. Но хочет он того или нет, поскольку стороны уже знакомы с проектом ИИ, ему придется мотивировать свои действия. Таким образом, резко сужается возможность коррупционных мотивов и вероятность профессиональных ошибок при вынесении судебных решений.

По имеющейся информации, Казахстан – не только один из первых, он – реально лидер в данной сфере. Почему ИИ весьма сдержанно внедряется во многих странах, так сказать, с «развитым правосудием»? В Европе, особенно в Великобритании и других странах, где применяется английское право или его элементы, опасаются, как говорят их юристы, «десакрализации судейской мантии».

Я не хочу обидеть наших судей, но у нас, к сожалению, такой сакрализации вообще нет. Поэтому мы спокойно идем на внедрение новых технологий, и следует, как мне кажется, поддержать нацеленность судебной реформы на внедрение прогрессивных методов цифровизации в правосудие.

Более того, внедрение искусственного интеллекта даже на стадии составления проекта судебного решения, открывает в перспективе возможность придания ИИ функции арбитра.

Скажем, заключается договор, в котором стороны заранее фиксируют, что в случае спора арбитром будет искусственный интеллект, с решением которого они согласятся. Сегодня это звучит как фантастика, но как знать? Ведь в спорте нечто подобное уже применяется.

В уголовном процессе цифровизация также вполне возможна. Не надо будет оформлять протоколы допроса, осмотра мес­та происшествия и прочее. Дос­таточно сделать опись соответствую­щих видеозаписей. Естественно, при этом необходимо опять же применять технологии блокчейна, исключаю­щие в принципе возможность подделок и фальсификации процессуальных электронных документов.

В обозримом будущем придется пересматривать соответствующие институты и в уголовном, и в гражданском праве, и в ряде других отраслей права.

Полагаем, что назрела необходимость законодательного решения большинства указанных выше вопросов. Интересен опыт Франции, где принят закон о цифровой республике (государстве). У нас в Казахстане, как уже сказано, ведется работа над Цифровом кодексом, а в Киргизии такой проект уже внесен в Парламент.

Учитывая высказанное на форуме единодушное, как мне показалось, мнение о том, что мы стоим на пороге создания единого цифрового пространства на территории ЕАЭС, очевидна, необходимость синхронизации законодательства наших стран в сфере цифровизации. При этом важно не только обеспечить эффективность такого законодательства, но и соблюсти суверенитет всех государств, входящих в экономический союз.

В Казахстане осуществляется переход на качественно новую концепцию цифровизации госуправления, где в цент­ре госполитики находится человек, его нужды и интересы. Такой «человекоцентричный» подход будет гарантировать, что цифровизация в наших странах станет благом для граждан, и не приведет к тем «перегибам», которые час­то изображаются в произведениях-антиутопиях, например, к тотальной слежке за населением и другим ограничениям в правах.

Думаю, что эти и другие правовые проблемы цифровизации и использования ИИ вполне могли бы стать предметом обсуждения на одной из сессий очередного Веронского Евразийского Экономического Форума.