Использование искусственного интеллекта в судопроизводстве: реальность и перспективы
Раиса КОЗОРЕЗОВА,
судья Верховного Суда Республики Беларусь
Источник:журнал «Судовы веснік» №3, 2023
В статье речь идет о тенденциях внедрения в судопроизводство искусственного интеллекта, обращено внимание на его преимущества и недостатки. Рассмотрены варианты использования указанного интеллекта в судопроизводстве, а также вопросы его законодательного закрепления.
Важным критерием оценки качества правосудия была и остается его эффективность. Очевидно, что применение искусственного интеллекта в судопроизводстве может способствовать оптимизации аналитической работы судьи, реализации принципа процессуальной экономии, что позволит сократить сроки рассмотрения споров, а также разгрузить судью от выполнения рутинных задач.
Выделяют два вида искусственного интеллекта: слабый и сильный.
В информатизации судебной системы Республики Беларусь в настоящее время используются элементыслабого искусственного интеллекта,являющегося лишь инструментом для решения задач узкоспециализированной направленности. Под таким интеллектом обычно понимается программа, работающая по заданным алгоритмам.
Основой информатизации судебной системы Республики Беларусь является автоматизированная информационная система судов общей юрисдикции (АИС СОЮ), которая обеспечивает комплексную автоматизацию основных функций судов всех уровней, что приводит к оптимизации и ускорению судебных процедур.
Спектр использования цифровых технологий в деятельности судов достаточно широк: от автоматизированного формирования статистических отчетов, банка данных судебных постановлений, поиска и хранения информации и документов, аудио- и видеопротоколирования судебных процессов, видео-коференц-связи до подготовки электронных документов в системе межведомственного документооборота. С помощью данных технологий осуществляется автоматизированный ввод и обработка информации при осуществлении делопроизводства, анализируются процессуальные документы. Судами соблюдается безопасность всех персональных данных, материалов и сведений, поступающих и аккумулирующихся в электронных системах.
В перспективе планируется изготовление судебных постановлений и исполнительных документов в виде электронного документа, расширение применения технологии электронной цифровой подписи для обеспечения аутентификации пользователей АИС СОЮ и легитимности электронных документов, реализация концепции формирования электронных дел и электронных архивов.
Универсальный (сильный) искусственный интеллект(далее – ИИ) в виде эрудированной и разумной нейросети, над созданием которого трудится мировое сообщество, будет способен, подобно человеку, решать различные задачи, мыслить, взаимодействовать и адаптироваться к изменяющимся условиям, а также создавать новые объекты. Вместе с тем применение технологий ИИ в судопроизводстве можно признать социально оправданным в случае, если достигается полная и своевременная защита прав, свобод и законных интересов при минимальных затратах времени, исключении судебных ошибок, минимальных судебных расходах, защите персональных данных участников процесса и др.
Перечень рисков применения ИИ в правосудии содержится в первом международном акте, посвященном использованию такого интеллекта в судопроизводстве, – Европейской этической хартии о применении ИИ в судебных системах и окружающих их реалиях, утвержденной в декабре 2018 г. Европейской комиссией по эффективности правосудия Совета Европы (далее – Европейская этическая хартия). Европейская этическая хартия содержит пять основополагающих принципов, с учетом которых технологии ИИ могут быть применены: уважение основных прав человека; недискриминация; качество и безопасность; прозрачность, беспристрастность и достоверность; контроль пользователем.
Согласно принципу пользовательского контроля судья должен иметь возможность не согласиться с решением, предложенным искусственным интеллектом, и принять собственное решение по делу, а участнику спора должна быть предоставлена возможность прямого обращения к суду без применения ИИ и право оспорить принятое с помощью ИИ решение [1].
Потенциально существуеттри возможных уровня использования ИИ в судопроизводстве:
- техническая работа как помощника судьи;
- оценка доказательств;
- рассмотрение дела.
На уровне использования ИИ как технического помощника судьи по анализу доказательств судья лично исследует доказательства, имея под рукой результаты анализа, проведенного ИИ. При этом техническая работа ИИ не содержит прямых выводов по вопросам, входящим в предмет доказывания по конкретному делу. Например, ИИ может делать расшифровки (транскрипты) аудиозаписей, проверять наличие в материалах дела выписок из реестров в отношении юридических лиц, объектов права промышленной собственности или объектов недвижимости, в отношении которых заявлены иски. То есть в таком случае работа ИИ заключается в систематизации информации из материалов дела для эффективности и облегчения работы судьи.
ИИ может анализировать доказательства и проверять корректность представленных документов. Судья непосредственно изучает имеющиеся доказательства в совокупности с представленной ИИ аналитикой и самостоятельно делает выводы обо всех значимых для дела обстоятельствах.
Во втором случае, когдаИИ оценивает доказательства, судья опирается на ту оценку доказательств, которую предоставил ИИ. Если в первом случае работа ИИ предполагает подачу информации в более удобном для судьи виде, а суд на ее основе делает выводы относительно обстоятельств, имеющих значение для рассмотрения дела, то во втором случае вывод делается самим ИИ, а не судьей.
Вместе с тем встает вопрос, может ли вывод ИИ быть настолько законным и справедливым, чтобы ему беспрекословно доверять? Конечно, в некоторых случаях работа ИИ может быть максимально точной, особенно если заявлены бесспорные требования. Очевидно также, что возможны случаи, когда выводы ИИ будут вызывать обоснованные сомнения. Однако, поскольку проект судебного акта предшествует решению судьи, последнее слово всегда остается за судьей, который своей подписью может подтвердить выводы ИИ.
Ко второму уровню использования ИИ в судопроизводстве можно отнести и технологии его использования в так называемом предиктивном (прогнозируемом) правосудии (justice predictive). И здесь следует согласиться с высказанным в ряде статей мнением доктора юридических наук, профессора, судьи Верховного Суда Российской Федерации Момотова В.В. о том, что технология прогнозируемого правосудия может рассматриваться только в качестве помощника, но не замены судьи. По его мнению, ответственность за принятие окончательного решения должна лежать только на судье, именно судья должен оценить полученные от ИИ результаты, их качество и применимость в конкретном деле. Вместе с тем при использовании ИИ в предиктивном правосудии существует риск, что судья и участники процесса начнут зависеть от заранее сделанных прогнозов относительно итогов процесса. Судья в случае несогласия с предложенным ИИ решением будет вынужден не только обосновать свои выводы, но и объяснить причину несогласия. Такое положение дел может привести к ситуации, при которой судья будет предпочитать идти путем наименьшего сопротивления, автоматически соглашаясь с решением ИИ, что недопустимо [2; 3].
Третий уровень использования ИИ в судопроизводстве – это вероятностьрассмотрения дела самим ИИ, самостоятельно принимающим судебные акты. В таком случае, в отличие от ИИ, делающего выводы по существу спора, судья фактически не анализирует доказательства, имеющие значение для правильного разрешения дела.
Такое использование ИИ имеет целый ряд недостатков.
Во-первых, жизнь настолько многообразна, что невозможно заранее создать алгоритм для разрешения каждой судебной ситуации роботом-судьей и решения им всех процессуальных задач. Кроме того, поскольку ИИ для принятия решений «электронным судьей» и алгоритм действий последнего создают люди, у которых могут быть разные подходы к решению той или иной правовой ситуации, то ни один из подходов, сформированных человеком в алгоритме, не может считаться самым лучшим или совершенным.
Во-вторых, при рассмотрении дела ИИ не будет соблюдаться конституционный принцип осуществления правосудия только судом.
И самый важный вопрос – может ли судьба человека быть отдана в руки робота-интеллектуала, особенно в уголовном судопроизводстве? Хотя сильный ИИ стремиться к имитации когнитивных способностей человека, нельзя утверждать, что он может быть наделен чувствами справедливости, ответственности, самоанализа и морального самоконтроля или способен испытывать какие бы то ни было переживания. Исследование и оценку доказательств нельзя полностью доверять ИИ, поскольку в данном случае важную роль имеет внутреннее убеждение судьи, основанное на высоком уровне правосознания, знании закона, юридическом и жизненном опыте, здравом смысле, которые в программный алгоритм ИИ заложить невозможно.
Как уголовным, так и гражданским процессуальным законодательством определено, что никакие доказательства не имеют для суда заранее установленной силы и оцениваются судом по своему внутреннему убеждению, основанному на всестороннем, полном, объективном и непосредственном исследовании имеющихся в деле доказательств. В связи с этим существует мнение, что «оценка доказательств – это абсолютно невыполнимая задача для ИИ, даже самого высокого уровня, так как у него априори не может сформироваться внутреннее убеждение…» [4].
Кроме того, применение ИИ, самостоятельно рассматривающего дело, не будет в полной мере соответствовать принципу непосредственности, определяющему, что доказывание проходит прямо перед судом, который лично воспринимает доказательственный материал.
Когда ИИ осуществляет просто техническую обработку доказательств, облегчая работу судьи, принцип непосредственности нарушаться не будет, поскольку при этом ИИ не подменяет ни судью, ни эксперта, а лишь упрощает изучение доказательств судом и участниками спора. В остальных случаях непосредственность судебного разбирательства будет нарушена, так как судья лично не будет исследовать доказательства, полагаясь на выводы ИИ.
Следовательно, при оценке доказательств только ИИ встанет вопрос о несоблюдении судьей таких принципов права, как непосредственность, устность и гласность судебного процесса.
Кроме того, по некоторым категориям дел автоматизация процесса отправления правосудия и замены судьи на ИИ не только невозможна, но и может быть сопряжена с большим риском вынесения ошибочных судебных актов. Предположительно, к числу исключений для автоматизации судебного процесса можно отнести уголовные, семейные дела и дела о компенсации морального вреда, некоторые дела по спорам в сфере интеллектуальной собственности, в которых многое зависит от результатов непосредственного участия заинтересованных лиц в судебном разбирательстве и, следовательно, необходимым является участие человека-судьи для надлежащей оценки всех обстоятельств дела.
Несмотря на то, что в Беларуси технология ИИ в судопроизводстве еще не нашла на практике широкого применения, в ряде стран (Китай, Франция, Нидерланды, Аргентина, Эстония) она уже внедрена в судебный процесс.
К примеру, в Китае ИИ стал частью судебной системы. Так называемый умный суд, впервые созданный в 2017 году в городе Ханчжоу, автоматически проверяет дела, рекомендует законодательство, подлежащее применению, составляет проекты решений, а также исправляет возможные ошибки судьи-человека. При этом не все решения, вынесенные роботом-судьей, утверждаются судьей-человеком. При рассмотрении дел используются нейросети, блокчейн, большие данные и облачные технологии. Судебные заседания проходят в популярном в стране мессенджере WeChat, где судья – виртуальный аватар, за которым скрывается ИИ, рассматривающий споры, связанные в основном с электронной торговлей и платежами. До начала процесса истец должен зарегистрировать свое заявление, после чего назначается виртуальное слушание в онлайн-чате. Опция «мобильный суд» на WeChat позволяет пользователям присутствовать на заседании и представлять доказательства, не появляясь физически в суде.
По мнению властей Китая, передача несложных дел ИИ разгружает судей, которые только наблюдают за процессом, а затем выносят окончательное решение. Роботы-судьи работают и с китайской социальной системой, куда ИИ может внести запись о запрете преступнику пользоваться самолетом, поездом, гостиницей или выезжать из страны. В Китае, который имеет самое большое в мире число пользователей мобильного интернета (около 850 млн), почти 90% судебных заседаний проходят онлайн [5; 6].
В Аргентине также появился робот-судья. Прокуратура округа Буэнос-Айрес подвела промежуточные итоги тестирования программного приложения Prometea, способного за 10 секунд вынести и оформить судебное решение по ряду категорий гражданских и административных дел. Оказалось, что судьями были утверждены все решения, принятые за последний год с помощью ИИ [7].
Из числа европейских стран лидерами в рассматриваемой сфере можно назвать Францию и Нидерланды. В частности, во Франции действует Закон от 07.10.2016 «О цифровой республике», а также разработаны специальные программы, способные выносить проекты судебных решений по административным и гражданским делам, кроме уголовных [8].
В Российской Федерации технологии применения ИИ в судебной практике еще не получили широкого распространения. Однако Указом Президента Российской Федерации от 10.10.2019 № 490 «О развитии искусственного интеллекта в Российской Федерации» утверждена Национальная стратегия о развитии искусственного интеллекта в Российской Федерации на период до 2030 года, содержащая определение ИИ, согласно которому ИИ – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать результаты, сопоставимые с результатами интеллектуальной деятельности человека.
В целях реализации указанной Стратегии ведется разработка программы суперсервиса «Правосудие онлайн», который позволит применять автоматизированное составление проектов судебных актов с использованием технологий ИИ на основе анализа текста процессуального обращения и материалов судебного дела [9].
Примеры использования технологий ИИ в судопроизводстве зарубежных стран показывают, что целью его внедрения не является полная замена человека-судьи роботом-судьей, несмотря на то, что в сравнении с судьей-человеком ИИ при осуществлении правосудия физически не устает, более внимателен и эффективен при анализе и применении законов, точнее при подсчетах, быстрее при поиске информации в электронных справочно-правовых системах, не допускает грамматических и арифметических ошибок.
Еще раз отметим, что к положительным тенденциям внедрения ИИ в судопроизводство, безусловно, относится процессуальная экономия времени судьи и участников судопроизводства, минимизация непосредственного составления и оформления документации судьей, упрощение процедуры рассмотрения дел в суде. Вместе с тем существует и вероятность возможных негативных последствий использования ИИ в судопроизводстве, таких как технологические риски сбоя программ и систем, обеспечивающих работу ИИ, взлом серверов, баз данных и др.
Очевидно, что информационные технологии не только открывают новые возможности, но и несут новые проблемы и вызовы, которые требуют адекватных ответов. В связи с внедрением в судопроизводство ИИ потребуется принятие нормативных правовых актов, определяющих принципы, порядок и пределы применения технологий ИИ в судах, или внесение изменений в уже существующие.
В нормах материального права законодательное закрепление должно получить и само определение ИИ с точки зрения права, а не с точки зрения технологии. До настоящего времени человеческий мозг и его способности не изучены в полной мере, поэтому его крайне сложно сопоставить с ИИ и дать последнему точное правовое определение.
Создание сильного ИИ, обладающего сознанием, является одной из целей его развития, заявленных в программных документах многих стран мира. С появлением роботов и объектов робототехники появились и новые правоотношения, с которыми право ранее не сталкивалось. С течением времени ИИ, являясь самообучаемым, будет совершенствовать свою деятельность и сможет создавать результаты различной направленности.
Согласно данным статистики, в 2018 году мировой рынок технологических решений, разработанных на основе ИИ, составил 21,5 млрд долл. США и, по прогнозам экспертов, к 2024 году достигнет 140 млрд долл. США. Как известно, уже сегодня роботы пишут картины и романы. В связи с этим возникает вопрос правосубъектности ИИ. Субъектом права может быть только физическое или юридическое лицо, которое, согласно действующему законодательству, должно нести ответственность за действия ИИ. Однако существует мнение, что нейросеть также должна быть наделена правосубъектностью.
Законодательного регулирования требуют и результаты интеллектуальной деятельности, которые могут быть созданы при помощи ИИ или указанным интеллектом самостоятельно. Правоведами исследуется возможность квалификации результатов деятельности ИИ в качестве объектов авторского права, а также вопросы установления субъекта права на результат деятельности ИИ с целью определить, кто должен быть признан автором и первоначальным правообладателем созданных ИИ результатов.
Все эти вопросы в законодательстве (в том числе всех стран ЕАЭС) пока не решены.
Что касается возможности применения ИИ при отправлении правосудия в Республике Беларусь, представляется, что одним из оптимальных способов является его использование в качестве технического помощника судьи.
В частности, системы ИИ могли бы разработать проекты судебных актов по несложным делам. Целесообразна также автоматизация бесспорных категорий дел, рассматриваемых в порядке приказного, особого производства, а также расширение категорий дел об административных правонарушениях, не требующих процессуальной состязательности сторон, в которых отсутствует спор о праве. Главная функция судьи по таким делам – установление определенного факта и достаточности доказательств в конкретном деле для вынесения решения, с чем может справиться ИИ. При этом ИИ не будет выносить судебные акты, а лишь поможет подготовить необходимый документ. Ставя свою подпись под судебным актом, судья подтвердит его корректность и придаст ему легитимность. Выяснить, оплачено ли заявленное требование государственной пошлиной, соблюдены ли требования к форме и содержанию заявления, а также подготовить проект процессуального документа вполне мог бы ИИ. Однако все эти действия могут быть осуществлены при наличии специального программного обеспечения, которое пока не разработано.
Если продолжать идти к дальнейшей цифровой оптимизации судебной системы Республики Беларусь путем внедрения ИИ в судопроизводство, предстоит большая нормотворческая работа по разработке нормативных правовых актов, определяющих принципы, порядок и пределы применения технологий ИИ в судах, создание технической инфраструктуры, обеспечивающей доступ к электронному правосудию, создание программного обеспечения с проведением оцифровки вступивших в законную силу судебных актов, что потребует достаточно большого промежутка времени и немалых финансовых затрат. Финансовые затраты потребуются и на техническое обеспечение функционирования самого ИИ – робота-судьи.
Таким образом, внедрение ИИ в судопроизводство Республики Беларусь – процесс трудоемкий, требующий изучения и предупреждения возможных рисков и возникающих в связи с этим проблем, и, как представляется, будет досягаемым только в долгосрочной перспективе.
Также одним из аспектов, связанных с внедрением ИИ в судопроизводство, будет являться и формирование профессиональной культуры, технологических знаний судей и аппарата суда. Осуществление принципа «под контролем пользователя» потребует дополнительных знаний о функционировании системы ИИ, что в свою очередь потребует повышения квалификации судей и аппарата суда.
При таком массиве проблемных вопросов возникает еще один: может, судье-человеку проще самому справиться с возложенными на него функциями, используя свои интеллектуальные способности, чем создавать условия для ИИ и пользоваться услугами робота-судьи? Однако современные реалии таковы, что нагрузка на судей не имеет тенденции к снижению. Повышенные требования предъявляются к качеству и срокам изготовления судебных постановлений, к их законности, обоснованности, мотивированности.
Таким образом, представляется, что, благодаря дальнейшей цифровой оптимизации судопроизводства, на ИИ можно будет возложить подготовку проектов судебных актов по несложным делам, что освободит время для рассмотрения судьями более сложных категорий дел и приведет к повышению эффективности правосудия и осуществлению его на более высоком организационном и техническом уровне.
Список литературы:
1. Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях // Официальный сайт Совета Европы. – Режим доступа: https://rm.coe.int/ru-ethical-charter-en-version-17-12-2018-mdl-06092019-2-/16809860f4. – Дата доступа: 21.06.2023.
2. Момотов, В. В. Искусственный интеллект в судопроизводстве: состояние, перспективы использования / В. В. Момотов // Вестник университета имени О.Е. Кутафина (МГЮА). – 2021. – № 5. – С. 188–191.
3. Момотов, В. В. Пространство права и власть технологий в зеркале судебной практики: современный взгляд / В. В. Момотов // Журнал российского права. – 2003. – № 2.
4. Сычева, О. А. Здравый смысл в судебном доказывании / О. А. Сычева // Российский судья. – 2019. – № 8.
5. В Китае киберсудья с ИИ на блокчейне рассматривает дела в интернет-чате [Электронный ресурс]. – Режим доступа: https://tech.onliner.by/2019/12/10/dredd-wechat. – Дата доступа: 21.06.23.
6. В Китае судьи будут использовать роботов для вынесения приговоров [Электронный ресурс]. – Режим доступа: https://www.sb.by/articles/kibersudya-mif-ili-realnost.html. – Дата доступа: 21.06.2023.
7. Решения робота-судьи полностью устраивают служителей Фемиды [Электронный ресурс]. – Режим доступа: https://legal.report/resheniya-robota-sudi-polnostyu-ustraivayut-sluzhitelej-femidy. – Дата доступа: 21.06.2023.
8. Перспективы использования искусственного интеллекта в судебной системе Российской Федерации: выступление председателя Совета судей РФ В. В. Момотова на пленарном заседании. [Официальный сайт Совета судей Рос. Федерации]. – Режим доступа: http://www.ssrf.ru/news/lienta-novostiei/36912. – Дата доступа: 21.06.23.