Станислав Петровский
С началом пандемии COVID-19 китайские суды стали предлагать участникам споров «правосудие на кончиках пальцев» – заседания через интернет. Кадр из видео с канала Cgtn на Youtube
Термин «искусственный интеллект» (artificial intelligence, AI) ввел в обиход Джон Маккарти на конференции в Дартмутском университете еще в 1956 году. Скажем прямо, несмотря на распространенность, этот термин скорее запутывает читателя. Но реальные технологии ИИ – вовсе не искусственный разум, как показывает Голливуд, а отдельные интеллектуальные функции программ.
Национальная стратегия развития искусственного интеллекта на период до 2030 года (указ президента России от 10 октября 2019 года № 490) определяет ИИ как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека».
Практика показала: для копирования всей сложности мышления, убеждений, справедливости, творчества, интуиции нужно точно знать, как обрабатывает сигналы мозг. Нужен сканер для мозга, в реальном времени показывающий все сигналы между нейронами. Однако точности и скорости существующего оборудования явно недостаточно. Мозг каждого из нас – самый сложный объект из известных во Вселенной! Посудите сами, человеческий мозг содержит более 85 млрд нейронов, у каждого нейрона до 10 тыс. связей.
Существующие методы исследований позволяют точно изучать группы до 1000 нейронов путем вживления электродов. Магнитно-резонансная томография позволяет раз в полчаса сделать снимок активности мозга, а нужно фиксировать мгновенные импульсы. Все эти трудности позволяют ведущим экспертам в сфере ИИ отодвигать в будущее создание искусственного разума – сильного ИИ на срок не менее 20–50 лет.
За 60 лет исследований уровень «осознанности» ИИ примерно достиг уровня развития насекомых. Справедливости ради нужно отметить – очень впечатляющие результаты, если учесть, что естественной эволюции потребовалось на создание насекомых более 3 млрд лет. Но чем такой ИИ сможет помочь судье?
Внимание судьи распыляется на множество бесспорных дел и рутинных процедур. В итоге на сложные дела ресурса внимания и времени может не хватить. Судебный ИИ может помочь избавить судей и граждан от рутины, сэкономить время, уменьшить ошибки и необъективность. Он широко применяется в Китае, США, Франции и других государствах.
В Китае в марте этого года принята «дорожная карта» по модернизации правовой системы КНР к 2025 году, включающая интеграцию ИИ в судопроизводство в рамках системы «умного суда» для повышения доверия к судам и упрощения контроля над судьями.
С началом пандемии COVID-19 Верховный суд КНР рекомендовал судам предлагать всем участникам споров «правосудие на кончиках пальцев» – проводить все заседания преимущественно через интернет. В 2020 году онлайн стало рассматриваться более 200 тыс. дел ежемесячно. Стороны могут отказаться от онлайн-процесса, но для этого они должны подать отдельное заявление. Все суды в Китае подключены к платформе больших данных, куда автоматически передается информация о принятых решениях, доказательствах и т.д. Платформа больших данных позволяет судье получать сведения из других государственных органов автоматически – о недвижимости, доходах, банковских счетах, транспорте и другую информацию. Это ускоряет судебный процесс и исключает подделку справок сторонами. Данные обновляются каждые пять минут, что позволяет судьям знать детальную статистику о работе судов, включая, какие принимаются решения по каким типам дел. На основе этих данных ИИ предоставляет судьям информацию, например, о средних, минимальных и максимальных наказаниях в похожих делах. ИИ вышестоящих судов проводит предварительную проверку судебных дел, сравнивая доказательства из проверяемого дела и из массива ранее рассмотренных дел. Местные суды в девяти регионах, включая Пекин, Шанхай и Гуандун, установили справочных ботов в залах судебных заседаний, которые разъясняют сторонам их права, объясняют судебные процедуры и т.д. Судьям помогают программные модули, которые распознают речь в суде и преобразовывают ее в текст протокола судебного заседания, исправляют ошибки в тексте судебного решения, формируют электронный архив по делу, ищут аналогичные судебные дела в базе и предупреждают об «аномальных» решениях и приговорах.
Для России может быть интересен опыт создания специальных интернет-судов. В 2017–2018 годах открыты интернет-суды в Пекине, Гуанджоу, Ханчжоу. Интернет-суды рассматривают дела по спорам об онлайн-платежах с интернет-магазинами, по поводу интернет-услуг, доменных имен сайтов, об ответственности за размещенную в интернете информацию, нарушающую права человека или общества, при нарушении авторских прав в интернете.
В марте 2019 года в Китае запущена система рассмотрения интернет-споров через популярный мессенджер WeChat, который распознает лицо участника процесса для установления личности и позволяет использовать электронную подпись при подаче заявлений и доказательств. Процесс проходит в формате видеочата, а решение выносит ИИ. На сегодня так рассмотрено более 3 млн дел.
В конце 2019 года Верховный народный суд КНР опубликовал белую книгу – «Интернет-правосудие в китайских судах», где обобщен опыт электронного правосудия.
В США достижения судебного ИИ гораздо скромнее – применяется несколько частных систем. Судьи используют несколько систем, например «Систему оценки общественной безопасности» (Public Safety Assessment, PSA). Система помогает решить, давать ли реальный или условный срок, выпускать ли заключенного досрочно или определить размер залога. Аналогичная программа COMPAS подверглась публичной критике, поскольку в два раза чаще информировала о возможном повторе преступления для афроамериканцев из-за особенностей выборки данных. Для анализа законодательства применяются системы Watson/Ross (IBM) и Lex Machina (LexisNexis). Система DARE с точностью в 92% случаев выявляет лжесвидетельство по видеозаписям на основе изменений мимики, тона голоса и других параметров.
В 2018 году принята Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях. Хартия опровергает миф: «сильных» ИИ из научно-фантастической литературы не существует. Этот тип искусственного интеллекта, который был бы оснащен не только интеллектом, но и сознательностью, остается чисто вымышленным» (пункт 63 Хартии).
Хартия вводит принципы ИИ, в частности недискриминации граждан, возможности внешнего контроля, а также применения ИИ только для рекомендаций. Иными словами, Совет Европы считает, что ИИ не должен заменять судью. Более того, к примеру, во Франции законодательно запрещена автоматизация принятия судебных решений и анализ деятельности судей. Об этом говорит французский Закон о программировании и реформе судопроизводства на 2018–2022 годы.
В России разделяют европейский подход. В докладе 2020 года председателя Совета судей РФ Виктора Момотова «Перспективы использования искусственного интеллекта в судебной системе Российской Федерации» подчеркивается: «Суд при вынесении решения руководствуется целым рядом оценочных и ценностных критериев, закрепленных в законе: например, принципами справедливости и гуманизма при назначении наказания, требованиями разумности и добросовестности в гражданском праве. Понимание таких общих категорий формируется у человека в процессе социализации, воспитания, становления личности – все это невозможно воспроизвести в программном алгоритме... Нередки случаи, когда при отсутствии конкретного правового регулирования суды применяют аналогию закона и аналогию права, под которой понимается разрешение спора исходя из общих начал и смысла законодательства. Смысл законодательства, то есть его дух, может быть выявлен только человеком с высоким уровнем правовой культуры, а никак не компьютером».
В ряде крупных банков и страховых компаний (например, «Ренессанс страхование», Сбербанк) ИИ готовит типовые заявления в суд. Системы «Сутяжник», Caselook помогают юристам искать судебную практику.
На государственном уровне в России разрабатывается суперсервис «Правосудие онлайн» для портала «Госуслуги». Планируется, что с 2022 года можно будет участвовать в заседаниях по гражданским и административным делам через компьютер или смартфон с получением от суда документов, подписанных цифровой подписью. Проверка личности участников будет происходить с помощью распознавания лица и голоса (биометрической идентификации). Сервис не будет распространяться на уголовные дела. С 2024 года суперсервис начнет выполнять более сложные функции, к примеру автоматического составления проектов судебных актов.
Для бесспорных судебных дел, например о взыскании долга по нотариально удостоверенному договору, ИИ вполне сможет подготовить проект судебного решения. Однако без судьи не обойтись, если в деле нужно разбираться с противоречиями в нормах или доказательствах. А как оцифровать справедливость или учет смягчающих или отягчающих вину обстоятельств? Ведь решения судов в прошлом не могут учитывать современных реалий или содержать ошибки. Более того, ошибки и дискриминация, периодически возникающие из-за человеческого фактора, положенные в основу работы ИИ, возводятся в ранг системы. Это опаснее, чем единичные случаи субъективизма при принятии решений человеком.
ИИ базируется на тех данных, которые ему представляют, он не более объективен, чем люди, которые создавали или отбирали эти данные. К сожалению, предвзятость ИИ (bias AI) стараются нередко замалчивать. Так, попытка придать огласке этот факт стоила работы Тимнит Гербу, техническому руководителю по вопросам этики искусственного интеллекта Google.
Судебные решения и приговоры могут критически повлиять на судьбу каждого человека, поэтому для тестирования судебного ИИ нужно привлекать широкую общественность, СМИ и профессиональное юридическое сообщество.
комментарии(0)