Юрий Паниев
ООН хочет, чтобы разработка и использование технологий искусственного интеллекта были безопасны, надежны и направлены на решение важнейших проблем человечества. Фото Reuters
Начало 2024 года отмечено взрывным ростом интереса к технологиям искусственного интеллекта (ИИ). Развитие ИИ воспринимается многими странами как поиск и разработка ресурса, который существенно ускорит их развитие. Объем инвестиций в технологии ИИ в глобальном масштабе в ближайшие три года вырастет в два раза – с 154 млрд в 2023 году до 300 млрд долл. в 2026-м, прогнозирует международная исследовательская и консалтинговая компания International Data Corporation.
Генсек ООН Антониу Гутерриш отметил невиданную скорость распространения технологий ИИ. Человечество сейчас находится в поворотном моменте истории, «скорость и разнообразие новых технологий во всех их формах являются беспрецедентными», и этот прорыв он сравнил с изобретением книгопечатного станка. Но если на распространение того изобретения по Европе потребовалось более полувека, то GPT-чат достиг 100 млн пользователей всего за два месяца.
Президент РФ Владимир Путин согласен, что за технологиями ИИ будущее. «Это не менее значимо, чем в свое время атомные или ракетные проекты Советского Союза в середине 40-х или 50-х годов», – сказал он на заседании АНО «Россия – страна возможностей».
Согласно прогнозам, к 2030 году ИИ может принести мировой экономике более 15 трлн долл. дохода. Неудивительно, что многие государства делают тематику технологического развития частью своей внутренней и внешней политики. ИИ оказывал влияние на международную политику и в прошлом, хотя и не в такой степени, как в настоящее время. Он может применяться для решения глобальных проблем, таких как изменение климата, борьба с бедностью, неравенством, нелегальной миграцией, терроризмом, управление космическими и ядерными программами, разработка военных стратегий.
Однако ИИ должен использоваться во благо, а не для ведения войны, заявил Гутерриш 5 апреля перед началом заседания Совета Безопасности ООН по Ближнему Востоку. Он обеспокоен сообщениями о том, что израильские военные при бомбардировках сектора Газа используют технологии ИИ в качестве инструмента определения целей в густонаселенных районах, что приводит к большому числу жертв среди гражданского населения. По словам генсека ООН, «никакие решения о жизни и смерти, влияющие на судьбы целых семей, не должны отдаваться на откуп холодному расчету алгоритмов».
Не меньшую тревогу вызывает превращение технологий ИИ в новый фактор уязвимости международной системы: от влияния на общественное мнение и результаты выборов через фейковые новости и манипулятивные публикации в соцсетях до вмешательства в работу критической инфраструктуры стран. Влияние ИИ на мировой баланс сил, технологическое лидерство и геополитическое влияние может оказаться настолько серьезным, что требует тщательного рассмотрения и ответственного управления с целью снижения потенциальных рисков.
В условиях стремительного внедрения новейших технологий в жизнь человека, общества и государства Генассамблея ООН 21 марта приняла на консенсусной основе первую в истории резолюцию, целью которой является регулирование развития и применения ИИ в масштабах всего мира. Документ «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития» был разработан США в соавторстве с 123 государствами. При этом США при согласовании текста резолюции учли соображения России, Китая и Кубы по данному вопросу, заявил представитель американской администрации высокого ранга. Причем тогда, когда взгляды этих государств крайне редко совпадают с американскими.
Постпред США при ООН Линда Томас-Гринфилд назвала принятие резолюции значительным достижением. По ее словам, страны «решили управлять искусственным интеллектом и не допустить, чтобы он управлял людьми». Резолюция указывает на необходимость создания единой глобальной системы регулирования ИИ и применения его с учетом международного права. В ней признается, что злонамеренные разработка, внедрение и использование ИИ без соблюдения надлежащих мер безопасности или в нарушение норм международного права создают весомые риски. Они могут расширить цифровой разрыв между странами, усилить предвзятость, привести к дискриминации, подорвать целостность информации и доступ к ней, отрицательно сказаться на правах человека и основных свободах.
Об опасности бесконтрольного развития ИИ предупреждали в США эксперты и представители IT-отрасли, в том числе бизнесмен Илон Маск и сооснователь Apple Стив Возняк. В Европе, напротив, многие компании посчитали новый закон об ИИ угрозой для продолжения их деятельности в странах ЕС. Еще в июне прошлого года более 150 корпораций, включая Siemens, Airbus, Danone, подписали открытое письмо к ЕС с призывом пересмотреть планы по регулированию ИИ. Его авторы утверждали, что единые правила могут подорвать технологический потенциал ЕС и «ставят под угрозу конкурентоспособность и технологический суверенитет Европы».
Европарламент эти опасения проигнорировал и 13 марта первым в мире одобрил законопроект, регулирующий использование ИИ. За него проголосовали 523 евродепутата, против – 46, воздержались – 49.
Цель «исторического» закона – защита фундаментальных прав, демократии, верховенства права и устойчивости окружающей среды от «высокорискового» ИИ с одновременным стимулированием инновационных технологий.
Закон содержит две категории ИИ – «запрещенные» и «высокого риска». К «запрещенным» относятся технологии распознавания эмоций и манипулирования поведением человека, а также большинство систем биометрической идентификации. В качестве примера, которому не стоит следовать, приводится Китай, где существуют системы оценки граждан, массового наблюдения и удаленной биометрической идентификации людей в общественных местах. Относительно последнего пункта, однако, странам ЕС предоставлена свобода действий для определенных видов правоохранительной деятельности, таких как борьба с терроризмом.
Те технологии ИИ, которые могут нанести вред основным правам человека, отнесены к группе «высокого риска». Все обработанные с помощью систем ИИ изображения и видео должны иметь соответствующую маркировку.
Закон должен быть официально принят Советом ЕС. Он вступит в силу через 20 дней после его публикации в «Официальном журнале» Евросоюза и будет полностью применим через 24 месяца.
«ЕС становится первым регионом, который установил четкие правила использования ИИ», – цитирует издание Politico еврокомиссара по вопросам внутреннего рынка Тьерри Бретона. «Закон об ИИ – это гораздо больше, чем свод правил, это стартовая площадка для стартапов и исследователей из ЕС, которые возглавят мировую гонку ИИ», – заявил он.
Для ЕС, который не является технологическим лидером в развитии ИИ, это весомая заявка на политическое и юридическое лидерство в этой сфере в глобальной гонке с США и Китаем. Но эта заявка, по мнению экспертов, еще не гарантирует успеха, зато расширяет и без того раздутую «брюссельскую бюрократию». Ключевую роль во внедрении новейших технологий сыграет Европейский офис по ИИ, который будет контролировать соблюдение закона и расследовать нарушения его норм. За серьезные правонарушения будут налагаться штрафы в размере до 7% от оборота.
Россия, несомненно, должна быть не наблюдателем, а значимым участником сферы ИИ. Это особенно важно в условиях глобальной конкуренции и попыток отрезать Россию санкциями от технологического прогресса. Так, РФ не была приглашена на первый саммит по безопасности ИИ в Блетчли-парке, что под Лондоном, в минувшем ноябре. В форуме приняли участие около 100 представителей правительств, ведущих компаний, занимающихся ИИ, гражданского общества и научных кругов 28 стран и ЕС. Запустив первый в мире Институт безопасности ИИ, задачей которого является тестирование безопасности новых технологий, Великобритания позиционирует себя как лидера в этой области.
В Москве считают опасной и недопустимой монополию западных платформ ИИ в РФ. Тем более что некоторые поисковые системы работают ангажированно, «отменяют» российскую культуру. Власти будут делать все, чтобы РФ стала одной из самых комфортных юрисдикций в мире для развития ИИ, заявил Путин в ноябре 2023 года на конференции «Путешествие в мир искусственного интеллекта».
Технологический мир будущего, по его словам, должен быть многополярным и строиться совместно на основе доверия и сотрудничества. Поскольку сегодня говорить о взаимодействии РФ с Западом в сфере ИИ не приходится, а без контактов и наработок на международном уровне не обойтись, Москва продвигает эту повестку на уровне дружественных объединений – таких как БРИКС, ШОС и ЕАЭС.
