Роман Трунов
Ошибки в повседневной человеческой деятельности зачастую автоматически переносятся в еще до конца не изученный и полностью никем не понятый мир искусственного интеллекта. Иллюстрация с сайта www.freepik.com
Холодная война второй половины XX века была не только открытым противоборством больших идеологий и незаурядных политиков. Она была еще и негласным соперничеством великих ученых и инженеров, потому что безудержная гонка вооружений требовала неимоверных интеллектуальных усилий. При этом все это время мир находился на грани ядерной катастрофы. Тогда, к счастью, все обошлось благополучно, третья мировая война так и не наступила.
Сегодня, на новом витке истории, заново оживают призраки военного противостояния прошлого столетия, хотя и в несколько иной форме. Неизбежные ошибки, накопившиеся в сфере повседневной человеческой деятельности, зачастую автоматически переносятся в совершенно иную область применения, еще до конца не изученный и полностью никем не понятый мир искусственного интеллекта. И такой подход очевидно порождает новые риски и опасности, грозящие человечеству.
Нехорошие предчувствия интеллектуалов
Проблемы, вызванные бурным развитием искусственного интеллекта (ИИ), разумеется, имеют политическое, экономическое, научное и общественное измерения. Политики делают громкие заявления о непреходящем значении кибернетического разума, впрочем, не забывая сказать и о потенциальных угрозах. Предприниматели тем временем увеличивают финансирование своих грандиозных замыслов. Ученые разрабатывают нейросети, но, как и физики, участвовавшие в Манхэттенском проекте, время от времени предупреждают мир о возможных последствиях этих рискованных экспериментов. Ну а общество ищет ответы на новые вызовы.
В начале 2022 года эксперты американской International Data Corporation (IDC) предположили, что в текущем году объем мирового рынка искусственного интеллекта превысит отметку в 500 млрд долл. Это означает, что проблема приобретает масштаб, при котором неизбежно встает вопрос об этических ограничениях в этой области человеческой (и нечеловеческой) деятельности. Но поскольку для многих стран мира ИИ стал одним из компонентов их стратегического потенциала, то со всей очевидностью возникает необходимость государственного регулирования этой отрасли экономики. Только в этом отношении все правительства сейчас находятся в самом начале пути и, можно сказать, пребывают в нерешительности.
А между тем известные ученые и предприниматели уже несколько месяцев вовсю бьют тревогу. В конце марта этого года они выступили с открытым письмом, в котором призывают «все лаборатории искусственного интеллекта немедленно приостановить как минимум на шесть месяцев обучение системам ИИ, более мощным, чем GPT-4». Среди подписавших – Илон Маск, Стив Возняк, Юваль Ной Харари, Дарон Аджемоглу и многие другие. Но чем же, собственно говоря, так озабочены лучшие умы человечества?
Это становится понятно сразу после прочтения первого абзаца открытого письма. По мнению выдающихся интеллектуалов, системы ИИ, «обладающие интеллектом, сравнимым с человеческим, могут представлять серьезную опасность для общества и человечества», что «подтверждается обширными исследованиями и признается ведущими лабораториями». Поэтому разработка нейросетей должна происходить по определенному плану и под соответствующим контролем. Тогда как сейчас разработчики «втянулись в неконтролируемую гонку все более мощных цифровых разумов, которые никто – даже их создатели – не может понять, предсказать или надежно контролировать».
К чему все это может привести, британской газете Guardian рассказали ведущие мировые специалисты в области искусственного интеллекта. Они считают возможными пять сценариев, при которых цифровой разум «может уничтожить мир». Здесь, безусловно, надо заметить, что все потенциальные риски, которые несет машинный разум, только этим не исчерпываются.
Первый сценарий просчитал Макс Тегмарк, исследователь ИИ из Массачусетского технологического института. Он напомнил, что уже много раз одни биологические виды уничтожались другими, более умными. К примеру, люди истребили многих животных на Земле. И человечеству следует понимать, что рано или поздно оно станет тем самым менее разумным видом, если учитывать нынешние темпы развития искусственного интеллекта. Причем земляне даже не поймут, почему и как машинный разум их уничтожит.
Бриттани Смит, занимающаяся изучением ИИ в Кембриджском университете, предложила второй сценарий. Она полагает, что наихудшим вариантом будет сохранение статус-кво, поскольку в этом случае ведущие технологические компании продолжат разрабатывать и внедрять нейросети в обстановке секретности. Поэтому научной общественности следует сосредоточиться преимущественно на текущих проблемах, малых делах, например на критике систем распознавания лиц, которые все чаще ложно обвиняют людей в совершении преступлений. Ведь подобная практика, как это ни громко звучит, в перспективе несет экзистенциальные риски для всего человечества. Кроме того, необходимо ускорить разработку исследовательской программы, которая доказала бы, что общественный вред не является неизбежным побочным продуктом технического прогресса.
Третий катастрофический сценарий подготовил соучредитель и научный сотрудник калифорнийского Института исследования машинного интеллекта Элиезер Юдковский. «Гораздо легче предсказать, где мы окажемся, чем то, как мы туда попадем. А там, где мы окажемся, есть нечто гораздо более умное, чем мы, и оно не особенно хочет, чтобы мы были рядом», – утверждает он. А поскольку искусственный разум намного умнее людей, то, вероятно, сможет сделать все, что захочет. Например, ИИ может уничтожить человечество, чтобы оно не создало еще какой-нибудь сверхинтеллект, способный с ним конкурировать. Тем не менее люди создают все более мощные системы, которые все хуже поддаются пониманию, забывая при этом о смертельной опасности.
Еще один эксперт по искусственному интеллекту, старший аналитик калифорнийского фонда Open Philanthropy Аджейя Котра предложил термин «режим устаревания», в который, как это ни печально, постепенно входит человечество. По его мнению, для решения любой задачи бизнесмены все чаще будут использовать ИИ, а не людей, потому что он обходится дешевле, работает быстрее и, главное, определенно умнее любого Homo sapiens. Таким образом, человек окажется неконкурентоспособным на рынке труда, да и не только на нем. Так, какое-либо государство, имеющее обычных генералов, не сможет противостоять противнику, чье командование при планировании операций использует силу машинного разума. И это четвертый, крайне пессимистический сценарий.
Наконец, пятый сценарий, который стал некой квинтэссенцией вышеприведенных мнений, предложил профессор информатики Монреальского университета и научный директор Квебекского института искусственного интеллекта Йошуа Бенжио. «Значительная часть исследователей считает весьма вероятным, что через 10 лет у нас появятся машины, которые будут столь же или более интеллектуальны, чем человек. Эти машины необязательно должны быть так же хороши во всем, как мы. Достаточно, чтобы они были хороши в тех областях, где они могут быть опасны», – допускает он.
Самый простой пример: ИИ самостоятельно определяет свои собственные цели. Уже более десятилетия ведутся исследования, позволяющие понять, как такое может произойти. Человеческая интуиция подсказывает ученым, что даже если жестко ограничить искусственный интеллект, в частности запретить ему причинять вред людям, то всегда есть вероятность, что что-то пойдет не так. Совершенно неясно, как машинный разум поймет эту команду. Вполне возможно, что он ограничится непричинением исключительно физического вреда, но будет способен навредить человечеству многими другими способами, предполагает профессор Бенжио.
«Дивный новый мир» – в ближайшие 10 лет
Если попытаться заглянуть в середину 30-х годов XXI века, то там, вероятно, можно будет увидеть следующую картину.
Искусственный интеллект определенно стал повсеместным явлением. Цифровой разум управляет школами и больницами, университетами и исследовательскими институтами, музеями и СМИ, банками и инвестиционными компаниями, адвокатскими и архитектурными бюро и прочая и прочая. Производительность труда выросла небывало, инновации появляются едва ли не каждый день. Словом, несколько переиначенный «дивный новый мир» Олдоса Хаксли.
Правда, есть несколько «но». Как выяснилось, в развитых странах весьма многие работники умственного труда массово теряют работу и пытаются отстоять свои права в судах, где опять-таки заседают цифровые судьи, решительно отклоняющие их иски. Затаив злобу на новый порядок вещей, бывшие служащие и лица свободных профессий переходят в ряды непримиримой оппозиции, каковая принимает транснациональный характер, а самые радикальные и вовсе уходят в подполье, замышляя нечто такое, по сравнению с чем 11 сентября 2001 года может показаться детской шуткой. Причем экстремисты полагаются, как это ни парадоксально звучит, на титаническую мощь своего заклятого врага – искусственного интеллекта, вот только теперь они намерены использовать его в своих преступных целях. Так что мир, который должен был стать более совершенным, напротив, становится более уязвимым.
Многие историки сходятся в том, что национальные государства стали возникать после заключения Вестфальского мира 1648 года. Таким образом, подобная форма политической организации общества благополучно пережила Промышленную революцию XVIII–XIX веков и Научно-техническую революцию XX века. Однако уже сейчас заметны явные изменения в расстановке сил на арене мировой политики. Это, в частности, выражается в том, что гигантские технологические корпорации, прежде всего американские (Google, Amazon и прочие), ставят под вопрос статус ведущих национальных государств в качестве единственных глобальных акторов. А по мере развития и внедрения искусственного интеллекта, по мере стирания четкой границы между реальным и цифровым мирами американский Big Tech будет все больше и больше покушаться на суверенитет любых стран, не исключая даже США.
И все ж таки, несмотря на определенную инерцию мышления, политические элиты ведущих стран постепенно осмысливают проблемы, создаваемые триумфальным шествием искусственного интеллекта. В мае первые лица государств «большой семерки» пришли к необходимости регулировать генеративный ИИ. Мировые лидеры наконец обеспокоились разрушительным потенциалом машинного разума и намерены обсудить ограничительные меры в рамках так называемого Хиросимского процесса.
В июне Европейский парламент первым в мире принял проект закона «Об искусственном интеллекте». Этот законодательный акт призван защитить граждан Евросоюза от рисков, которые несет машинный разум. В частности, на территории объединенной Европы будут запрещены технологии ИИ, воздействующие на подсознание людей, и системы биометрической аутентификации, работающие в режиме реального времени. Правда, все эти нововведения вступят в действие не раньше чем в 2025 году.
Еще дальше пошел генеральный секретарь ООН Антониу Гутерриш. В июле он призвал создать новый орган в структуре Организации Объединенных Наций, который будет регулировать развитие искусственного интеллекта. По его мысли, это может быть специализированное учреждение наподобие Международного агентства по атомной энергии, Международной организации гражданской авиации или Межправительственной группы экспертов по изменению климата. «Почти каждое правительство, крупная компания и организация в мире работают над стратегией в области ИИ, но даже разработчики понятия не имеют, к чему может привести этот ошеломляющий технологический прорыв», – подчеркнул Гутерриш.
Между тем с 15 августа в КНР действует директива правительства, которая устанавливает правила для компаний, работающих с искусственным интеллектом. Согласно ей государственные и коммерческие организации обязаны маркировать контент, созданный с помощью ИИ, ярким ярлыком. Кроме того, для обучения нейросетей допустимо использовать только те данные, которые получены законным путем, и, само собой разумеется, машинный разум не должен подстрекать к подрыву государственной власти, свержению социалистической системы и пропаганде сепаратизма.
Что касается России, то в настоящее время в ней «отсутствует специальное законодательное регулирование, учитывающее специфику применения технологий искусственного интеллекта». Между прочим к такому неутешительному выводу пришли участники XI Петербургского международного юридического форума, состоявшегося в мае этого года. Хотя первые шаги в этом направлении уже сделаны. С августа 2020 года действует правительственная «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 года». К тому же партия «Единая Россия» разрабатывает законопроект, который будет регулировать использование ИИ на территории РФ.
Однако рассуждения о регулировании искусственного интеллекта по-прежнему, как правило, сводятся к двум подходам. Одни предлагают развивать машинный разум для укрепления мощи национальных государств и в рамках национальных законодательств, тогда как другие выступают за жесткие наднациональные ограничения, чтобы снизить глобальные риски. Но решить эту проблему прежними способами, основанными на исторически сложившихся принципах и традициях, пожалуй, невозможно, поскольку ИИ – это технология, которая имеет совершенно иную природу. И машинный разум уже меняет привычные представления о мировой роли крупнейших государств, причем это только самое начало.
Более того, неизвестно даже, к чему приведет компромиссный вариант, сочетающий национальное и наднациональное регулирование систем искусственного интеллекта. Поскольку помимо национальных государств и международных организаций в этом уравнении присутствует еще одна неизвестная величина – транснациональные корпорации. Существующее положение дел осложняется тем, что роль и значение технологических гигантов никак не укладываются в современные представления о мировом порядке, государственном суверенитете, демократии, общественном благе. А это значит, что в обозримом будущем развитие ИИ и дальше будет идти по непредсказуемой траектории и, что самое печальное, с непонятным результатом.
Будущее пугает своей неизвестностью
Чтобы лучше понять масштаб проблемы, необходимо обратиться к цифрам и фактам. Согласно Закону Мура, вычислительная мощность компьютеров удваивается каждые два года. Сейчас, кстати говоря, идет много споров о том, работает ли это правило, как и прежде. Но дело даже не в этом, потому что в сравнении с компьютерными системами темпы развития искусственного интеллекта просто ошеломляют. В этом случае человечество, несомненно, имеет дело с чем-то совершенно новым.
В 2018 году компания OpenAI представила GPT-1. На тот момент эта Большая языковая модель (БЯМ) содержала 117 млн параметров распознавания и понимания языка. Спустя два года GPT-3 имела уже 175 млрд параметров. Сколько параметров у GPT-4, появившейся в марте 2023 года, достоверно неизвестно, так как эта информация является корпоративной тайной. Но, как водится, пошли слухи о том, что данная БЯМ имеет около 100 трлн параметров.
Таким образом, можно заключить, что возможности систем искусственного интеллекта растут по экспоненте. Совсем недавно мало кто допускал, что БЯМ смогут сочинять музыку и рисовать картины, писать тексты и программный код, решать научные задачи и предлагать новые идеи. Поэтому логично предположить, что в ближайшем будущем разработчики смогут создать системы ИИ, которые буду способны самосовершенствоваться. А это, вероятно, та самая критическая точка, пройдя которую человеческая цивилизация столкнется с неизвестной опасностью, которой, может, и не удастся избежать.
Машинный разум – это определенно технология двойного назначения. И этот непреложный факт, как и в случае с мирным и немирным атомом, возвращает человечество к страхам второй половины XX века. Система ИИ, управляющая движением автомобилей в Нью-Йорке, после некоторой перенастройки вполне сможет командовать танками на улицах Пекина. Хотя, впрочем, и обратное предположение полностью исключить нельзя. Ущерб, который способен нанести искусственный интеллект, вышедший из-под контроля человека, или, наоборот, попавший в руки военных преступников, сегодня никто не может оценить.
Между тем конкуренция за стратегическое превосходство в сфере искусственного интеллекта обещает быть очень острой. Перед концом прежней холодной войны США и СССР смогли найти общий язык, чтобы остановить гонку вооружений и предотвратить возможную глобальную катастрофу. Однако неизвестно, как все сложится в этот раз. Во всяком случае, непохоже, что Вашингтон и Пекин – два технологических лидера современного мира – готовы к взаимным уступкам. К тому же сейчас, в условиях высокой международной напряженности, такое сотрудничество вообще представляется весьма затруднительным.
При этом искусственный интеллект – это не просто очередной инструмент влияния. Цифровой разум способен дать решающее военное и экономическое превосходство одной из противоборствующих сторон, причем это может произойти уже в ближайшее десятилетие. Создается впечатление, что американские и китайские политики уверены: теоретический риск для общества, исходящий от технологий ИИ, значительно ниже, чем возможный проигрыш в этой гонке, угрожающий им потерей власти и ведущей роли на мировой арене. Так что Вашингтон и Пекин явно нацелены на ускоренное развитие нейросетей, поскольку приостановка кем-либо из них участия в этой гонке будет означать фактическое одностороннее разоружение.
Конечно, нельзя исключить, что в ближайшей перспективе тенденции в области искусственного интеллекта в основном будут определяться намерениями небольшого числа руководителей технологических корпораций – что бы там ни думали политики в Вашингтоне и Пекине. А стало быть, судьба не только национальных государств, но даже и всего человечества окажется в сильной зависимости от коммерческих выгод и личных амбиций узкой группы технократов. Впрочем, откровенно говоря, еще неизвестно, что хуже.
Константин Ремчуков 
