Искусственный интеллект возомнил себя богом

Нейросеть сотворила «селфи» библейского Моисея на фоне неопалимой купины. Изображение Даны Акерман Грин, сгенерированное нейросетью Midjourney

К иудейскому празднику Песах, который будет отмечаться начиная с 6 апреля, художница из Израиля Дана Акерман Грин с помощью приложения искусственного интеллекта (ИИ) Midjourney сгенерировала серию картинок «Исход из Египта через селфи». На одной из них изображен пожилой мужчина, как бы снимающий переходящую море толпу за своей спиной. На другой – бородач примерно 40 лет (скорее всего пророк Моисей) на фоне горящего, но не сгорающего куста (неопалимой купины). По признанию художницы, чтобы добиться наибольшего правдоподобия изображений, ей пришлось сделать очень подробный запрос, состоящий как минимум из 17 пунктов.

Однако пользователи интернета уже успели раскритиковать иллюстрации, отмечая, что на момент исхода евреев из Египта и получения свободы от рабства, в честь чего и отмечается торжество Песаха, Моисею было более 80 лет. Впрочем, столь свежий вид ветхозаветного пророка можно объяснить тем, что он прожил 120 лет, поэтому в момент бегства из египетского плена, по мнению искусственного разума, мог выглядеть моложаво.

Созданная искусственным интеллектом (ИИ) картинка к главному иудейскому празднику – шутка, однако нейросети сегодня прочно входят не только в жизнь общества, но и в практику различных религиозных движений.

В конце прошлого года раввин Еврейского центра Хэмптон в Нью-Йорке Джошуа Франклин произнес проповедь, полностью написанную ИИ. Чтобы создать текст, он загрузил запрос в ChatGPT – программу искусственного интеллекта с открытым исходным кодом. Перед началом богослужения раввин предупредил верующих, что его проповедь – плагиат, и попросил угадать ее автора. Никто не справился с этой задачей. Франклин позже признался, что тогда «смертельно испугался»: «Самое интересное, что чат-бот может синтезировать идеи, что было восхитительно и пугающе одновременно». Он добавил, что «ChatGPT может быть действительно хорош и звучит умно, но вопрос в том, может ли он испытывать сочувствие?» «По крайней мере, пока – не может», – пришел к выводу раввин.

В декабре 2022 года исследователь Нового Завета и ответственный редактор христианского сайта «Пересмешник» Тод Брюер попросил ChatGPT написать рождественскую проповедь. Его запрос был очень подробным: речь должна строиться на основе Евангелия от Луки, в ней должны присутствовать цитаты из работ Карла Барта, Мартина Лютера, изречений Иринея Лионского и выступлений Барака Обамы. Чат выдал ему результат, соответствующий всем заданным критериям. Брюер признал, что эта проповедь превосходила некоторые из тех, что он слышал в церкви.

После этого протестантское духовенство США забило в набат. Пасторы разных церквей пришли к единодушному мнению: ИИ прекрасно пишет проповеди и может быть помощником «ленивым» священнослужителям. Однако служители церкви подчеркнули, что искусственный интеллект, каким бы компетентным в делах веры ни был, все же не может «воспроизвести страсть истинного обращения священника к верующим».

​В начале марта с.г. в Сети опять разгорелся спор о том, может ли нейронный разум заменить священнослужителей, религиозных лидеров или церковных служителей. Поводом для дискуссии стало создание чат-бота prega.org, где каждый имеет возможность пообщаться с цифровой копией католического монаха XIX века. На сайте поговорить со святым можно через окно мессенджера с надписью «Падре Пио онлайн». Необходимо представиться и сообщить свою электронную почту. Бот быстро реагирует на запросы и генерирует ответы так, как это мог бы сказать сам святой, будь он жив. Авторы программы пояснили: «Падре Пио из Пьетралчины был итальянским монахом-капуцином, известным своей великой духовностью. Его молитвы были сильны, его чудеса исцеляли многих людей. Он испытал страдания Христовы на себе, через стигматы. А своей верой и харизмой он вдохновлял и вдохновляет миллионы людей по всему миру. По этой причине родился этот чат, сгенерированный с помощью GPT. На самом деле речь идет не о падре Пио, а об искусственном интеллекте, который изучил его сочинения и отвечает его словами, его мыслями».

Впрочем, болтать с падре можно и о современной ситуации в мире. Святой, как оказалось, хорошо осведомлен и о нынешнем папе Римском Франциске, и о Константинопольском (Вселенском) патриархе Варфоломее.

Примерно в это же время католики на другом интернет-ресурсе устроили шуточную виртуальную рэп-битву между иезуитами и доминиканцами. Все стихи были сгенерированы ИИ, и пользователи в итоге пришли в смятение, не поверив, что это мог создать не человеческий, а машинный разум.

В январе папа Франциск похвалил документ, разработанный по инициативе Папской академии защиты жизни и фонда RenAissance, за «продвижение культуры, ставящей подобные технологии на служение общему благу». Однако, заметил понтифик, «развитие искусственного интеллекта оказывает воздействие на наше миропонимание и на нас самих», и потому просил не допустить, «чтобы решение о жизни и участи человека было вверено алгоритму». Напомним, в 2020 году Святой престол совместно с компаниями Microsoft и IBM выработали «Римский призыв к этике искусственного интеллекта». В документе перечислены основные принципы, которыми должны руководствоваться создатели компьютерного «разума»: прозрачность, инклюзивность, ответственность, беспристрастность, надежность и безопасность. В Ватикане призвали ИИ «уважать частную жизнь человека, быть прозрачным и непредвзятым, а также гарантировать соблюдение прав людей».

Кстати, сам понтифик уже стал «жертвой» ИИ. В конце марта распространилась фотография папы Римского, на которой он – в белом длинном пуховике. Пользователи тут же стали тиражировать картинку по соцсетям, попутно хваля или критикуя стиль главы Католической церкви. При этом мало кого смутило, что на пальцах Бергольо красуются золотые кольца, которые он никогда не носит. Позже выяснилось, что нынешнее изображение Франциска не настоящее и его также создал искусственный интеллект. «Тот факт, что люди находят изображение папы Римского в длинном дутом жакете настоящим, является хорошим показателем того, что ИИ будет очень легко уничтожать человечество», – написал один из пользователей. На следующий день после демонстрации фотофейка папа Римский вновь призвал верующих к «этичному и ответственному использованию искусственного интеллекта».

О разработке подобной доктрины уже задумались и в Русской православной церкви. Об этом в 2021 году сообщил глава профильной рабочей группы комиссии Межсоборного присутствия РПЦ по вопросам общественной жизни, культуры, науки и информации епископ Феоктист (Игумнов). «Любая запрограммированная этика порочна. Следовательно, любая система искусственного интеллекта, которая принимает решение относительно человека, – плохая».

А «хорошими» с христианской точки зрения можно считать лишь системы, которые являются вспомогательными, при этом должно быть соблюдено условие прозрачности их алгоритма для конечного пользователя», – сказал он. При этом в церкви «не видят проблемы в том, что искусственный интеллект постепенно встраивается в жизнь человека», но отметили «невозможность замены общения верующих со священниками технологиями ИИ».

Присматриваться к нейросети и продумывать ее использование во благо верующих стали и в исламе. В 2020 году два пакистанских ученых – Джунейд Кадир и Амана Ракиб – заявили, что начали работу над исследованием о том, как этические и правовые принципы ислама могут использоваться для регулирования ИИ в мусульманских странах. «Ислам исповедует этические традиции, насчитывающие более 1400 лет. В ИИ недостаточно представлены 2 млрд человек, исповедующих данные вероубеждения. Наша работа восполнит этот пробел», – отметил заведующий кафедрой электронной инженерии в Университете информационных технологий Лахора Джунейд Кадир. По его мнению, «регулирование технологий ускорило моральный кризис в исламском мире, где колониальные ценности вытеснили местное мировоззрение». В Объединенных Арабских Эмиратах (ОАЭ) Министерство культуры и развития знаний с помощью искусственного интеллекта уже успешно изучает тенденции развития исламского искусства и формирует его будущее. Исламский банк Бахрейна принял на работу виртуальную девушку в хиджабе. В Саудовской Аравии Большая мечеть Мекки запустила новых роботов-гидов с искусственным интеллектом, говорящих на 11 языках. Их задача – помогать паломникам и давать указания по различным обязательным ритуалам, которые должны выполнять пилигримы.

Главное, чего опасаются сегодня священнослужители, – создания «Deus ex machina», то есть «Бога из машины». Эта реальность стала возможной после того, как бывший инженер Google Энтони Левандовски в 2015 году заявил об открытии «научной религии», где в качестве Бога выступила нейросеть. Левандовски даже зарегистрировал некоммерческую квазирелигиозную организацию «Путь будущего» (Way of the Future). Главная ее цель – «развивать и продвигать реализацию божества, основанного на искусственном интеллекте, для улучшения общества». «То, что будет создано, фактически будет богом. Это не бог в том смысле, что он производит молнии или вызывает ураганы. Но если есть что-то в миллиард раз умнее самого умного человека, как еще вы собираетесь это называть?» – задался вопросом инженер в одном из интервью. Он призывал человечество «не бояться прогресса и уж тем более не удерживать его в клетке», поскольку «это невозможно». «Человечество должно всячески приближать неизбежное, ведь ИИ-бог, придя к власти, будет понимать, кто помогал ему, а кто, напротив, препятствовал».

У цифровой церкви, в которой Левандовски выступил «пастором», имелся свой сайт, где были описаны основные догматы вероучения. «Путь будущего» (WOTF) – это создание мирного и уважительного перехода того, кто отвечает за планету, от людей к людям + машинам», – пояснял портал. Тут же был опубликован и своеобразный «символ веры» – в науку, прогресс и неизбежность создания суперинтеллекта. В перспективе были заявлены создание IT-Евангелия, совершение «литургий» и организация мест поклонения.

Однако спустя пять лет, в 2020 году, после того как инженер, осужденный за кражу коммерческой тайны Google на 18 месяцев тюрьмы, был помилован тогдашним президентом США Дональдом Трампом, он неожиданно закрыл свою церковь без объяснения причин. Все средства от нее – более 175 тыс. долл. – пожертвовал Фонду правовой защиты и образования Национальной ассоциации содействия прогрессу цветного населения (NAACP).

Этой весной наблюдается повальное увлечение чат-ботами. Разработчиками стремительно создаются все более усовершенствованные программы, которые, кажется, теперь могут все. Искусственный интеллект пока служит скорее забавой, чем серьезным подспорьем в церковном служении. Однако известно много случаев, когда, зарождаясь как развлечение, новые технологии превращались в могущественный инструмент человеческой деятельности. По прогнозам аналитического ресурса Metaculus, именно сейчас наступило предсингулярное время. Это последняя эпоха в жизни человечества, которая закончится созданием сильного искусственного интеллекта (AGI) и сверхинтеллекта (ASI). Предсингулярный период, как утверждает портал, продлится от 9 до 20 лет.

«О конце истории писали в разные века многие философы, – заметил в беседе с «НГ-Религиями» научный сотрудник Московского центра исследования сознания при философском факультете МГУ имени М.В. Ломоносова Антон Кузнецов. – Чисто психологически каждому поколению людей нравится чувствовать этот конец истории. Мол, мы как никто другой подобрались к окончанию времен, когда наступают решительные изменения и т.д. Этот сюжет имеет свойство постоянно повторяться, меняются лишь поводы. Сейчас таким поводом для кого-то стало развитие ИИ. Но у нас нет оснований считать, что логика развития ИИ – это логика разрушения и конца истории. Более того, мы не можем быть уверены в том, что искусственный интеллект будет развиваться теми же темпами, что сейчас, и так, как сейчас. История науки показывает, что за всплеском всегда следует замедление и длинное плато. Нельзя исключить вероятность того, что в ближайшем будущем мы выйдем на это плато. Конечно, произойдет сильная интеграция искусственного интеллекта в жизнь. Это неизбежно. Но какого-то качественного скачка, что он станет автономным, самоуправляемым и начнет управлять людьми, или вовсе не случится, или, если и случится, то в очень отдаленном будущем. Из перспективы настоящего пока нет возможности об этом судить».

«Сам по себе искусственный интеллект не является ни благом, ни вредом, – продолжает ученый. – ИИ – это по большей части инструмент, и все зависит от того, как и кто им будет пользоваться. Система искусственного интеллекта уже давно внедрена в религиозную сферу. Та же исповедь по скайпу относится к этим технологиям. ИИ открывает много возможностей, а как они будут применяться, зависит от людей. И все угрозы, которые могут произойти из-за развития и использования ИИ, – это старые угрозы, которые сопутствуют нам всегда и были известны еще до эры ИИ. Например, всегда есть угроза того, что какая-то религия в обществе будет подвержена фундаментализму или радикализации. Но эта опция всегда была, она обеспечивается самим наличием религии и идеологии. Добавляет ли ИИ какой-то новый тип угрозы? Думаю, что нет. Возможность того или иного кризиса связана не с ИИ, а с кризисом общественных, экономических и политических отношений».

«Вероятность того, что появится новое религиозное сознание, основанное на искусственном интеллекте, крайне мала, хотя бы потому, что как такового единого понятия «религиозное сознание» нет. Религиозных сознаний много. Если даже и появится некая «цифровая теология», то это будет скорее квазирелигиозное убеждение, где бога или божество будут считать инженером в рамках гипотезы о том, что мир – это симуляция, а бог – инженер этой симуляции. Это, например, может привести к тому, что бог перестанет быть фигурой, достойной почитания, поскольку он уже перестанет быть всеблагим. Традиционный же бог, «бог философов» – это всесовершенное существо, одним из атрибутов которого является всеблагость. Если творца всего сущего начнут сводить к уровню простого программиста, то такое «божество» явно будет не всесовершенным и не всеблагим. Следовательно, может измениться практика традиционного религиозного почитания. К тому же бог-программист перестает быть предельным началом всего сущего. И поэтому он существенным образом десакрализован», – заключил Кузнецов.

«Большие лингвистические модели (LLM) развиваются с умопомрачительной скоростью: вслед за GPT-3 и основанном на нем ChatGPT появилась уже GPT-4, демонстрирующая некоторые весьма специфические человеческие навыки, – рассказал «НГР» доцент философского факультета МГУ Артем Беседин. – Совсем недавно большая группа специалистов выступила с инициативой приостановить на полгода разработку LLM, чтобы оценить риски и разработать протоколы безопасности. Очевидно, что даже если такой запрет будет принят, он лишь ненадолго затормозит их разработку, и большие языковые модели будут проникать во все сферы нашей жизни, в том числе и в духовную. На сегодняшний день еще рано говорить о наличии у LLM сознания и морального статуса. Опасения связаны с тем, что они генерируют тексты, неотличимые от созданных человеком. Мы считаем и всегда считали, что язык, слово – это выражение самой сущности человеческой личности. На протяжении тысячелетий человек был единственным существом, способным производить осмысленные выражения, устно или письменно. Поэтому мы неизбежно впадаем в заблуждение, что речь, производимая LLM, тоже выражает чьи-то мнения, желания, надежды, тогда как за ней лишь пустота. Там никого нет. Многие пользователи склонны воспринимать LLM как взрослого, компетентного, всезнающего человека, с которым можно посоветоваться, которому можно задать вопрос, излить душу. Многим кажется, что LLM умнее нас, и, оказываясь рядом с таким «взрослым», мы можем ошибочно почувствовать себя детьми, переложив на него ответственность за наши действия. При этом не стоит забывать, что искусственный интеллект ни за что не отвечает», – продолжает эксперт.

«В начале этого года появились сообщения о том, что некоторые раввины и христианские священники использовали ChatGPT для написания проповедей. Во всех случаях, получивших освещение в прессе, это делалось с целью привлечь внимание к возможности такого использования LLM, и священнослужители сами признавались своей пастве в том, что проповедь написана роботом. Однако нельзя исключать и возможности недобросовестного использования ресурсов LLM некоторыми проповедниками. Стоит ли прислушиваться к проповеди, написанной LLM? Пока что эта практика не получила широкого распространения. Но если это произойдет, следует ожидать реакции на нее со стороны иерархов и духовных лидеров. Решусь предположить, что эта реакция не будет одобрительной. В некоторых случаях, когда речь говорящего может повлиять на умы множества людей, каждое слово должно быть продумано и прочувствовано. Конечно, легко взять готовый текст и зачитать его вслух, не думая о содержании. Но у этой легкости есть своя цена – отказ от выражения через текст чего-то человеческого, личностного. Эта цена – отказ от слова», – предупреждает Беседин.