Александр Винничук
Даже робот-репликант, поступающий по-человечески, обязательно станет человеком. Кадр из фильма «Прометей». 2012
Споры об эпохе искусственного интеллекта (ИИ) идут не одно десятилетие, пока в университетских лабораториях и на базе крупных технологических компаний ведутся практические разработки. Интерес ученых и изобретателей к ИИ претерпевал волны подъема и спада.
Самосознание – болезнь ИИ
Конечно, мы можем предполагать разные сценарии, от утопического равенства человека и искусственного интеллекта до трагедии, связанной с уничтожением самого вида Homo sapiens искусственным интеллектом. Но в развитии таких технологий, как ИИ, есть внутренняя логика, ведь они опираются на объективные законы физики и математики, и человеку вполне по силам их контролировать и поставить себе на службу. Любые попытки запретить или остановить это движение обречены на неудачу.
Что если и эра ИИ – это не кошмар наяву, а лишь новая ступень развития мира и человечества, переход на которую неизбежен? Это, в свою очередь, не означает, что нужно смиренно ждать восстания машин или конца света – это наше будущее, и мы можем им управлять.
Те типы искусственного разума, которые мы создаем сейчас и будем развивать в будущем, предназначены для решения конкретных, узкоспециальных задач. ИИ должен существенно отличаться от человеческого, самосознание может оказаться для него серьезным недостатком.
Сможет ли машина думать, как человек? Этот вопрос до сих пор не решен в науке об искусственном интеллекте. Чтобы приблизиться к ответу, для начала разберем этапы, которые жизнь проходила до того момента, как воплотилась в той форме, с которой мы имеем дело в настоящий момент.
Внезапный захват мира
Исследователи искусственного интеллекта дают разные прогнозы относительно возникновения сверхразума, которые отличаются не только по сути, но и по эмоциональному накалу – от уверенного оптимизма до озабоченности, граничащей с паникой (как, например, прогнозы философа Ника Бострома или инженера‑предпринимателя Илона Маска).
Основные вопросы, по которым разгораются ожесточенные споры, – «Когда наступит искусственная жизнь и технологическая сингулярность?», «Что именно произойдет?» и «Чем это обернется для человечества?». Чем больше мы полагаемся на искусственный интеллект, тем больше беспокоимся о том, будет ли он и дальше действовать в наших интересах. Ведь в случае с искусственным интеллектом цена недосмотра может оказаться слишком высокой, даже фатальной. Чем более мощными становятся технологии, тем меньше мы должны полагаться на метод проб и ошибок.
Программные ошибки и неполадки в сети случались и прежде, но уже сегодня искусственный интеллект вышел за пределы сугубо компьютерной сферы – из‑за ошибок в программе легко может рухнуть фондовый рынок, начаться война или разразиться ядерная катастрофа.
Внезапный захват мира сверхразумом невозможен в ближайшие 10–15 лет. Такому сценарию должны предшествовать, по крайней мере два этапа. На первом мы создаем общий ИИ – такой искусственный разум, который не уступает человеческому по всем параметрам. По самым оптимистичным прогнозам, он появится в 2040–2055 года. Некоторые ученые считают, что это утопия и искусственный интеллект может превосходить человека только в отдельных областях – лучше собирать автомобили, играть в шахматы или возводить в степень десятизначные числа.
На втором этапе мы используем общий ИИ для создания сверхразума. И только после создания сверхразума человечество может позволить (или не позволить) искусственному интеллекту захватить мир. Возможен, но маловероятен вариант, как в романе «1984» Джорджа Оруэлла: технологический прогресс остановлен навсегда, сверхразум не создан, потому что в полицейском государстве, управляемом людьми, исследования в области искусственного интеллекта полностью запрещены.
Помимо сроков и сценариев появления искусственного интеллекта ученые спорят и о его целях. Должны ли мы ставить цели перед искусственным интеллектом? Одна из характеристик разума – способность достигать сложных целей. Значит, у искусственного интеллекта также будут цели, которые перед ним поставит человек. В противном случае ИИ сам их сформулирует. Мы создаем все более разумные машины, чтобы они помогали нам достигать человеческих задач: цели искусственного разума должны соотноситься с нашими целями.
Но каким образом мы можем внушить эти цели искусственному интеллекту и можем ли мы быть уверены, что сверхразум будет следовать нашим целям?
Изобретая самого себя
Люди тысячи лет живут с чувством собственной исключительности, потому что мы – единственные полностью разумные существа на Земле. Однако совсем скоро появится искусственный интеллект, который превзойдет нас по всем параметрам. Мы подходим к точке исторического развития, в которой нам придется пересмотреть базовые понятия. Заново возникнет кантовский вопрос, что такое человек.
Последние 200 лет человек привык чувствовать себя хозяином природы. Но сейчас мы создаем себе другого господина – искусственный интеллект, многократно превосходящий человеческий.
ИИ уже вокруг нас: от беспилотных автомобилей и дронов до виртуальных помощников и программ для перевода. Любую вещь можно сделать «умнее», встроив в нее чип и при помощи облачных технологий соединив с глобальным искусственным разумом.
Первым настоящим ИИ будет сеть, состоящая из миллиардов чипов. Любое устройство или человек, присоединившись к этой сети, сможет пользоваться ее интеллектом и одновременно обогащать его собственным опытом. Подобный нейроинтерфейс разрабатывает компания того же Илона Маска «Нейролинк». В перспективе человека ожидает физическое бессмертие в форме биологических клонов или компьютерной программы.
Человек будет все время заново изобретать самого себя: технологии изменят само понятие «быть человеком». Преобразятся фундаментальные структуры жизни, основным качеством человека станет изменчивость. Гендерная идентичность станет подвижной, компьютерный интерфейс и дополненная реальность одарит человека новыми ощущениями. Возможно, появятся новые формы воплощения человеческой жизни, от киборгов до человека, реализованного в облаке данных. Поиски идентичности сделаются намного более сложными и насущными, чем когда‑либо в предшествующие эпохи.
Различные мифы и нарративы, на которые человек привык опираться, – национальные, культурные, религиозные – отпадают, и остается лишь индивидуальный, постчеловеческий миф. Этот миф призывает бороться за свободу и творить, каждый раз заново решая вопрос о том, кого можно отнести к человеческому роду.
Семиотик и философ Вадим Руднев, отвечая на вопрос о том, каждый ли представитель вида Homo sapiens может быть назван человеком, приводит интерпретацию культового фильма Ридли Скотта «Бегущий по лезвию», которую делает словенский философ Славой Жижек. В соответствии с этой интерпретацией незнание человеком того, что он человек, а именно незнание этого факта, делает его человечней. Невозможность достоверно установить главным героем фильма «Бегущий по лезвию», является ли он землянином или роботом‑репликантом, заставляет его в любой ситуации поступать по‑человечески. Логика проста: даже робот‑репликант, поступающий по‑человечески, обязательно станет человеком.
Постчеловеческий миф
Реальным остается страдание другого человека и наше к нему сострадание. Удивительным образом древние религии и духовные практики (буддизм, даосизм, эзотерические учения) и классический либерализм утверждают реальность чужого переживания. Даже если мы голограммы в матрице, страдание конкретного человека в этой матрице всегда безусловно реально.
Так, представив почти немыслимое и близкое будущее, где человек может утратить и биологический облик, и все привычные социальные статусы, но принять как единственную данность постоянство перемен (по футурологу Жаку Фреско), мы подходим к точке, где некогда начинался первобытный человек. Эта точка – признание реальности Другого, реальности сострадания к Другому, может, даже полностью искусственному Другому.
И в этой же точке зарождается понятие о достоинстве и правах человека. Хотя именно к этому понятию апеллируют противники перемен: дескать, человек генномодифицированный, с искусственными органами, живущий на других планетах, размножающийся итерационным способом, превратившийся в алгоритм внутри искусственного интеллекта, – больше не человек. Его уникальное достоинство уничтожено. На самом деле достоинство человека уничтожается лишь отказом признать человеческое достоинство другого и нежеланием поступать по‑человечески. Если появятся машины и алгоритмы, способные к страданию и человечности, сострадание распространится и на эти машины.
Говоря об ИИ, мы обычно имеем в виду исключительно технические характеристики. Однако ИИ становится все совершеннее и, возможно, со временем сможет не только обрабатывать информацию, но и испытывать субъективные ощущения и приобретать опыт, то есть станет осознанным... Если мы ему это позволим.
Все этические принципы, рассмотренные выше, теряют смысл, если искусственный разум не способен чувствовать. Кроме того, человеку чувствующему непросто будет взаимодействовать с «бесчувственным» ИИ, который сможет причинить зло, не ведая, что творит.
До конца текущего века роботы отберут у людей большую часть рабочих мест. В будущем немногие из нас будут работать, и уровень безработицы будет высоким, как никогда раньше. Наш будущий финансовый успех зависит от того, насколько эффективно мы сможем с ними сотрудничать, уступая им всю тяжелую, утомительную и сложную работу.
Будут востребованы профессии, в которых важны креативность, развитые социальные навыки и умение работать в меняющихся условиях. А там, где нужны структурированные, повторяющиеся действия и точные вычисления, машины уже сейчас эффективнее людей. В процессе подготовки к новой искусственной форме жизни нужно адаптировать законодательство к присутствию искусственного интеллекта во всех сферах жизни.
Прозрачный мозг
За страхом потерять работу и остаться ненужным таится и главная экзистенциальная проблема XXI века: исчезновение человеческого вида в том виде, в каком мы привыкли себя представлять. Информационные технологии в сочетании с биотехнологиями постепенно делают наш мозг прозрачным. Алгоритмы наших решений теперь понятны, и на них можно влиять. Ключевые слова в рекламе подбираются уже даже не с учетом целевой аудитории, а нацелены на поисковую систему, чтобы сообщение попало в топ новостей или мемов.
На уровне отдельной личности возникает онтологический ужас не вписаться в эпоху перемен или же, наоборот, измениться слишком сильно и перестать быть собой. Между тем науке известны биохимические реакции, которые воспринимаются нами как эмоции и состояния души. Созданы лекарства, управляющие эмоциями. Означает ли все это, что обычный человек отменяется?
С одной стороны, человек рискует утратить неотъемлемые атрибуты, такие, как свобода воли, экзистенциальные ценности, статус гражданина, а с другой стороны, открывается возможность для создания сверхчеловека (необязательно в ницшевском изводе).
На уровне социальном у людей существенно опасение, что под видом либеральной демократии на правительственном и мировом уровне осуществляется тотальная манипуляция. Большие данные (Big Data) делают нас прозрачными, жизненно важные политические и экономические решения принимаются алгоритмами; информационные и биотехнологии управляют разумом и эмоциями.
Давайте представим, что прошло 50, 100 или 500 лет и наступила новая технологическая жизнь. Какой она будет, во многом зависит от наших ожиданий и действий. Искусственный интеллект может как значительно улучшить нашу жизнь при условии, что мы не будем торопиться вводить новые устройства на его основе в эксплуатацию, так и поставить ее на грань исчезновения.
Чтобы избежать трагедии, важно, чтобы цели ИИ совпадали с целями людей и были этичными. И уже сегодня нужно разрабатывать коды, которые позволят разъяснить искусственному интеллекту этические принципы.
Нам не следует бояться, что искусственный интеллект превзойдет человеческий. Это неизбежно – во многих сферах это уже произошло. Вероятно, пришло время перестать гордиться интеллектуальным превосходством, а обратить внимание на духовную и эмоциональную жизнь, превратиться из человека разумного в человека чувствующего и сочувствующего. Возможно, ИИ тоже со временем научится испытывать субъективные ощущения, и они с человеком будут лучше понимать друг друга.
Ростов‑на‑Дону
комментарии(0)