Непредсказуемость событий после появления сверхразума

По мнению визионера Рэя Курцвейла, Сингулярность – это точный и окончательный прогноз. Фото Эда Схипула

В двух выпусках «НГ-науки» (от 08.04.20 и 22.04.20) опубликована статья блогера Сергея Карелова с подзаголовком «Техносингулярность становится технорелигией».

Карелов – тактик спора и провокатор в хорошем смысле слова. Часть его критики вполне содержательна, например, претензии к заполонившим тематику техносингулярности произвольным графикам и легковесным рассуждениям о будущих чудесах действительно впечатляют. Критика по многим пунктам точна и своевременна. Однако за ней следует чрезмерно широкое обобщение: ярлык квазирелигиозной пропаганды навешивается на всю концепцию разом. И что предлагается взамен? Еще менее обоснованные идеи об автомодельных решениях и режимах с обострением. (Замечу, без какой бы то ни было конкретики – автомодельные решения каких уравнений? Режимы обострения каких процессов? Ответа нет.) Пусть эти идеи и «родные», «отечественного производства», но их фундамент шаток.

На самом же деле в анализе Сингулярности гораздо более интересно другое: трудность измерения интеллекта и сомнительность его связи с чистой вычислительной мощностью. Кроме того, как мы покажем ниже, Сингулярность – это не просто предсказательная модель, а возможный путь конструирования будущего.

Как бы ни хотелось критикам заклеймить Сингулярность как слепую веру в прогресс, все же существует ряд эмпирических фактов и объясняющих их гипотез, от которых невозможно отмахнуться. И несмотря на все споры, о Сингулярности по-прежнему пишут научные статьи (Google Scholar дает 4770 результатов по запросу technological singularity). Эксперты оценивают вероятность ее наступления в 10% или выше, а отдельные примеры сингулярных явлений можно наблюдать уже давно. В результате сформируется более ясное понимание путей развития общества и нашего будущего в ближайшие 50–100 лет.

История концепции

Концепция Сингулярности восходит к отцам компьютерной революции – Алану Тьюрингу, Джону фон Нейману, Дугласу Энгельбарту, которые в 60-х годах прошлого века разглядели грядущий экспоненциальный рост мощности компьютеров (закон Мура) и возможностей машинного интеллекта, назвав это «сингулярностью».

Мы видим два аспекта Сингулярности – роль машинного разума и эволюция интеллекта. Другие важные аспекты – вопрос о возможности предсказания поведения более умного существа, то есть непредсказуемость событий после появления сверхразума. Еще один аспект – это ускорение прогресса.

Многим ученым так понравилась идея Сингулярности, что они начали объединять любые тренды, где наблюдается ускорение. Особенно много таких ученых почему-то оказалось в нашей стране – Панов, Коротаев, Назаретян и многие другие специалисты по «большой истории» построили много графиков, создающих видимость предсказуемости.

Еще в начале 2007 года автор этих строк обозначил три основные «школы» Сингулярности: «школа ускорения», «школа непредсказуемости» и «школа сверхразума». Постепенно все эти идеи смешались в одну – идею о том, что в XXI веке нас ждет условный конец света, а перед этим – чудеса научно-технического прогресса. В то же время речь идет об одном и том же ожидаемом событии, просто каждый автор хвалит свои собственные графики. Авторы, подобно средневековым схоластам, решили назвать Сингулярность фазовым переходом (что представляют собой эти фазы, как происходит переход, каковы его скрытые параметры и т.д., они не отвечают) и решили аппроксимировать его гиперэкспонентой.

Получается двойственная ситуация: сначала автор объявляет ряды событий, выделенные футурологом Рэем Курцвейлом или австралийским системным теоретиком Грэмом Снуксом, недостоверными и произвольными домыслами (что, конечно же, во многом правильно). Однако затем предполагается, что если уж эти ряды чем-то аппроксимируются, то это «что-то» – гипербола или, точнее, «гиперэкспонента», а не «басурманская» «сингулярная» экспонента. Не кажется ли вам это странной попыткой критиковать технорелигию с позиций технохиромантии?

На этом фоне некоторые из экспоненциальных построений Курцвейла смотрятся все же намного основательнее. Поскольку в его распоряжении и сам исходный закон Мура, и его расширенные формулировки, показывающие, что экспоненциальный тренд не прекращается даже при переходах с одной элементной базы вычислительных устройств на другую. Это все-таки лучше, чем произвольно выбираемые «вехи развития» или загадочные режимы обострения непонятно каких функций и от каких переменных и т.д.

Главное в концепции Сингулярности

Во-первых, общая логическая структура рассуждений американского фантаста Вернора Винджа (интеллект – прогресс – непредсказуемость).

Во-вторых, конкретные примеры такого стремительного, иногда экспоненциального, развития различных отраслей. Эталонный пример – информационные технологии в XX веке, позволившие Курцвейлу построить график роста вычислительной мощности, который, похоже, позволяет экстраполировать закон Мура и в прошлое, и в будущее, несмотря на смену элементной базы.

В-третьих, несколько возможных траекторий наращивания интеллекта в будущем – через гибридный и коллективный интеллект человека, через загрузку разума в компьютер с помощью нанотехнологий и через дальнейшее поступательное развитие искусственного интеллекта (ИИ).

Под Сингулярностью правильнее всего понимать «нарастающее усиление интеллекта». Все остальное – это связанные темы и явления. Некоторые из них более вероятны, некоторые – менее. Но, обсуждая Сингулярность, надо обсуждать прежде всего центральную идею.

Теперь мы вооружены пониманием, достаточным для того, чтобы задать вопросы: будет ли Сингулярность в ближайшие века, насколько вероятно, как и когда это может случиться, а главное, что нам в связи с этим делать?

Сингулярность надо не предсказывать, ее надо приближать и строить. Это не конец света, который просто должен был наступить в 1666, 2000 или 2012 году. Это – технологический, научный и социальный сверхпроект, который требует объединения усилий лучших умов планеты.

Гибридный интеллект – это совместная работа компьютера и человеческого интеллекта. Либо подсказки от ИИ, либо использование компьютера как экзокортекса – внешнего расширения мозга.

Это и будет коллективный интеллект – совместное мышление, когда группы людей выгружают свои ментальные модели из головы в компьютер и работают совместно с их представлениями. В перспективе должны внедряться гибкие когнитивно легкие инструменты для моделирования и совместного мышления на компьютере. Такое усиление коллективного интеллекта ученых позволит ускорить научно-технический прогресс, что должно привести к лучшему пониманию природы мышления, созданию более мощных апгрейдов для интеллекта и т.д.

Прогрессометрия и уровни эмергенции

К сожалению, наш оптимизм относительно Сингулярности гасится реальными новостями «с полей». Оказывается, как показывают многие ученые (Роберт Гордон, Пол Страссман, Уильям Нордхаус, Ян Вийг и др.), последние 50 лет мы наблюдаем не экспоненциальный рост, а замедление прогресса и чуть ли не глобальную стагнацию.

Вопрос измерения прогресса (прогрессометрия) однозначно непрост. Но попытки Курцвейла следует признать шагом вперед. Помимо «исторических вех» он смог найти хоть какие-то количественные показатели, относительно которых есть объективные данные.

Строить график мирового (или планетарного) прогресса по довольно произвольным точкам (отобранным историческим событиям) – сомнительная практика. И это резонно критикуют цитируемые Кареловым авторы. Привязка к объективным показателям, таким как вычислительная мощность машин и точность сканирования мозга – шаг вперед.

Науки о человеческом интеллекте сегодня просто нет. Есть только беллетристика на эту тему.  Иллюстрация Pixabay

Связь науки и результата (прогресса) не возникает автоматически. Нужно понять это взаимодействие и отлаживать его, перенастраивая институт науки и направляя его на достижение конкретной цели – Сингулярности. Вообще перевод научных знаний в технологии (technology transfer) – сложная задача, для которой не характерен экспоненциальный рост. Остаются нерешенными проблемы архитектуры научно-технической системы.

При обсуждении природы сознания и разума на вопрос «как именно происходит мышление?» у нас пока есть лишь один ответ: эмергентно, то есть непонятно как.

Простые функции сознания – например захват и распознавание образов – уже смоделированы. В них прогресс скорости и качества вычислений совпадает с прогрессом в финальных результатах. Но более сложные уровни, состоящие из комбинации интеллектуальных функций, пока нормально даже не описаны. Поэтому двигаться дальше мы не можем. Возможностей сквозного моделирования по уровням эмергенции у науки пока нет. Когда появятся? Группа Carbon Copies сейчас работает над проектом по обновлению «дорожной карты» эмуляции мозга. Возможно, через год появится примерная ясность в том, что предстоит сделать на пути к загрузке сознания в компьютер.

Войны нанороботов

Все цифровые технологии, развиваемые последние десятилетия, основаны на предыдущих технологиях, а не на научных прорывах. Под вопросом и готовность общества воспринимать радикально новые технологии. В общественном дискурсе нет новых моделей и признанных ориентиров. Нет востребованности новых технологических макроскачков. Технологии ориентированы преимущественно на рынок потребительских товаров и информационно-развлекательных сервисов.

Раз мы не можем дать однозначного ответа на вопрос о замедлении прогресса, давайте детально разбираться, что именно растет, а что падает.

В первой половине ХХ века развивалась авиация. Во второй – развитие авиации приостановилось. Точка фокуса прогресса сместилась. Сначала в ракетную технику, потом – в компьютеры и далее – в мобильные устройства, приложения и т.д.

Сейчас закон Мура замедлился. Но, с другой стороны, есть и новые решения, например, чип Cerebras Wafer Scale Engine размером с большую полупроводниковую пластину, содержащий 1,2 трлн транзисторов.

К моменту Сингулярности подошла разработка вирусов (синтетический вирус делают по его описанию за несколько недель). Возможности высокоскоростного секвенирования генома и молекулярного моделирования дают человеку возможность сравниться с природой хотя бы в деле создания вирусов, если не в создании вакцин от них.

В нанотехнологиях – болото еще с 2003 года, о чем отец нанотехнологий Эрик Дрекслер подробно написал в книге Radical Abundance в 2012-м.

Науки о человеческом интеллекте просто нет. С 50-х годов прошлого века существует лишь некое недооформившееся междисциплинарное образование – «когнитивные науки». Но оно не смогло выдать никаких практических результатов, и его вклад в экономику нулевой.

В энергетике прогресс не очень велик. Термоядерной энергетики нет, зеленая энергетика растет тяжело, атомная постоянно находится под угрозой закрытия. И нового – только сланцевая нефть.

Поскольку темпы прогресса весьма неоднородны, гипотезы о Сингулярности надо разделять с учетом требуемых технологических траекторий и строить количественные (вероятностные) модели для них. К сожалению, ждать ясности в данном вопросе не приходится. Если Сингулярность действительно близко, то «историческая турбулентность» должна нарастать. Нас будет трясти все сильнее, включая, возможно, даже войны нанороботов.

Сингулярность – это модель будущего

Если для Сингулярности важно не общее число статей или даже число транзисторов на чипе, а решение конкретных научных и технических задач, то кто их решает? Ученые и инженеры, но сегодня они их решают плохо. Это значит, что мы движемся к Сингулярности медленно, но, возможно, починив и перенастроив научно-техническую сферу, прогресс можно ускорить.

Сергей Карелов говорит о Сингулярности как о технорелигии. Мы же говорим, что Сингулярность – это модель будущего. Причем плановая модель, то есть один из возможных путей конструирования нашего будущего.

Сингулярность – это результат нарастания интеллекта, вот что самое главное. Ускорение мышления – неважно, коллективного, гибридного или машинного – может привести к Сингулярности. Все остальные аспекты сингуляритарианизма – второстепенные.

Наука как эффективный коллективный интеллект – это имеющийся сегодня «генератор Сингулярности». Поскольку она уже полвека как сбоит, ее нужно перенастроить.

Пока у нас нет четких средств измерений интеллекта или прогресса, но у нас есть неоспоримые факты о происходящем в мире, которые надо объяснять и оценивать. Мы можем развиваться экспоненциально, и нам надо понять, как это получается и как этого достичь – с помощью гибридного и коллективного интеллекта или как-то еще.

Заблуждается Курцвейл: Сингулярность – это не точный и окончательный прогноз. Это не поезд благоденствия и технологических чудес, который прибудет по расписанию. Но заблуждается и Карелов: Сингулярность – не религиозный фантом, пришествие которого камлают техногики и стартаперы Кремниевой долины.

Скоро нас ждет наука о Сингулярности. Ее развитие позволит уже не говорить о магических траекториях исторического развития, об абстрактных инновациях или цифровизации, а создавать конкретные технологии, решающие конкретные задачи, ведущие нас к миру сверхинтеллекта.

Сингулярность – это инженерный проект будущего, которое мы можем построить. Сейчас Российское трансгуманистическое движение, проект «НейроКод» развивают эту будущую науку о Сингулярности, разрабатывая технологии усиления коллективного интеллекта, готовя почву для общественных организаций и коалиций по усилению интеллекта.

У нас есть совершенно конкретные планы, как вывести человечество на благоприятную траекторию, ведущую к Сингулярности. Они предполагают конкретные проекты и научные программы, а продвижение по ним может быть объективно оценено. Вот наш примерный план на следующие полвека:

• 2030 год – гибридный интеллект;

• 2040-й – коллективный интеллект;

• 2050-й – нанороботы (ведут к быстрым компьютерам и интерфейсам мозг-компьютер);

• 2060-й – интерфейсы мозг-компьютер;

• 2070-й – мыслящий искусственный интеллект;

• 2080 год – постлюди и Сингулярность.

Сингуляритарианство как система взглядов на общество – это целевое приведение производительных комплексов (триада: наука – технологии – экономика) в состояние экспоненциального роста.

Возможно, для того чтобы развивать усиление интеллекта, перестраивать инновационную систему и ставить цели для науки и техники, потребуется не просто запуск мегапроекта, но отделение трансгуманистически мыслящих ученых в «Ваканду» – новый город-государство, ориентированный на достижение Сингулярности прежде всего.