Общий искусственный интеллект: больше вопросов, чем ответов

Принято считать, что разум соотносится с мозгом так же, как программа с аппаратной реализацией компьютера. Иллюстрация Vecteezy

В мире набирает обороты беспрецедентная гонка за первенство в создании общего искусственного интеллекта (ОИИ), то есть ИИ человеческого уровня, способного без прямого обучения решать любые задачи, доступные людям, так же эффективно, как это делал бы человек, и обобщать свои знания для неких новых, незнакомых ему задач. Другими словами, такой ИИ должен сравняться с человеком в решении любых интеллектуальных и творческих задач, а его новаторская цель заключается в том, чтобы понять, как думают люди.

Это сложно, так как внутренняя работа самого ИИ – своеобразный «черный ящик»: процесс достижения выводов – неясной природы, к тому же он не виден. Должна возникнуть новая реальность, к которой нам надо будет адаптироваться.

Одного понимания, что происходит в «черном ящике», недостаточно. В развитии ОИИ необходимо сделать следующий шаг. Его технологии должны позволять не только давать ответы на поставленные вопросы на основе заложенных при обучении данных, но и конструировать новые ответы с объяснениями результатов, учитывающих контекст.

Нужно шестое чувство

Начало гонки по созданию ИИ было положено почти 70 лет назад, но в той части, которая касается ОИИ, задача пока не решена: общий искусственный интеллект не создан. По мнению экспертов, один из возможных путей к его созданию – более тщательное изучение и моделирование интеллекта естественного, физическим носителем которого является человеческий мозг.

В этом случае польза от ИИ будет несомненной, даже если заявленные выше цели не будут достигнуты. ОИИ, если он физически будет создан по образу и подобию человеческого мозга, по крайней мере сделает возможным его использование для диагностики и лечения заболеваний и повреждений мозга. Но моделирования лишь принципов переработки информации в мозгу человека недостаточно.

Мозг сам по себе, в отрыве от тела, мыслить (вычислять) не может. Поэтому тело, которое задает систему отсчета, играет существенную роль при формировании интеллекта, а значит, и при создании ОИИ. Часть принципиально важной для принятия решений информации хранится в «памяти» суставов и мышц. Следовательно, в ОИИ с необходимостью должна быть заложена «схема тела».

Все мы знакомы с пятью чувствами – осязанием, зрением, слухом, обонянием и вкусом. Но есть дополнительное «чувство» – интероцепция, которое обязательно должно быть учтено при создании ОИИ. Это ощущение внутреннего состояния нашего организма. Оно помогает нам чувствовать и интерпретировать внутренние сигналы, которые регулируют жизненно важные функции в нашем организме.

Хоть мы и не обращаем на него особого внимания, это чрезвычайно важное чувство, поскольку оно гарантирует, что каждая система в организме работает оптимально. Но что особенно важно, интероцепция многими способами обеспечивает также участие в принятии решений, социальных способностях и эмоциональном благополучии. Вот почему воспроизведение в той или иной форме интероцепции – еще одно обязательное условие для реализации ОИИ.

Известно, что большая часть работы по формированию мозга происходит уже после рождения. Поэтому системы, реализующие ОИИ, когда они будут созданы, должны быть самопрограммируемыми, то есть быть способными обучаться, как обучаются дети. Кроме того, так как головной мозг человека на 50% занят восприятием ощущений, необходимо встроить в системы ОИИ механизмы анализа событий реального мира и сопоставления результатов с предыдущим опытом. Это позволит таким системам создавать согласованную картину мира за пределами машины. А это потребует новой архитектуры систем ИИ.

Новая интеллектуальная архитектура

В большом числе случаев то, что мы называем интеллектуальной деятельностью, может сформироваться только при общении людей между собой. При разработке систем общего ИИ сейчас исходят из того, что понимание того, как люди думают и принимают решения, связано с мозгом одного человека. Однако появились исследования, в которых достаточно убедительно показано, что высшие функции мозга, такие как память, рассуждения, принятие решений, связаны с функционированием других людей.

Другими словами, обработка информации любым конкретным человеком не содержится полностью в мозгу этого человека. Обычно она включает в себя компоненты, расположенные в головах других людей, в дополнение к тому, что они распределены по частям тела человека и физической среде. Таким образом, некоторые сложные интеллектуальные функции, которые с необходимостью должны быть присущи системам ОИИ, на самом деле распределяются между индивидами, то есть имеет место «сообщество знаний».

Естественно, что такие системы ОИИ должны также иметь принципиально другую архитектуру. И эта архитектура должна предусматривать в своем составе наличие хотя бы двух интеллектуальных агентов, а кроме того, предполагать, что обработка данных, которыми обмениваются эти агенты, никогда не прекращается, а результат работы может потребоваться в процессе вычислений. Более того, входные данные могут поступать от источников, о которых не было известно до начала процесса вычисления.

Почему создание ОИИ вызывает такой интерес? Здесь уместно привести слова нашего президента Владимира Путина: «Искусственный интеллект – это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира». Этот императив, кажется, осознали мировые лидеры всех экономически развитых стран, в соответствии с ним строя свои планы.

Однако в последнее время акценты несколько сместились. ОИИ по-прежнему остается заявленной целью, но больше стали говорить и писать о новых парадигмах, в частности о моделях рассуждений, гибридном интеллекте и др. Вероятно, приходит осознание: создание ОИИ в принципе возможно, но сложность задачи, а также ослабление заинтересованности у тех, кто финансирует такие исследования, отодвигает срок возникновения ОИИ на 10–15 лет.

В вопросе о сроках реализации ОИИ некоторые специалисты предполагают эволюционное движение к намеченной цели и исключают появление новых прорывных результатов, которые могут существенно уменьшить сроки создания ОИИ. И вообще относительно самой возможности создания ОИИ часть крупнейших специалистов считает, что без ясного понимания природы человеческого сознания браться за создание ОИИ не имеет смысла.

Другая часть активно работает, чтобы идею ОИИ воплотить в жизнь. Эта вторая группа специалистов исходит из гипотезы, что природа сознания, то есть проявление сознательных ментальных свойств, может быть отождествлена с нейрофизиологическими процессами, и поэтому в обозримой перспективе станет возможным построение теоретической модели естественного сознания человека.

ОИИ в отличии от узкого ИИ, специализирующегося на решении конкретной задачи, должен быть способен к решению любых интеллектуальных задач. Он должен уметь размышлять, мыслить абстрактно, учиться на собственном опыте. Интеллект – это не только способность достигать целей, но и устанавливать их. Конечно, это обобщенное определение, так как предполагает наличие единого стандарта или меры человеческого интеллекта, которых не существует. У людей разные навыки, таланты, предпочтения и ограничения, и нет человека, который может делать все, что и любой другой человек.

Повторим, к настоящему моменту такой ОИИ не создан, и складывается совсем не вдохновляющее впечатление, что создание ОИИ чем-то родственно понятию «горизонт»: по мере приближения к нему он все дальше от тебя уходит.

Шведский философ Ник Бостром рассматривает движение к созданию сверхинтеллекта как источник больших возможностей и экзистенциальных рисков. Кадр из видео с канала Science Time на YouTube

Обсуждаются, и довольно бурно, подходы к его конструированию, в частности, ставится вопрос о том, что является главной целью: научиться все делать как человек или научиться быть человеком? Это принципиально.

Второе означает, что ОИИ, когда он будет создан, должен действительно мыслить, а не имитировать мыслительную деятельность. Правда, пока без ответа остается самый главный вопрос, как на самом деле люди мыслят.

К настоящему моменту консенсус достигнут в том, что архитектура ОИИ должна включать в себя и нейронные сети, которые уже показали свои достоинства при реализации узкого ИИ, и символьную систему, которая способна свести мыслительную деятельность к множеству эвристических правил и алгоритмов.

При этом мы должны отдавать себе отчет, что большинство знаний, которыми мы оперируем в нашей повседневной жизни, неявны, например понимание того, как мы ходим или ездим на велосипеде. Эти и другие им подобные знания трудно объяснить и формализовать, тем более в виде алгоритмов. Особая роль в мышлении правого бессловесного полушария мозга приводит к тому, что мы можем знать больше, чем можем сказать.

Можно себе представить несколько теоретических вариантов достижения ОИИ. Наиболее очевидный из них – попытаться в ходе имитационного моделирования головного мозга человека полностью воспроизвести его вычислительную структуру. При этом по-прежнему остается вопрос, о котором мы сказали выше и который сводится для ОИИ к «быть» или «казаться».

Мы очень мало пока знаем о том, как психические состояния и процессы связаны с физическими состояниями и процессами, происходящими в мозгу, тем не менее общепринятая точка зрения предполагает, что все психические состояния представляют собой состояния мозга. Поэтому считается, что разум соотносится с мозгом так же, как программа с аппаратной реализацией компьютера. Для людей характерны такие состояния, как уверенность, желания, страхи и т.д. Сомнительно, что компьютеры могут обладать такими ментальными состояниями. Еще раз повторим, что без ясного понимания природы сознания в его, так сказать, естественной выраженности браться за создание сильного ИИ не имеет смысла.

В последние годы получила развитие идея, на наш взгляд, ущербная: использование больших данных может позволить построить ОИИ, можно обойтись без учета причинно-следственных связей, которые имеют место быть в реальном мире. А такие связи не могут быть учтены, так как в компьютеры не встроены модели реального мира. В свою очередь, такие модели не будут созданы до тех пор, пока не будет реализован аналог человеческого тела, посредством которого компьютеры могли бы взаимодействовать с внешней средой.

Хотя вероятность построения обоснованной теоретической модели естественного сознания пока не просматривается, много интересных аспектов ОИИ в ключе если не «быть», то по крайней мере «казаться» являются предметом рассмотрения и реализации многочисленных групп специалистов. При этом предпринимаются попытки создать ИИ, обладающий сознанием и гипотетически способный к собственной мотивации и постановке целей, отличных от заложенных в него разработчиками.

Сродни ядерному оружию

Пришло время задать вопрос: кому и зачем нужно создавать ОИИ? Отложим пока очевидный ответ – неизбывное стремление людей познать окружающий мир, но попытаемся понять, кто станет бенефициаром, если усилия по созданию ОИИ увенчаются успехом.

Специалисты, которые анализируют проблемы развития и использования результатов научно-технического прогресса, утверждают, что по своей значимости и последствиям ИИ сопоставим в определенной мере с изобретением ядерного оружия. А если это так, его развитие и совершенствование затрагивает всех: и государства, и бизнес, и военных, и ученых, рядовых граждан, хотя и в разной степени.

Известный эксперт в области ИИ Ник Бостром считает, что ОИИ при его реализации в полном объеме сможет:

– выступать в качестве системы, способной отвечать практически на любой вопрос, сформулированный на естественном языке;

– выступать в качестве системы, способной последовательно исполнять любые заданные команды;

– выступать в качестве системы, реализующей действия, в том числе в долгосрочной перспективе.

В таком ОИИ потенциально может сформироваться собственная воля, а обладание указанными тремя возможностями дает колоссальные преимущества владельцу такой системы, которые могут быть использованы не только в благих целях.

Выше было сказано, что проект создания ОИИ может быть сопоставлен с проектом создания ядерного оружия, но есть и принципиальные отличия. Ядерное оружие могло быть создано только с привлечением возможностей целого государства, а решение о его применении всегда остается за человеком. В то же время создание ОИИ под силу отдельной транснациональной компании, значит, контроль над его использованием может осуществлять отдельная группа лиц, не связанная с государством. На определенном этапе ОИИ может выйти из-под контроля.

Именно невозможность гарантировать полный контроль над ОИИ должна заставить потенциальных заказчиков – будь то государства, будь то теневые транснациональные структуры – с крайней осторожностью подходить к разработке такого ИИ. Может быть, понимание этого приведет к приостановке до лучших времен активных работ по созданию ОИИ, так как никто из лиц, принимающих решения, не захочет делегировать свою власть непредсказуемому аппаратно-программному комплексу.

В проекты будущих систем ОИИ, даже самых продвинутых, не встроены понятия, связанные с ценностями, целями и этическими принципами современного общества. Все, что есть пока, – это технология обучения искусственных нейронных сетей, использующая обратную связь от человека, который оценивает ее ответы с точки зрения морали, ценностей и т.д.

В эволюции систем ИИ должно смениться еще не одно поколение, чтобы они смогли выйти на уровень ОИИ, который сопоставим по возможностям и производительности с человеческим мозгом. Нужны новые инструменты.