13 признаков искусственного интеллекта

Профессор Виктор Финн пытается наладить контакт с носителем искусственного интеллекта. Фото Андрея Ваганова

Почему «искусственный интеллект» и «нейронная сеть» не синонимы и может ли Интернет начать «соображать», об этом с ответственным редактором «НГ-науки» Андреем ВАГАНОВЫМ беседует руководитель Отделения интеллектуальных систем в гуманитарной сфере Российского государственного гуманитарного университета, доктор технических наук, заслуженный деятель науки РФ, профессор Виктор ФИНН.

– Виктор Константинович, есть ли разница между двумя очень популярными сегодня понятиями – «искусственный интеллект» (ИИ) и «нейронная сеть»? Это синонимы?

– Отвечу замысловато. Фрэнсис Бэкон когда-то определил четырех идолов, мешающих познанию (относительно науки его времени): идол театра, идол рынка, идол пещеры, идол рода... Относительно искусственного интеллекта тоже есть свои идолы. Вдогонку к Бэкону имеется некая система современных идолов – мифов про искусственный интеллект.

Первый миф, более общий, чем ваш вопрос, таков: ИИ – это машинное обучение. Это мировой миф. Есть книги, которые так и называются: «Машинное обучение – новый искусственный интеллект».

Второй миф. Решение проблем, связанных с имитацией человеческой деятельности в рамках искусственного интеллекта, невозможно без Big Data.

Третий миф опасный – тиражируется мнение, что ИИ есть сумма специальных технологий. Однако для активных потребителей методов ИИ (в том числе медиков, управленцев, социологов, военных, банкиров…) было бы плодотворным понять, что главный продукт ИИ – интеллектуальные системы с решателем задач.

– А что в этом опасного?

– Этот миф вводит в заблуждение финансирующих и администрирующих людей.

– Это вообще-то всегда было одной из целей науки, ученых – ввести в «заблуждение» людей и государственные структуры, обладающие финансовыми ресурсами. Как заметил Станислав Лем, «без сомнения, ученым потребуется сначала «воспитать» целое поколение руководителей, которые согласятся достаточно глубоко залезть в государственный карман, и притом для выполнения целей, столь подозрительно напоминающих традиционную научно-фантастическую тематику…»

– Думаю, что научная этика требует объективности и оценки возможного в исследованиях.

Следующий миф, тоже опасный, на мой взгляд: возможна быстрая реализация идей искусственного интеллекта. Без подготовки специалистов, без системы образования, без достаточно серьезного развития теоретических оснований.

Другой миф – искусственный интеллект сводим к множеству процедур.

И, наконец, нетривиальный миф: познание человеческое происходит в мозге. И, следовательно, если мы смоделируем мозг в виде математической конструкции, называемой «нейронные сети», мы решим все проблемы. Раз познание в мозге, который мы можем моделировать, значит, мы достигли своей цели создания искусственного интеллекта.

На этот счет есть совершенно замечательное высказывание философа Карла Поппера. Им была высказана некая идея, которая имеет прямое отношение к проблеме понимания искусственного интеллекта. По Попперу, имеется три существующих мира: мир физических объектов; мир ментальных состояний (мир психического); мир объективного знания, которое существует независимо от человека.

Так вот. Познавательный процесс связан с преобразованием знаний. И это преобразование может происходить независимо от человека. Уже имеется система знаний – естественно, человек в этом участвует, и он создавал эту систему – но затем она существует в третьем мире уже помимо него. Это чрезвычайно важное обстоятельство. И я называю эту ситуацию «когнитивная относительность»: познавательный процесс сосредоточен не только в мозге человека, но он находится и вовне, в системе знаний. Путем взаимодействия мира ментальных состояний и мира объективного знания и происходит появление нового знания.

– Какое это имеет отношение к проблеме создания искусственного интеллекта?

– Отсюда два нетривиальных вывода.

Во-первых, познавательный процесс социален; это результат взаимодействия не только с личностной системой знаний, но и с другими источниками знаний.

Во-вторых, это означает, что то, что происходит сейчас в компьютерных технологиях, соответствует этой структуре познавательного процесса: параллельные вычисления и компьютерные сети. Следовательно, уже ясно, что это происходит не в одном «мозге», а значит, не нейронная сеть.

Кстати, этот вывод помогает разобраться еще с одним мифом: искусственный интеллект – это автономная система.

А это не так. Дело в том, что главный продукт искусственного интеллекта – интеллектуальная система, которая является партнерской человеко-машинной системой. Отсюда много чего проистекает.

Прежде всего это означает, что может существовать и автономный режим. Но это именно только один из режимов.

А второй режим – интерактивный. Человек вмешивается в решение задач, принимает участие в этом процессе, и создается система человек–машина.

Поэтому главная задача систем искусственного интеллекта – создание партнерских человеко-машинных систем.

– Итак, искусственный интеллект – не нейронная сеть и даже не машинное обучение. Тем не менее сеть Интернет может начать «соображать»? У нее может возникнуть собственная рефлексия?

– Нет, не может. Сеть может породить проблему, поставить много-много задач, поскольку она сама новая реальность.

– Но она же, Сеть, все время усложняется…

– И все время будет ставить новые задачи.

– Другими словами, вот этот вновь возникший мир Интернета, он не может воспринимать человека, как некий «аллерген»?

– Нет, этого не случится. Но, говоря об Интернете, надо понимать, что это действительно некая самостоятельная среда. В том числе там возникло и зло. Причем зло изощренное (хакерство и проч.).

– На некоторых итерациях все сводится к человеку…

Человекоподобные роботы тоже эволюционируют. Фото Андрея Ваганова

– Разумеется. И никуда от этого не деться. Даже интернетовские «безобразия» – это результат деятельности систем человек–машина.

Все дело в том, что сам искусственный интеллект как направление исследований еще не вполне состоялся. Не состоялся как научное направление, имеющее развитую систему понятий и методологических оснований.

– А кибернетика?

– А кибернетика не наука. Это естественно-научное движение. Идея кибернетики – параллелизм между человеком и машиной, идея управления и обратных связей. Ничего больше.

– Искусственный интеллект не имеет отношения к кибернетике?

– Исторически есть некоторая преемственность. Искусственный интеллект и кибернетика – они родственники. Идея ИИ в значительной мере связана с появлением компьютеров. По-видимому, родоначальником искусственного интеллекта можно считать Алана Тьюринга. Хотя основная идея Тьюринга ограничена (его знаменитый тест).

– Что же тогда «искусственный интеллект»?

– Мы должны уточнить каждое из слов, входящих в этот термин. «Искусственный» – применение математических, алгоритмических, компьютерных средств. А вот с «интеллектом» все непросто. Именно это мы должны уточнить, тогда можно говорить об области применимости и природе ИИ как научного направления.

Начинать надо с предварительного определения тех способностей, которые имитируются и усиливаются. Они необязательно являются в точности человеческими способностями. Они могут быть привнесены из «мира три».

– То есть мы можем даже и не понять, что искусственный интеллект возник?

– Конечно. В результате развития науки мы можем прийти к необходимости включить в понимание интеллекта какие-то дополнительные способности.

– Например, какие это способности интеллекта?

– Я их перечислю:

• возможность распознавания существенного в данных;
• порождение последовательности: цель–план–действие;
• возможность отбора посылок, релевантных целям;
• рассуждение – получение следствий из имеющихся посылок;
• принятие решений посредством аргументации;
• рефлексия – способность оценивать свои знания и действия;
• познавательное любопытство – возможность ответить на вопрос «Что такое?»;
• способность к объяснению и к ответу на вопрос «Почему?»;
• синтез познавательных процедур;
• способность к обучению;
• рационализация идей и превращение их в понятия;
• способность объединять имеющиеся знания и создавать целостную картину рассматриваемого явления – способность к интеграции знаний;
• адаптация знаний при изменении условий и жизненных ситуаций, или, говоря научно, – коррекция теорий.

Если этот набор познавательных способностей реализуется, то мы скажем, что это характеристика теоретического интеллекта.

Поэтому проблемы ИИ не только в процедурах. Основная проблема – в представлении знаний. Отсюда – сфера возможного применения искусственного интеллекта: науки о жизни и науки о социальном поведении. Для физики ИИ не нужен. Там, где знания слабо формализованы, но данные могут быть структурированы, там полезны системы искусственного интеллекта.

– Физика, по-моему, подпадает под это определение: данных много, а понятия часто не формализованы четко…

– У физиков есть математический аппарат и экспериментальная база. У историков – нет, у социологов – нет…

– Почему же? У историков огромная фактологическая база и много специальных приемов исторического исследования.

– Они не формализованы. Нет языка. У физиков такой язык есть. Основная проблема гуманитарных наук – отсутствие средств представления знаний и логической систематизации в этих науках. Именно поэтому они отстали в возможности конструировать теории и реализовывать рассуждения. Это не означает, что в гуманитарных науках нет глубины, но это глубина за счет содержательности идей.

Мы приходим к важной идее. Собственно, к познанию относятся два мира – мир ментальных состояний, который мы хотим имитировать; и третий мир, в который мы вторгаемся и хотим преобразовывать знания. Поэтому необходимо определить, что такое мыслительный процесс? А это вот что такое: интенция (вопросы, установки, императивы, цели); затем – поиск посылок, релевантных цели; рассуждение и, наконец, рефлексия.

А что такое познавательный процесс? Это обнаружение знаний, предсказание знаний, принятие знаний, интеграция и рост знаний.

Таким образом, мы можем говорить, что система тогда интеллектуальна, когда мы можем получить приращение знаний посредством реализации перечисленных выше способностей. И теперь мы можем подойти к определению, что такое искусственный интеллект.

ИИ – это научное направление, которое занимается имитацией и усилением познавательной деятельности и рационального поведения человека посредством компьютерных систем.

Еще одно важное следствие из определения ИИ – системы искусственного интеллекта, то есть компьютерные системы, применяющие какой-то метод.

Наконец, интеллектуальные системы. Такие системы имеют более сложную архитектуру: база фактов – база знаний – решатель задач – комфортный интерфейс.

Главная задача – порождение эмпирических закономерностей. Если мы этого добиваемся – значит, мы достигли некоторого приемлемого этапа своих исследований. Это есть сильный критерий демаркации научного и ненаучного знания в дополнение к попперовскому критерию возможности фальсификации (опровержению) той или иной теории.

– Чуть-чуть понижая логико-философскую планку нашего разговора, я хочу вас спросить вот о чем. Исходя из определения ИИ, которое вы дали выше, можем ли мы говорить, что искусственный интеллект лишь «передразнивает», «симулирует» естественный интеллект?

– Среди тех 13 способностей, которые были перечислены, можно выделить некоторые, которые мы реализуем в автоматическом режиме, то есть работа программы после ее запуска происходит без вмешательства человека. Например, в автоматическом режиме мы можем распознавать существенное в данных, реализовывать аргументацию.

Еще один продукт искусственного интеллекта помимо систем ИИ – роботы. Интеллектуальный робот – это интеллектуальная система плюс сенсорный блок плюс мехатроника. Если мы возьмем интеллектуальную систему и добавим к ней сенсорный блок, мы получим когнитивную систему. Она формирует свою базу фактов в результате взаимодействия со средой.

Существенно, что интеллектуальный робот может быть антропоморфным. Он может действовать автономно, а может и партнерски. Но центральная идея – наличие у него интеллектуальной системы. И проблема рассуждающего робота пока не решена, хотя мехатроника и математическое обеспечение такого робота может находиться на фантастически высоком уровне. Антропоморфный робот уже может делать сальто-мортале! Но логики рассуждения у него нет…

– Вы говорили об интеллектуальных способностях. В одном из ваших текстов вы заявили, что «творчество нельзя заменить машиной»… Но в 2016 году случилось событие эпохальное – ИИ обыграл человека в го. Игра, в которой вариантов больше, чем атомов во Вселенной, – 10100 (для сравнения: число возможных позиций на доске составляет: в шашках – 1020, в шахматах – 1060). Расчет в лоб, перебором, в го уже не работает после двух-трех ходов (в шахматах после четвертого хода возникает около 100 тыс. возможных позиций, в го – более 16 млрд!). Интуиция игрока здесь имеет большее значение, чем расчет вариантов.

– Никакой интуиции в программе ИИ, которая обыграла человека в го, нет! Это произошло за счет возможностей обзора очень больших данных, в чем человек не может конкурировать с машиной. Несколько иной эффект, связанный с комбинаторикой вариантов, позволил шахматной программе Deep Blue обыграть в свое время Гарри Каспарова.

– Но Deep Blue работала по другой схеме – она перебирала варианты и делала это очень быстро.

– Все не так просто. Эта программа предварительно изучила партии Каспарова и знала, как с ним играть.

И шахматы, и го – не очень хорошие примеры. По одной простой причине: в этих играх есть правила. И компьютерные программы – это фактически реализация этих правил. Это совсем не чудо. Там, где задача сводится к комбинаторике или обзору больших данных, машина всегда будет побеждать человека. Но бунт искусственного интеллекта – это псевдопроблема. Искусственный интеллект совершенно безопасен.

– Еще одна ваша цитата: «Что суперкомпьютер когда-нибудь превзойдет человека – это сказки». Виктор Константинович, откуда такой антропный шовинизм?!

– По очень простой причине. Это убеждение вытекает из моего понимания интеллекта. У машины не может быть интенции, не может быть интуиции и инициативы, нет воображения, она не способна быть творцом, но может быть мощным его партнером.