Искусственный интеллект не продукт, а область исследований

Виктор Финн: «Робота можно считать интеллектуальным, если он будет способен рассуждать». Фото Андрея Ваганова

Искусственный интеллект должен стать прежде всего предметом фундаментальных академических исследований. Почему это необходимо и как этого добиться – с ответственным редактором приложения «НГ-наука» Андреем ВАГАНОВЫМ беседует руководитель Отделения интеллектуальных систем в гуманитарной сфере Российского государственного гуманитарного университета, доктор технических наук, заслуженный деятель науки РФ, профессор Виктор ФИНН.

– Виктор Константинович, насколько я понял из вашей книги «Интеллект, информационное общество, гуманитарное знание и образование» (2020), вы предлагаете, прежде чем заниматься искусственным интеллектом (ИИ), разобраться в том, что такое естественный теоретический (идеальный) интеллект. Но в истории науки достаточно примеров, когда не вполне понятые эпистемологические основания той или иной концепции, теории тем не менее не отменяли эвристической ценности этой теории. Самый яркий, возможно, пример – закон всемирного тяготения Ньютона: о природе сил тяготения спорят до сих пор, но закон работает. Что мешает так же отнестись к теории ИИ? Пусть неизвестно, что такое интеллект, но системы ИИ уже работают.

– Год назад в США относительно проблем ИИ весьма продвинутые профессионалы – исследователи из Стэнфорда и IBM – отмечали, что сейчас есть три точки роста в области искусственного интеллекта: создание партнерских человеко-машинных систем; создание общей теории рассуждений, включающей машинное обучение; интеллектуальные роботы, то есть роботы, которые реализуют процедуры искусственного интеллекта и способны принимать решение в автоматическом режиме или в интерактивном.

Эти три проблемы опираются на понимание того, что есть интеллект, как связана с ним эпистемология (то есть представление знаний и получение нового знания) и каковы должны быть эвристики получения нового знания. Без академических исследований в этой области, без создания различных теоретических конструкций произойдет следующее: вы будете иметь уже некоторые полезные технологии, но развития этих технологий происходить не будет.

– А что будет происходить?

– Либо их усовершенствование, либо их распространение. При этом есть опасность иллюзии. Поскольку многие практические задачи решаются с помощью уже имеющихся технологий, может показаться, что наступил золотой век ИИ. Но это не означает, что реализованы те возможности, которые были заложены в научных аспектах изучения интеллекта.

И вот здесь – отличие от той ситуации, о которой вы говорили. Действительно, в случае с тяготением…

– …Не только в случае с тяготением. Та же ситуация, например, с законами Карно, описывающими работу тепловых двигателей…

– Тем не менее мы понимаем, что реализуем их автоматически. Но, правда, в этих случаях у нас есть соответствующий математический аппарат, который мы учитываем. В результате получаем возможные приложения. Тогда как универсального математического аппарата для имитации человеческих рассуждений пока не существует. Свести все к дедукции, доказательству теорем в этом случае невозможно. Принятие решений человеком, его исследовательская деятельность не сводится только к доказательствам – она имеет дело с эвристикой, с выдвижением гипотез, с использованием различных аналогий, с процедурами объяснений… Это гораздо более сложный процесс, чем только дедукция.

Отсюда мы приходим к выводу, что нам необходимо уточнить понятие интеллекта в широком смысле. И здесь четыре аспекта.

Первая идея, которая должна быть уточнена, теоретический интеллект. То есть нечто наиболее производительное. То, что когда-то когнитивный психолог Макс Вертгеймер называл «продуктивным мышлением». Мы должны определить основные черты теоретического интеллекта.

Но помимо теоретического интеллекта есть еще одно представление об интеллекте – common sense интеллект, интеллект здравого смысла. Кстати говоря, его в некотором отношении даже сложнее описать. Мы можем пойти по пути упрощения теоретического интеллекта и создания простой базы фактов для common sense интеллекта. А второй путь – экспериментальный: изучение различных черт поведения различных классов людей. Это уже эмпирическая задача, связанная с психологией.

Но есть еще и третий тип интеллекта – патологический. Он чрезвычайно важен для психиатрии. Мы должны понимать, как идеальный интеллект портится, каким образом он портится и в связи с чем. Это приведет нас к пониманию и моделированию различных психиатрических заболеваний.

Наконец, есть четвертый тип интеллекта – художественный. Здесь современная наука пасует, потому что автоматизировать художественный интеллект вряд ли возможно. Но тем не менее для психологических исследований это некий творческий вызов.

– Но на художественных аукционах уже продают картины, написанные устройствами с искусственным интеллектом. Существует музыка, созданная программами искусственного интеллекта, и даже профессиональные музыканты уже не в состоянии отличить эту музыку от творений «биологических» композиторов… Формул нет, а продукт – есть!

– Это происходит за счет имитаций. Это не исследование. Точно так же, как решение задачи игры в Го. Охватили огромный массив информации и смоделировали. Но не создали закон появления решения. (Считается, что Го – самая сложная логическая настольная игра; если в шахматах после четвертого полухода может возникнуть порядка 100 тысяч позиций, то в Го – больше 16 миллиардов. В октябре 2015 года компьютерная программа AlphaGo выиграла у одного из лучших в мире игроков в Го матч из пяти партий со счетом 5:0. – А.В.)

Вот и в случае с картинами и музыкой, созданными методами искусственного интеллекта, вы не приближаетесь к разгадке тайны творчества.

– Академик Константин Анохин несколько лет назад заявлял, что его группа близка к созданию полной модели мозга к 2024 году. Тогда и станет возможным создание полноценного ИИ.

– Я неоднократно слушал доклады академика Анохина, имел дискуссию с ним. Я полагаю, что психофизическая проблема отношения нейрофизиологического субстрата и порождение знаний в языке современной науки неразрешима. Поэтому предмет ИИ – феноменология интеллекта. И моя работа в какой-то мере – как мне кажется, конечно! – есть ответ на то, что невозможно построить модель мозга, решающего творческие задачи.

Можно – и это происходит – моделировать процессы движения и восприятия. А процесс абстрактного мышления, процесс порождения новых идей вряд ли можно моделировать без понимания способностей теоретического интеллекта. Именно потому что мы должны понять самое главное: что такое интеллектуальный процесс. Вот на этот счет я и предлагаю возможный ответ.

В соответствии с философской концепцией самого великого философа в мире Иммануила Канта познавательная деятельность имеет три аспекта: созерцание, рассудок и разум. Оказывается, что с точки зрения рождающихся концепций искусственного интеллекта проблему характеризации познавательной деятельности можно переформулировать. Центральным понятием является теоретический интеллект. И у теоретического интеллекта есть два аспекта: рассудок и разум.

Некоторые из интеллектуальных способностей относятся к рассудку: обнаружение существенного в данных; подбор посылок, релевантных цели рассуждения; способность к рассуждению; синтез и взаимодействие познавательных процедур; способность к объяснению; аргументация при принятии решений; познавательное любопытство; способность к обучению. А вот некоторые другие способности относятся к разуму.

И это связано с тем, что у человека имеется три типа знаний: декларативные, процедурные и концептуальные. Оказывается, то, что относится к рассудку, связано с декларативным и процедурным знанием. С помощью концептуальных знаний мы формулируем принципы, теории и делаем обобщения. Рассудок дает нам возможность рассуждать. Разум, порождающий концептуальное знание, – это формулирование принципов, преобразование неясных идей в понятия. Невозможно смоделировать без интерактивного режима процесс рождения понятия из неясной идеи – это творческий аспект человеческой деятельности. Высшие психические функции (интенция, интуиция, инициатива, воображение и рефлексия) – важные свойства интеллекта, неформализуемы.

Отсюда нетривиальный вывод: главным продуктом искусственного интеллекта является партнерская человеко-машинная система. Она реализует рассудок и лишь поддерживает разум. И это необходимо понимать людям, создающим системы ИИ. Тем более это важно, что 10 октября 2019 года был издан указ президента России № 490, который так и называется: «О развитии искусственного интеллекта в Российской Федерации»…

– Хорошо, что «в», а не «у»… Но все-таки, к какому типу знания вы относите существующие сейчас системы с элементами ИИ?

Интеллектуальная система, сенсорный блок, мехатроника – вот что такое интеллектуальный робот. Цикл «Дизель-панк», художник Андрей Ткаченко, Нижний Новгород

– То есть человек в партнерской человеко-машинной системе – это элемент, порождающий случайность?

– Не так просто. Дело в том, что если мы не понимаем, какова природа интеллектуальной деятельности, то мы не в состоянии создать системы, которые эту интеллектуальную деятельность либо имитируют, либо усиливают. Вывод: начинать надо с академических исследований, с уточнения проблем представления знаний, автоматизации рассуждений. И только после того как мы поймем, как в разных областях представлять знания для того, чтобы потом можно было использовать их для решения задач, мы можем перейти к формализации рассуждений, мыслительных и познавательных процедур и создавать системы искусственного интеллекта.

Нельзя говорить вообще про искусственный интеллект, это большое заблуждение многих IT-специалистов. Когда люди, возглавляющие лаборатории машинного интеллекта, говорят, что они, мол, применяют искусственный интеллект, я смеюсь. Это все равно что считать, что в кассовом аппарате работает математика. Они применяют отдельные процедуры, но не искусственный интеллект. Причем эти процедуры иногда к проблематике ИИ не относятся.

– Не воюете ли вы с ветряными мельницами? В общественном сознании уже сложилось представление о том, что такое искусственный интеллект. И вы это уже не переборете…

– Я не ощущаю себя Дон Кихотом по одной простой причине: все-таки я занимаюсь наукой. А наука – это получение точных результатов, которые потом имеют экспериментальное обоснование. Я умею предъявлять не только соответствующие теоретические аргументы, но и конкретные результаты, свидетельствующие о том, что у проблематики ИИ имеются определенные возможности порождать разные продукты.

– Что это за продукты?

– Таких продуктов три. Первый – это системы искусственного интеллекта. Это программные системы, которые применяют те или иные процедуры, разработанные исследователями в данной предметной области. Нейронные сети, деревья решений, генетические алгоритмы, рассуждения на основе прецедентов, автоматическое доказательство теорем… Если компьютерные системы используют эти процедуры, то это – системы ИИ. Но они не тождественны искусственному интеллекту, поскольку ИИ – это исследовательская область, результатом которой являются как теоретические конструкции, так и реализация их в прикладных системах.

Следующий продукт ИИ – главный. Без реализации этого продукта вы находитесь на периферии этой области исследований. Хотя вы можете получать полезные приложения. Итак, главный продукт искусственного интеллекта – это интеллектуальные системы. Это такие компьютерные системы, которые имеют определенную архитектуру: базу фактов и базу знаний, решатель задач и комфортный интерфейс. Причем такие, что они реализуют в интерактивном или автоматическом режиме способности, о которых мы говорили выше.

Третий продукт – интеллектуальные роботы. Интеллектуальная система, сенсорный блок, мехатроника – вот что такое интеллектуальные роботы.

– Сейчас ИИ буквально в наших руках: рубильник выключили – обесточили систему, убили ИИ или по крайней мере усыпили, уложили искусственный интеллект спать. Лично у меня такое представление сложилось: я буду называть «интеллектуальным роботом» такую машину, которая сама будет ощущать, что у нее садится батарейка, подбираться к электрической розетке, заряжаться, отключаться – все сама…

– То, о чем вы говорите, это будет робот, который реализует систему ИИ, но не интеллектуальную систему. Напомню, он является интеллектуальным роботом, если способен рассуждать. Можно говорить о степени интеллектуальности, если он реализует некоторые базовые способности. В том примере, который вы привели, робот реализует совсем немногие способности: способность к распознаванию и способность реагировать на соответствующее состояние. Когда мы создадим робота, который реализует интеллектуальную систему полностью, это будет великое достижение человечества.

– Возможно, президентский указ прошлого года как раз и вызван тем, что научное сообщество погрязло в обсуждениях, что такое искусственный интеллект. В указе – упор на технологии.

– На это я могу ответить только одним – длинным перечнем диссертаций, содержащих полезные и используемые результаты, авторы которых применяли наш метод: от технической диагностики и криминалистики до социологии и медицины.

Когда знания представлены достаточно профессионально и содержательно и есть реализация соответствующих эвристик, тогда мы в состоянии решать прикладные задачи. Поэтому наши представления о методе интеллектуального анализа данных – это не абстрактные размышления, а научный аппарат. Физика создает математический аппарат относительно физической реальности; химия – относительно химической… Относительно познавательной деятельности тоже должен существовать математический аппарат. Без него вы будете иметь чисто технологические решения.

Еще раз повторю: созданные технологии могут распространяться, могут совершенствоваться, но качественно нового не возникает, если нет теоретического аппарата. Поэтому задача искусственного интеллекта – имитировать и усиливать познавательную деятельность с помощью специального научного аппарата.

– Это то, что вы называете в своей книге «точная эпистемология»?

– Совершенно верно. Это очень важная идея. Точная эпистемология и развитие эвристик получения новых знаний – это вызов проблематике искусственного интеллекта. Без решения этих задач вы будете иметь сугубо прикладные реализации.

– Такие, например, как нейронные сети?

– Нейронные сети – мощный инструмент, который дает очень полезные практические результаты. Но этот инструмент действует на основании исследований больших массивов данных. Конечно, это расширение возможностей человека. Но обратите внимание на то, что нейронные сети – это реализация только двух интеллектуальных способностей: распознавание и обучение. Там, где требуется преобразовать неясную идею в понятие, там, где нам необходимо указать на причину явления, нейронные сети не помогут. Поэтому и нельзя говорить, что в нейронных сетях реализованы основные способности теоретического интеллекта.

– Виктор Константинович, вам не кажется, что изначально понятие «искусственный интеллект» не слишком удачное? Отсюда все эти туманности вокруг него...

– Понятия «искусственный интеллект» нет. Есть словосочетание «искусственный интеллект». Есть некий предмет, который называют искусственным интеллектом. Более того, даже IT-специалисты часто путают продукт и само исследовательское направление. ИИ не продукт, это – область исследований и приложений.

– Получается, что системы ИИ могут быть и не интеллектуальными?

– Да! Мало того, они могут быть просто вычислительными системами. То есть системами, которые используют некоторые вычислительные средства и делают то, что делает человек.

Когда мы говорим про искусственный интеллект, мы должны определить его средства, его цели и его задачи. И это принципиально важно – определиться с понятиями. Кстати, в указе президента сказано, что надо поддерживать фундаментальные исследования в области ИИ.

– На ваш взгляд, как должно развиваться это направление?

– Мне кажется, следует отметить необходимые условия для создания интеллектуальных систем. Ведь это – главный продукт ИИ, как мы с вами говорили. Без участия профессионального сообщества это сделать невозможно. И это государственная проблема.

Если вы хотите, например, создать серьезные интеллектуальные системы в медицине, потребуется междисциплинарная работа специалистов в области искусственного интеллекта и врачей. Если вы хотите использовать ИИ в обороне или безопасности – это не могут сделать только специалисты в области ИИ. Дело в том, что представление знаний – это специфическая процедура, не реализуемая без представителей данной предметной области.

Без реализации этих простых соображений серьезного развития в этой области не будет. В Китае на это тратят 60 миллиардов долларов. У нас не будут столько тратить. Значит, надо иметь концептуальный подход и интеллектуальный прорыв.

– Аналогия, которая напрашивается, – советский атомный проект. Первое, что тогда сделали, – организовали Физтех для подготовки соответствующих специалистов…

– Конечно. Это – основание академических исследований, результаты которых будут порождать технологические применения средств искусственного интеллекта.

Следует создать трехуровневую инфраструктуру для развития ИИ в нашей стране. А именно: коллективы академических исследований; подразделения для разработок прототипов интеллектуальных систем, интеллектуальных роботов и полигоны для их испытаний; установить процедуры взаимодействия двух вышеперечисленных уровней с потребителями интеллектуальных систем – государственными организациями и коммерческими фирмами.

– Подобная инфраструктура может быть создана, если будет создана система подготовки специалистов для этих целей.

– Естественно. Необходимо создавать образовательные программы для четырех типов специалистов. Первый тип – теоретик искусственного интеллекта. Второй тип – разработчик программного обеспечения систем ИИ, интеллектуальных систем и интеллектуальных роботов. Третий тип – квалифицированный пользователь, применяющий методы ИИ. Наконец, тип четвертый – специалист соответствующей предметной области, принимающий участие в разработке интеллектуальных систем (например, медик, социолог, криминалист, военный и т.д.).

Базовые курсы для всех четырех типов специалистов: математика, логика, программирование, методы искусственного интеллекта, принципы проектирования интеллектуальных систем.

– Под такую программу вряд ли подойдет нынешняя двухуровневая система высшего образовании: бакалавриат–магистратура…

– Не подойдет. Вы абсолютно правы. Необходимый срок обучения по такой программе – шесть лет. Кроме того, надо подумать, чтобы сделать специализацию в этой области междисциплинарной с учетом областей применения методов ИИ.

Главной современной проблемой ИИ является создание интеллектуальных систем, поддерживающих исследования, ибо исследование – образец рационального поведения, реализующего способности теоретического интеллекта. Следовательно, образование специалистов ИИ (прежде всего теоретиков) не должно сводиться только к их технологической компетентности.

В Российском государственном гуманитарном университете с начала 90-х годов создано направление подготовки «Интеллектуальные системы в гуманитарной сфере», которое теперь осуществляется в восьми российских университетах. Накопленный опыт преподавания и приводит к выводу о создании четырех типов образования специалистов по искусственному интеллекту.