Борис Владимирский
Можно только предполагать, чем закончатся опыты по дополнению искусственного интеллекта естественным.
Иллюстрация сгенерирована с помощью нейросети Kandiskiy 3.1
Большинство глобальных проблем, с которыми сталкивается человечество – от изменения климата и продовольственной безопасности до кризисных явлений в разных странах, – чрезвычайно сложны. Если бы у нас были машины, которые могли бы «думать» так же, как люди, или лучше – быстрее и без утомления, тогда шансов решить эти проблемы было бы больше.
Что значит – думать?
Термин «искусственный интеллект» (ИИ), придуманный Джоном Маккарти, профессором Дартмутского колледжа (штат Нью-Гемпшир, США), в 1956 году, ознаменовал рождение новой области знаний, оказавшей глубокое влияние как на технологии, так и на культуру в целом. Новаторская цель ИИ заключалась в том, чтобы понять, как думают люди. Первоначальная идея состояла в том, чтобы объединить интеллектуальный и компьютерный вклад для решения эпистемологических проблем.
Сам автор этого термина предполагал, что свойства интеллекта, в частности особенности обучения, могут быть описаны так, что станет возможным создание машин, имитирующих эти свойства. С годами такая точка зрения получила развитие, и в наше время некоторые специалисты досрочно начали ставить знак равенства между органическим мышлением, присущим человеку, и искусственным интеллектом. Впрочем, существует и другое крайнее мнение, в соответствии с которым современный искусственный интеллект – это просто математика, занимающаяся поиском закономерностей в данных.
Прошло почти 70 лет, прогресс в этой области впечатляет, но по большому счету задача очевидным образом не решена: общий искусственный интеллект не создан. По мнению экспертов, один из возможных путей к его созданию – более тщательное изучение и моделирование интеллекта естественного, физическим носителем которого является человеческий мозг. В этом случае польза от ИИ становится очевидной: если он физически будет создан по образу и подобию человеческого мозга, то станет возможным его использование для диагностики и лечения заболеваний и повреждений мозга.
Определите термины
Искусственный интеллект – давняя мечта человечества со времен Древней Греции, несмотря на отсутствие в то время самого термина. Аристотель еще в III веке до н.э. первым начал изучать законы мышления и способы взаимодействия с реальным миром. А это как раз и составляет современную основу концепций искусственного интеллекта.
Трудности начинаются с того, что не существует общепринятого определения, что такое ИИ. Нет даже общей точки зрения на то, что такое интеллект вообще. Хотя сознание – это нечто, чем обладает каждый из нас и что ежесекундно наполняет всю нашу жизнь, никто не знает, как на самом деле это происходит.
Отсутствие общепринятой точки зрения, что же такое ИИ, привело к существованию множества определений этого понятия. Впрочем, это не удивительно. Даже для таких фундаментальных понятий, как «жизнь» и «движение», единых формулировок не существуют. Они, эти формулировки, являются предметом соглашения определенных групп специалистов, и на их базе строятся всевозможные научные конструкции.
Но для дальнейшего изложения разумно следовать простому правилу, озвученному несколько веков назад французским мыслителем Вольтером: «Если вы хотите поговорить со мной, определите свои термины». Поэтому в дальнейшем для понятия «интеллект» мы будем исходить из следующего определения: «Интеллект – это способность использовать память, знания, опыт, понимание, рассуждение, воображение и суждение для решения проблем и адаптации к новым условиям и ситуациям».
Интеллект – это не единый психический процесс, а скорее сочетание многих, направленных на эффективную адаптацию к окружающей среде. Исходя из этого определения, будет строиться и определение ИИ.
Сразу оговоримся, что понятие ИИ чем-то родственно понятию «горизонт»: чем ближе приближаешься к нему, тем дальше он от тебя уходит.
Общий и узкий
Сейчас наука об искусственном интеллекте подразделяется на два направления: одно занимается сильным (общим) ИИ (ОИИ), который должен привести к созданию мыслящих компьютеров; другое – слабым (узким) ИИ, то есть моделированием некоторых аспектов поведения человека.
ОИИ – это гипотетический искусственный интеллект, способный без прямого обучения решать любые задачи, которые может решать человек. Причем так же эффективно, как это делал бы человек. Это значит, что ОИИ сможет охватить любые задачи, которые доступны человеку. Другими словами, этот ИИ сможет обобщать свои знания на какие-то новые, незнакомые ему задачи.
Таким образом, ключевое отличие ОИИ от узкого ИИ в том, что он может «учиться» новому на человеческом уровне без прямого вмешательства в обучение. Узкий ИИ не демонстрирует каких-то новых навыков в совершенно незнакомых ему областях.
ОИИ может адаптироваться к широкому спектру ситуаций и контекстов, а не быть сосредоточенным на одной задаче или предметной области. Это значит, что он должен обладать способностью учиться на опыте и обобщать эти знания в новых ситуациях, способностью к абстрактным рассуждениям и решению проблем, способностью эффективно общаться с людьми и другими разумными агентами и т.д.
Интеллект – это не только способность достигать целей, но и устанавливать их. Конечно, это обобщенное определение, так как предполагает наличие единого стандарта или меры человеческого интеллекта или способностей, что явно не так. У людей разные навыки, таланты, предпочтения и ограничения, и нет человека, который может делать все, что может любой другой человек.
Большое преимущество слабого (узкого) ИИ заключается в том, что он поддается описанию. Для этого существует ряд подходов, методов и инструментов. Техника машинного представления знаний – когда информация о чем-то систематизируется и помещается в базу данных – имеет огромное коммерческое значение, несмотря на то что до зачатков мыслительного процесса ей очень и очень далеко.
Крупнейшие мировые разработчики технологий ИИ заявляют, что их основной целью сегодня является создание именно сильного (общего) ИИ, то есть системы человеческого уровня. При этом ни у кого нет конкретных сроков выхода на этот уровень и даже точного определения – каким критериям должна отвечать такая система.
За пределами машины
Одна из причин, по которой ОИИ еще не создан, состоит в том, что не существует общепринятой точки зрения, что это такое.
Бытует точка зрения, что для создания такого интеллекта определяющий фактор – вычислительные ресурсы. На наш взгляд, это не так. Главное – способность рассуждать и обладать интуицией. Важно видеть различия между механистическими функциями ИИ и неотъемлемыми качествами человеческого сознания и отдавать себе отчет, что системы ИИ не являются пока разумными и у них нет эмоций, как у людей. Поэтому никакая машина с набором программ по обработке запросов не может считаться мыслящей, а значит, никакой другой отправной точки для создания ИИ, кроме нас самих, нет и быть не может.
Известно, что большая часть работы по формированию мозга происходит уже после рождения. Поэтому мыслящие машины, если мы их создадим, должны будут быть самопрограммируемыми, то есть быть способными обучаться, как обучаются дети. Кроме того, так как головной мозг человека на 50% занят восприятием ощущений, необходимо встроить в системы ИИ механизмы анализа событий реального мира и сопоставления результатов с предыдущим опытом. Это позволит таким системам создавать согласованную картину мира за пределами машины.
Сегодняшние платформы ИИ используются повсеместно: от выполнения школьных уроков до проектирования гигантских зданий. Эти системы могут написать за несколько минут эссе практически на любую заданную тему, или сочинить музыку, или создать изображение в любом стиле. Они – продукты сложной математики, языков программирования, библиотек данных и огромных вычислительных мощностей. В процессе машинного обучения им «скармливают» фантастические объемы информации из интернета, баз данных и других источников. Это и делает их такими «способными».
Результаты, конечно, впечатляют, но при этом имеющиеся системы ИИ не являются ни разумными, ни сознательными. Просто искусственные нейронные сети, которые лежат в их основе, при машинном обучении фиксируют закономерности и связи, имеющиеся в исходных данных, и вырабатывают на основе этой информации соответствующие шаблоны и ассоциации для дальнейшего использования. Эта их способность заложена алгоритмически. В некоторых случаях достаточно текстовых данных, в других – изображений, в третьих – словесных описаний для синтеза музыкальных клипов… Но все это на основе правил, сформулированных человеком.
Этого оказалось достаточно, чтобы произвести революцию, например, в прогнозировании погоды и анализе медицинских изображений. ИИ незаменим в вещах, на выполнение которых у людей ушли бы годы. Но в то же время он неспособен к пониманию сложных контекстов, непредсказуемых или инновационных действий, оценке эмоций или сенсорных входных данных, таких как запахи и вкусовые ощущения. Всего того, с чем люди справляются без труда.
Технология ИИ быстро развивается, но его внутренняя работа – своеобразный «черный ящик», когда процесс достижения выводов характеризуется неясной природой и не виден. Все это создает новую реальность, к которой надо адаптироваться.
Но одного понимания, что происходит в «черном ящике», недостаточно. В развитии ИИ необходимо сделать следующий шаг. Его технологии должны позволять не только давать ответы на поставленные вопросы на основе заложенных при обучении данных, но и конструировать новые ответы с объяснениями результатов, учитывающих контекст.
При «обучении» по текстам и видео системы ИИ должны быть способны вычленять принципиально важную информацию, необходимую для принятия решений. А для того чтобы у людей было больше доверия к алгоритмам, реализуемым ИИ, и выводам, делаемым на их основе, необходим учет человеческих эмоций и психологических нюансов, содержащихся в информации, используемой при обучении. Пока еще в полной мере это невозможно, хотя кое-что за счет способности собирать и систематизировать информацию, связанную с выбором слов, распознаванием голоса и зачатков эмоций, выражаемых в словах, интонациях и выражениях лица, уже сейчас реализуется системами ИИ.
Итак, главная задача на перспективу – создание сильного искусственного интеллекта. То есть ИИ, способного без прямого обучения решать любые задачи, доступные людям, так же эффективно, как это делал бы человек, и способного обобщать свои знания на какие-то новые, незнакомые ему задачи.
Возможно, что создание и использование общего искусственного интеллекта станет сопоставимо по своим социокультурным последствиям с изобретением письменности.
Интероцепция и веер интеллектов
Понятно, что в эволюции систем ИИ должно смениться еще не одно поколение, чтобы они смогли выйти на уровень, сопоставимый по возможностям и производительности с человеческим мозгом.
Существующие подходы отражают разные представления о том, к чему мы стремимся при синтезе ИИ, от мультиинструментального до сверхчеловеческого. Определенные шаги к тому, чтобы сделать ИИ более универсальным, делаются, но пока еще существует большая пропасть между этим желанием и существующими идеями и инструментами, которые могут решить эту проблему.
В существующие системы ИИ, даже самые продвинутые, не встроены понятия, связанные с ценностями, целями и этическими принципами современного демократического общества. Все, что есть – это технология обучения искусственных нейронных сетей, использующая обратную связь от человека, который оценивает ее ответы с точки зрения морали, ценностей и т.д. А система мгновенно подхватывает полученную оценку и немного изменяет веса в нужную сторону.
Все мы знакомы с пятью чувствами – осязание, зрение, слух, обоняние и вкус. Но есть дополнительное чувство, интероцепция, которое обязательно должно быть учтено при создании общего ИИ. Это ощущение внутреннего состояния нашего организма. Оно помогает нам чувствовать и интерпретировать внутренние сигналы, которые регулируют жизненно важные функции в нашем организме. Хотя мы не обращаем на это особого внимания, это чрезвычайно важное чувство, поскольку оно гарантирует, что каждая система в организме работает оптимально.
Но что особенно важно, интероцепция многими способами обеспечивает также участие в принятии решений, социальных способностях и эмоциональном благополучии. Вот почему воспроизведение в той или иной форме интероцепции при создании общего ИИ – еще одно обязательное условие для реализации ИИ четвертой волны.
Интеллект – это многомерный психический процесс. Сейчас почти общепризнанной является точка зрения, согласно которой существует множество видов интеллекта, которые в разной степени присущи разным людям. Из почти двух десятков этих видов интеллекта для нас наиболее интересны телесно-кинестетический (тактильный) интеллект и межличностный интеллект. Первый связан с познанием и осмыслением реальности через ощущения, прикосновения и движения, второй – со способностью взаимодействовать с другими людьми.
Мозг сам по себе, в отрыве от тела, мыслить (вычислять) не может. Поэтому тело, которое задает систему отсчета, играет существенную роль при формировании интеллекта, а значит, и при создании ИИ. Часть принципиально важной для принятия решений информации хранится в «памяти» суставов и мышц. Следовательно, в системах ИИ четвертой волны с необходимостью должна быть заложена «схема тела».
Под «схемой тела» понимается неосознаваемое внутреннее представление, совокупность информации о структурной организации тела, о его динамических характеристиках, текущем и изменяющемся положении его частей. Ощущения, идущие от собственного организма, – основа для образования синтетического пространственного восприятия своего тела в виде его схемы. Всякое расстройство схемы воспринимается сознанием как нарушение жизненной основы организма. «Схема тела» также играет существенную роль при формировании различных психических состояний, таких как деперсонализация, нарушение восприятия правого и левого, неузнавание и др.
На физиологическом базисе «схемы тела» формируется личностная надстройка, с помощью которой образуются психологические и эстетические образы тела, несущие и оценочную функцию. На высшем, социально-психологическом уровне развития «схемы тела» формируются образы, связанные с такими представлениями, как полоролевые функции и мораль. Поэтому «схема тела» выступает как аппарат не только самопознания, но и самосознания. Отсюда проистекает важность учета «схемы тела» при реализации систем ИИ.
Через активное функционирование телесного интеллекта осуществляется ежесекундная связь личности с эмоциональными оценками поведения других людей. Таким образом, благодаря телесным ощущениям, телесным восприятиям в наше сознание поступает не только информация от внешней среды, но и о нашем телесном «Я».
В большом числе случаев то, что мы называем интеллектуальной деятельностью, может сформироваться только при общении людей между собой. При разработке систем общего ИИ сейчас исходят из того, что понимание того, как люди думают и принимают решения, связано с мозгом одного человека. Однако появляются исследования, в которых достаточно убедительно показано, что высшие функции мозга, такие как память, рассуждения, принятие решений, связаны с функционированием других людей.
Другими словами, обработка информации любым конкретным человеком не содержится полностью в мозгу этого человека. Обычно она включает в себя компоненты, расположенные в головах других людей, в дополнение к тому, что они распределены по частям тела человека и физической среде. Таким образом, некоторые сложные интеллектуальные функции, которые с необходимостью должны быть присущи системам ОИИ, на самом деле распределяются между индивидами, то есть имеет место «сообщество знаний».
Естественно, что такие системы ОИИ должны иметь принципиально другую архитектуру. По крайней мере эта архитектура должна предусматривать наличие хотя бы двух интеллектуальных агентов, а кроме того, предполагать, что обработка данных, которыми обмениваются эти агенты, никогда не прекращается, а результат работы может потребоваться в процессе вычислений. Более того, входные данные могут поступать от источников, о которых не было известно до начала процесса вычисления.
Информацию необходимо превращать в знания, а для этого нужно сформировать новый уровень взаимодействия человека и компьютера. Потому что, несмотря на более высокий уровень автономии, в конечном счете решение будет принимать человек, используя ИИ в качестве партнера.
Концепция дополненного или гибридного интеллекта насчитывает более 60 лет. В вышедшей в 1956 году книге «Введение в кибернетику» Уолтер Росс Эшби ввел понятие «усиление интеллекта». С тех пор многие авторы пытались так или иначе наполнить смыслом этот термин. В конечном счете любые формулировки – это предмет соглашения, поэтому будем считать, что дополненный интеллект – это некая модель партнерства людей и искусственного интеллекта, работающих вместе для повышения когнитивных функций.
Можно считать, что дополненный интеллект – это реализация своеобразной технологии, разработанной для улучшения человеческого интеллекта, а не для работы независимо от него или прямой замены. Достигается это за счет улучшения процесса принятия решений человеком и, как следствие, действий, предпринимаемых в ответ на улучшенные решения. Это модель партнерства, ориентированная на человека, где его потребности и цели являются приоритетом.
Мы видим будущее не столько в том, чтобы все делали машины, сколько в том, чтобы люди и машины работали вместе. И значит, пришло время разработать системы ИИ четвертой волны.
