Борис Владимирский
В отсутствие четкого определения сознания мы не можем быть уверены в том, что сильный ИИ не может обладать сознанием.
Иллюстрация создана с помощью нейросети Kandinskiy 3.1
Искусственный интеллект (ИИ) – ведущая технология и значимый элемент культуры на горизонте ближайших десятилетий. Исследования и разработки в этой области ведутся в двух направлениях: одно занимается общим (сильным) ИИ (ОИИ) и в перспективе должно привести к созданию мыслящих компьютеров; другое – занимается разработкой узкого (слабого) ИИ и ориентируется на моделирование некоторых аспектов поведения человека.
Общий VS узкий
Предположительно гипотетический (потому что он пока не создан) ОИИ будет способен без прямого обучения решать любые задачи с эффективностью, присущей человеку. Следовательно, сможет обобщать свои знания на какие-то новые, незнакомые ему задачи.
Ключевое отличие ОИИ от узкого ИИ в том, что он может «учиться» новому на человеческом уровне без прямого вмешательства в обучение. Узкий ИИ не демонстрирует каких-то новых навыков в незнакомых ему областях. ОИИ может адаптироваться к широкому спектру ситуаций и контекстов, а не быть сосредоточенным на одной задаче или предметной области. Это значит, что он должен обладать способностью учиться на опыте, способностью к абстрактным рассуждениям и решению проблем, способностью эффективно общаться с людьми и другими разумными агентами и т.д.
Существующие в настоящее время системы узкого ИИ показали и доказали свою высокую экономическую эффективность. Но они не обладают даже зачатками мыслительных процессов, характерных для людей.
Естественно, что главной перспективной целью исследований и разработок в области ИИ является построение ОИИ. На это нацелены ведущие научные центры как в нашей стране, так и во всем мире. Создание машины, которая может думать как человек, было и остается мечтой, хотя и довольно спорной, всех исследователей и широкой публики с первых дней появления идеи ИИ.
Несмотря на все декларации и заявления в прессе, пока никто не может указать конкретный срок, когда появится ОИИ, и даже определиться с набором точных критериев, которым он должен отвечать.
И это продолжается почти 70 лет. Автор термина «искусственный интеллект» (1956), американский информатик Джон Маккарти со товарищи отмечал: «Исследование должно продолжаться на основе гипотезы о том, что каждый аспект обучения или любая другая характеристика интеллекта в принципе может быть настолько точно описана, что можно создать машину для ее моделирования. Будет предпринята попытка найти, как заставить машины использовать язык, формировать абстракции и концепции, решать виды проблем, которые теперь предназначены только для людей, и улучшать себя».
Они полагали, что это займет у десяти человек два месяца. Правда, по прошествии некоторого времени ученые поняли, что были слишком оптимистичны. Тем не менее еще в середине 70-х годов прошлого столетия один из главных идеологов ИИ Марвин Мински утверждал: «Через три-восемь лет у нас будет машина с общим интеллектом среднего человека. Я имею в виду машину, которая сможет читать Шекспира, смазывать машину, играть в офисную политику, рассказывать анекдоты, драться. В этот момент машина начнет самообразование с фантастической скоростью. Через несколько месяцев она станет гениальной, а еще через несколько месяцев ее возможности станут неисчислимыми».
Теперь, по прошествии более 50 лет после этого высказывания, один из крупнейших специалистов в области ИИ, французский и американский ученый Ян Лекун утверждает, что сегодняшние модели ИИ не умеют запоминать, думать, планировать и рассуждать так, как это делает человеческий мозг. По его мнению, этого можно достичь примерно за 10–12 лет, если принципиально поменять существующий подход к моделированию и начать использовать новый метод, называемый «моделью мира».
«Нам нужны машины, которые понимают мир; [машины], которые могут запоминать вещи, у которых есть интуиция, есть здравый смысл, вещи, которые могут рассуждать и планировать на том же уровне, что и люди, – заявил Лекун во время одного из своих выступлений. – Несмотря на то что вы, возможно, слышали от некоторых из самых восторженных людей, современные системы искусственного интеллекта не способны ни на что из этого».
Необходимо также, чтобы системы ИИ стали понимать трехмерный мир и могли ориентироваться в нем. Для этого нужна другая архитектура нейронных сетей, то есть архитектура, позволяющая ориентироваться на цели и модели окружающего мира.
Типичный умный человек
Справедливости ради надо отметить, что ИИ в том виде, в каком он существует сегодня, добился огромных успехов. У нас есть машины и программы, которые могут использовать язык, писать эссе, играть в стратегически игры, видеть и решать многие важные проблемы, такие, например, как ускоренный синтез лекарств, сохранение исчезающих языков, диагностика определенных заболеваний по голосу… Правда, только по одной задаче за раз (впрочем, как и человек). И то, как это реализуется, совсем не похоже на то, как это делают люди.
Машинам и программам ИИ недостает таких принципиально человеческих качеств, как интуиция, здравый смысл, запоминание вещей. И опять становится ясным, что для реализации всего этого нужна принципиально другая архитектура нейронных сетей.
Одна из причин, почему не удается серьезно продвинуться в создании ОИИ, состоит в том, что нет общего понимания, что такое интеллект вообще, а следовательно, и ОИИ в частности. Интеллект представляет собой отличительную черту человеческого поведения. В дальнейшем изложении мы будем исходить из того, что интеллект – это не только способность достигать целей, но и возможность устанавливать их.
Конечно, это предварительное обобщенное определение, так как предполагает наличие единого стандарта или меры человеческого интеллекта или способностей, что явно не так. У людей разные навыки, таланты, предпочтения и ограничения, и нет человека, который может делать все, что может любой другой человек. С одной стороны, наблюдая за людьми, мы отмечаем, что одни из них ведут себя более разумно, другие – менее или попросту глупо. С другой – у нас нет способов оценки степени разумности поведения. (Кстати, тогда не очень понятно, что измеряют существующие тесты на количество интеллекта.) Поэтому, говоря об интеллекте человека, мы будем исходить из того, что имеет место устойчивая компетентность типичного умного взрослого человека.
|
|
Классические системы ИИ пока лишь с разной степенью точности пытаются имитировать человеческий интеллект. Фото Андрея Ваганова |
Сегодня нет единого мнения о том, возможно ли достичь сознания у искусственного интеллекта. Понятие «сознание» включает в себя субъективный опыт, самосознание, способность испытывать чувства и другие аспекты, которые не до конца понятны даже в контексте человеческого и животного разума. Эти рассуждения не о том, как сознание измеряется, развивается или даже работает, а о том, что такое сознание и что оно меняет.
Чтобы разобраться с этим, необходимо понять, как переживаемые ощущения в нашем сознании соотносятся с нейронными процессами в нашем мозге. Как психические состояния, будь то сенсорное, когнитивное, эмоциональное осознание, коррелируют с состояниями мозга.
Иной тип разума
Выделяют два основных вопроса. Один из них заключается в том, являются ли психологические состояния – наша психическая жизнь, состоящая из памяти, мышления, творчества, – подмножеством мозговой активности. А другой заключается в том, как высокоуровневые психологические процессы возникают из основных нейрофизиологических действий. Как клетки мозга, организованные сложным образом, приводят к тому, что я наблюдаю за тем, как что-то движется, или вижу цвет, или нюхаю розу?
Появление крупных языковых моделей, таких как ChatGPT, Gemini и других, привело к постановке еще одного вопроса о том, может ли ОИИ быть сознательным или стать сознательным. Этот вопрос имеет обширные социальные, моральные последствия и, возможно, последствия для всего человечества.
Точка зрения большинства специалистов в области ИИ состоит в том, что ни одна из существующих систем ИИ не является сознательной, но нет очевидных барьеров для создания систем ИИ, которые могли бы быть сознательными. Однако есть и те (их меньшинство), кто утверждает, что компьютерные программы никогда не смогут обладать разумом или быть сознательными в человеческом смысле, даже если они порождают эквивалентное поведение и взаимодействие с внешним миром.
Чем сложнее будут алгоритмы, тем больше они будут походить на сознание человека. Новые системы скорее всего смогут в конечном счете отражать динамичные, тесно взаимосвязанные процессы, которые, как считается, лежат в основе человеческого сознания.
Так это или не так, пока непонятно. Более того, существует точка зрения, что ОИИ – это иной тип разума с недоступной человеческому сознанию широтой охвата данных и ускоряющимся быстродействием, однако лишенный органичных свойств людской натуры: эмоций, характера, нравственности. Иначе говоря, это ум иной природы, не застрахованный от грубых и губительных ошибок с точки зрения природы человека и его здравого смысла.
Разум человека оказывается более гибким и объемным, он учитывает не только конкретные обстоятельства события, но также его отдаленные следствия, выставляя вопросы о природе человечности, о нравственных аспектах, о неочевидном ущербе и отдаленных последствиях. Он делает актуальными такие свойства, присущие человеку, как мораль, характер и возможность совершать принципиальные ошибки и даже преступления.
В науке можно получить правильный ответ на неправильно поставленный вопрос. И кажется, что именно с такой ситуацией мы довольно часто имеем дело, когда речь идет об ОИИ.
Костыли для мозга
Сейчас машинные технологии используются в основном для усиления интеллектуальных способностей человека. И уже не за горами смена парадигмы, когда новые устройства будут предлагать новые интуитивно понятные способы усиления наших способностей. Мы быстро движемся навстречу миру, в котором ИИ будет беспрепятственно помогать человеку приумножать интеллект и повышать эффективность взаимоотношений.
Усиление способности человека подходить к сложной проблемной ситуации, достигать понимания для удовлетворения его индивидуальных потребностей и находить решения проблем требует сочетания таких вещей, как более быстрое и лучшее понимание, способность находить решения проблем, которые до того казались нерешаемыми. И это все задачи для ОИИ.
А имеет ли смысл стремиться к созданию ОИИ в том виде, как мы представляем его себе сегодня? Как показывает практика, даже если будет создан ОИИ, мы можем не полностью его понять. Современные модели машинного обучения, как правило, представляют собой «черные ящики». Это означает, что они приходят к точным результатам с помощью методов вычислений, которые человек не может понять.
До настоящего времени мы не можем определить ни что такое интеллект, ни что такое сознание. Это что-то такое в нас самих, что требует некоторой степени самосознания, способности размышлять над тем, каково это – познавать мир, или размышлять о наших взглядах на него. И возникает опасение, что чрезмерное использование ОИИ людьми может привести к потере когнитивных функций и интеллектуальной независимости. Мы, как вид Homo sapiense, можем потерять критическое мышление, если станем зависимыми от быстрого творчества и быстрых решений. То есть потеряем способность вынесения четких, обоснованных суждений, базирующихся на понимании интерпретации, применении и синтезе данных, собранных в результате наблюдений, чтения и экспериментов.
Существующие подходы к достижению ОИИ сводятся к двум. Первый состоит в том, что если правильно выбрать алгоритмы, то их можно организовать в любой когнитивной архитектуре, которая кажется наиболее привлекательной. Этот подход реализует компания OpenAI в своих продуктах, таких, например, как GPT-4.
Другой подход связан с критическим взглядом на глубокое обучение нейронных сетей. Если сконструировать правильную когнитивную архитектуру, то конкретные алгоритмы отходят на второй план. Такая архитектура должна предполагать наличие множества внутренних обратных связей. Эти связи позволяют информации двигаться в двух направлениях между слоями нейронов. В этом случае информация может перетекать в высшие слои для создания моделей мира, отражающих окружающую среду. Такие конструкции нейронных сетей способны создавать интегрированные циклы обратной связи и могут меньше полагаться на внешние данные, генерируя свои собственные, запуская внутреннее моделирование, используемое для понимания, обоснования и планирования.
Нам представляется, что этот второй подход более перспективен. Но как бы то ни было, ОИИ не получится сконструировать, если мы не найдем способ придать компьютерам здравый смысл и функционал, обеспечивающий им возможность делать причинный вывод. Еще один принципиальный момент для реализации ОИИ: способности человека к абстрактному мышлению, самосознанию, целенаправленному и нравственному поведению являются приобретенными свойствами, возникшими в связи с необходимостью в коллективной жизни.
Удастся ли когда-нибудь достичь ОИИ? Некоторые специалисты по информатике говорят, что нет причин думать иначе. Другие им возражают. Одна из причин такой ситуации состоит в том, что реальных примеров ОИИ пока нет. А другая, как это ни покажется странным, связана с тем, что не существует общепринятой точки зрения, что такое общий искусственный интеллект.
Есть определенные пределы того, что может сделать ОИИ. В частности, компьютеры не могут мыслить, потому что у них отсутствует субъективный опыт сознания. В отсутствие четкого и однозначного определения сознания мы не можем быть уверены в том, как это ни покажется странным, что другие люди обладают сознанием. Поэтому пока нельзя доказать, что ОИИ не обладает сознанием, в противовес некоторым адептам больших языковых моделей.
Много лет тому назад Алан Тьюринг утверждал, что ИИ никогда не сможет «…быть добрым, находчивым, красивым, дружелюбным, проявлять инициативу, иметь чувство юмора, отличать хорошее от неправильного, ошибаться, влюбляться, наслаждаться клубникой и сливками, заставить кого-то влюбиться в это, учиться на опыте, правильно использовать слова, быть предметом собственной мысли…».
ОИИ – это интеллект, который возникает на определенном этапе развития. Но при этом он должен помимо почти неограниченного доступа к существующим текстовым данным иметь также прямой сенсорный доступ к окружающей среде. Без этого невозможно строить модели мира.
Чрезмерное использование ИИ может привести людей к абсолютизации скорости и эффективности принятия решений, а не критическому мышлению, принимая такие решения без рассуждений о результатах. Пришла пора получать правильные ответы на правильно поставленные вопросы.
Надо искать идеи, а не ответы.
Ростов-на-Дону
