Не подражать живым системам

«Компьютеры они заряжают, а лошадке овса подбросить они стесняются...» Фото PhotoXPress.ru

Что такое искусственный интеллект, каждый понимает по-своему. В крайних проявлениях одни почитают его за новую религию, а другие за оксюморон. Достаточно массовым становится представление о том, что искусственный интеллект, подобно мозгу, вырастает на почве нейронных сетей. А знание определений нейросети и количества их типов стало для некоторых «начальников по искусственному интеллекту» маркером при отборе ими персонала и финансировании проектов с тем же названием.

Спокойный анализ мощного хайпа вокруг модной темы указывает на справедливость известной мудрости: новое – это хорошо забытое старое. Для справки: первая лаборатория информатики и искусственного интеллекта была открыта в Массачусетском технологическом институте в 1959 году. А один из ее основателей, Марвин Минский, еще в 1951 году сконструировал первую обучающуюся машину, которая и стала основой для последующих разработок в области искусственных нейронных сетей.

Что же думал о таких сетях сам их создатель? К началу 1970-х годов он пришел к неутешительному выводу о бесперспективности попыток создания искусственного интеллекта путем структурного подобия живым системам.

А перспективы нового направления он связал с разработкой систем рассуждений, основанных на здравом смысле (commonsense reasoning systems). Поэтому неприлично говорить об искусственном интеллекте вне его связи со здравым смыслом. Успехи в практическом воплощении заманчивой идеи, по мнению тех, кто закладывал ее основы, следует ожидать не от компьютерных имитаций различных подобий человека, а от фундаментальных научных работ по моделированию мышления.

Высокий уровень дискуссии о соотношении естественного и искусственного интеллекта в рамках физики, математики, биологии, психологии, социологии и компьютерных наук задали работы британского физика сэра Роджера Пенроуза. Его книга «Новый ум короля», изданная в 1989 году, стала первой серьезной попыткой осмысления принципиальных трудностей на пути создания искусственного интеллекта. Вывод ученого: понимание внешнего мира не может быть получено и записано в виде программного кода ни из какого набора вычислительных инструкций.

Это дало Пенроузу веские основания считать сознательное восприятие существенно «невычислимым» процессом, а действия человека «существенно неалгоритмическим поведением». Так появились первые обоснованные (никем пока не развеянные, но малоизвестные широкой аудитории) сомнения в реализуемости идеи «сильного искусственного интеллекта».

Но зато он всегда – собеседник

Функция сознания, без которого не может существовать интеллект, заключается в придании смысла объектам и процессам реальности, к чему не имеют отношения вычислительные процессы. Важно и то, что сознание носит не только индивидуальный, но прежде всего коллективный характер, а разум отдельных людей выступает элементом «общего разума человечества». Как говорил выдающийся культуролог Юрий Лотман, «интеллект – всегда собеседник».

В совместных работах одного из основоположников психологии Карла Юнга и выдающегося физика Вольфганга Паули показана связь мышления и сознания. Их вывод: чем выше уровень «коллективности» мышления и взаимопонимания участников общения, тем глубже оно уходит в архетипы их подсознания. Бессознательное выступает при этом как потенциально сознательное, постигаемое мышлением и реализуемое в поведении.

А как обстоят с этим дела у компьютера? В его памяти много места для информации, но нет места для подсознания и порождаемого им сознания. Даже если это будет компьютер из «мяса». Так что движение в направлении искусственного интеллекта следует связывать не с попытками моделирования разума отдельного человека (с «эскадроном его мыслей шальных»), а с феноменом интеллекта как явления коллективного, связанного со смыслами.

Компьютерные модели – это схемы для вычислений, к смыслам они абсолютно безразличны. Верны они или неверны – определяет в конечном счете сознание, а не более «умная» компьютерная модель. Это к вопросу о том, что очень часто аргументация истинности сенсационных высказываний вплоть до доказательств существования Бога сопровождается указанием на то, что «так посчитал компьютер». С намеком на его незаинтересованность. При этом, однако, умалчивается, что компьютер не имеет отношения не только к интересу, но также к смыслу и истине.

Сознание – это основа интеллектуального превосходства человека над всем биологическим в природе. Именно сознание дало человеку преимущество в ходе естественного отбора. Оно заключается в способности «видеть» непреложную истину (Р. Пенроуз). Передача такой функции машине, созданной человеком и далекой от совершенства, означает отказ человека от своего естества, превращения самого себя в «среду обитания» для ее вычислений.

Представить подобное невозможно, как и захват машинами власти над человеком без его добровольного согласия. Так что подобную страшилку можно отодвинуть в сторону на неопределенное время. Остается, конечно, проблема защиты от угроз, которые могут нести человеку самообучающиеся программы и самопрограммируемые устройства. Но это тема отдельного профессионального разговора в терминах техники повышенной опасности, информированного согласия пользователей и нормирования возникающих рисков.

Не мозг управляет языком, а язык – мозгом

В чем разница между логикой человеческой и компьютерной? Для мышления человека основополагающими являются постановка и поиск ответа на вопрос «зачем?».

А физические науки и технологии, на которых основаны компьютеры, ограничиваются вопросами «почему?» и «как?». Наделенный сознанием разум не работает, как компьютер, хотя многие составляющие умственной деятельности могут быть описаны алгоритмами. Но к ним не сводятся.

Мышление невозможно без языка и существует только в языке. Один из основателей Microsoft Пол Аллен открыл в 2003 году в Сиэтле Институт мозга для понимания феномена мышления. Учеными этого института был получен потрясающий результат: в геноме человека каждые 8 из 10 генов работают для мозга. Стало понятно, что эволюция человека направлена прежде всего на развитие мозга. И главное, что отличает человека от животных, – это язык.

В ходе исследований проверялась гипотеза о наличии у человека гена способности к языку. Исследования сопровождались множеством сенсаций об открытии «гена памяти», «гена глупости», «гена чтения», «гена пения» и т.п. Но эти «сенсации» оказались несостоятельными, так как были результатом неправильной интерпретации открытий.

Марвин Минский, один из основателей первой лаборатории информатики и искусственного интеллекта, открытой в Массачусетском технологическом институте. Фото с сайта Массачусетского технологического института

Это позволило американскому нейроантропологу Терренсу Дикону сформулировать важнейшее научное положение: «Не язык приспособился к мозгу, а, напротив, мозг приспособился к языку». Так что не мозг управляет языком, а язык – мозгом. И думает не мозг, а обладающий сознанием человек с помощью мозга. Поэтому искать законы мышления следует не в строении мозга и физиологических процессах, а в сознании человека, способном наделять реальность смыслами. И в языке, который служит средством выражения и передачи смыслов в коммуникациях людей.

Вычислению не заменить мышления

Компьютерщики могут возразить: ну и что? Роль языка известна, язык уже считается важнейшим компонентом компьютерной техники. Номинально это так, а по существу совсем не так. Язык компьютера – не тот язык, на котором мы общаемся в жизни. Компьютеры являются, по определению американского философа Джона Сёрла, устройствами, которые манипулируют символами. Эти символы носят чисто формальный характер и не связаны с каким бы то ни было смыслом. Наличия компьютерной программы совершенно недостаточно для того, чтобы можно было говорить о наличии в ней знания и самостоятельных познавательных способностей. Всего того, что содержится в естественном языке.

Безразличие операторов компьютерных вычислений к контекстам и смыслам естественного языка исключает их отождествление с интеллектом. К тому же в обычных коммуникациях большое значение имеет нечто, позволяющее нам понимать друг с друга с полуслова. Обычно не слова и не текст, а смысл и контекст выступают основой взаимопонимания участников общения.

Смыслы текстами не создаются, а лишь выражаются и передаются. Такую обходящуюся без лишних слов способность взаимопонимания людей английский физик и социолог Майкл Полани назвал личностным знанием. Компьютеры им не обладают. Не умеют они и самостоятельно превращать терабайты информации в знание на основе здравого смысла, а также образовывать личностное знание.

У компьютеров много проблем и мало перспектив по части «мыслить», «осознавать» и «понимать». Да и со «знать» тоже далеко не все в порядке из-за отсутствия у машин разума, если под разумом понимать способность видеть связь общего с частным (Иммануил Кант). Такая способность выходит за рамки статистических и комбинаторных задач, решаемых компьютерами.

Хороший помощник человеку

Как же относиться к тому, что именуется искусственным интеллектом? По факту под этим «зонтичным брендом» понимаются и развиваются сегодня прежде всего технологии автоматизации технических систем (беспилотники и далее по списку), замены рутинных умственных операций компьютерными программами: ведение счетов, карточные системы, контроль графиков и трафиков, автоматическая рассылка писем и т.п.

Применение искусственного интеллекта в экспертной области сосредоточено на распознавании объектов и реагировании на изменения их состояний по некоторым шаблонам. Подобные технологии могут оказывать информационную поддержку экспертам и управленцам, но не заменять их.

Те, кто непосредственно связан с предметными практиками, не спешат называть подобные программы и оснащенные ими устройства искусственным интеллектом, предпочитая более скромный термин «высокоавтоматизированные системы». А термином «искусственный интеллект» чаще пользуются «институты развития» и бенефициары программ «цифровизации» для обоснования затрат на проекты по соответствующей графе бюджета.

Научно-техническая политика в области искусственного интеллекта фиксирует сложившуюся реальность и выделяет в ней два направления: 1) практически полезные программно-аппаратные комплексы замещения рутинных умственных операций; 2) «сильный искусственный интеллект» как отдаленную мечту, к достижению которой необходимо готовиться уже сейчас.

Технологии, которые называют высокоавтоматизированными системами, полезны, важны и нужны. С этим направлением все более-менее ясно. Только успехи в этом направлении не должны порождать необоснованных ожиданий того, что скоро «все будут делать роботы». До этого еще достаточно далеко.

По поводу экспертных систем, основанных на прогнозной аналитике, нужно говорить гораздо осторожнее. Представления о том, что скоро руководители будут «царствовать, лежа на боку», а думать за них будет искусственный интеллект, далеки от реальности.

Определяйте значение слов…

Успехи цифрового развития определяются сегодня не только и не столько теми, кто разрабатывает компьютерные программы, сколько теми, кто ставит задачи и формулирует их на языке, понятном алгоритмистам и программистам. Так, переход на «умные» контракты осуществим прежде всего за счет компетентности юристов с высоким естественным интеллектом, которые могут формализовать задачу с помощью юридически строгих определений и задать правила их алгоритмической обработки.

Новые информационные технологии не только помогают интеллекту естественному, но и диктуют ему свои условия. Компетенция управленца расширяется сегодня от обычного знания своей предметной области до умения формализации и алгоритмизации описания объектов и процессов управления.

Девиз цифровой экономики: от данных – к действиям. Это значит, что данные, перерабатываемые компьютерными программами, превращаются в действия или побуждают к действиям. А это уже не литературное упражнение, где чем «красивше» звучит – тем лучше. Здесь за неправильные, непонятные, не к месту и не ко времени примененные слова отвечать приходится. Цифровизация понуждает ставить фильтры от потока сознания, а многозначные понятия естественного языка (хотя иных-то в нем и не содержится) переводить в операциональные определения.

Термин «операциональные определения» ввел известный статистик, ученый и консультант по теории управления качеством Эдвардс Деминг. Для раскрытия его смысла он приводил пример: «Каждый считает, что знает, что такое загрязнение, до тех пор, пока не попытается объяснить это кому-то еще». И указывал на причину трудностей в управлении качеством: «Ничем в промышленности не пренебрегают так, как операциональными определениями». Чем нарушают заповедь Рене Декарта: «Определяйте значение слов, и вы избавите мир от половины его заблуждений».

На правоту Декарта и Деминга указывают сегодня практические трудности реализации проекта «Индустрия 4.0», где все отчетливее проявляется смысловая несовместимость компьютерных программ управления производством, поставляемых мировыми лидерами компьютерной индустрии. Проблема давно известна специалистам под названием «семантической интероперабельности».

Универсального и эффективного решения смысловой совместимости информационных систем пока не найдено. А попытки замолчать существование проблемы при разработке новых «прорывных проектов» поздно и рано приводят к известному результату: шила в мешке не утаишь. Так что с амбициозными ожиданиями потрясающих эффектов от интеграции разнородных «умных» программ в экосистему «Индустрии 4.0» приходится повременить.

Не ищите смысла там , где его нет

Коммуникации в киберфизической реальности – это разговор ее участников на двух языках: традиционном естественном языке передачи смыслов людьми и компьютерном языке производства вычислительных операций с оцифрованными данными. Научить компьютер естественному языку принципиально невозможно. У него нет сознания и способности к пониманию смысла слов. Можно возразить и привести в пример голосовые сервисы. Но не нужно путать осмысленную речь с ее имитацией. Попугаи тоже обучаемы произнесению слов, однако интеллектуальными существами их никто не называет.

Здесь уместно еще раз подчеркнуть, что значительная часть сознательного мышления имеет невербальный (не передаваемый словами) характер. А неалгоритмическая составляющая играет в мышлении существенную роль. Очень точно по этому поводу два века тому назад высказался немецкий философ Артур Шопенгауэр: «Мысли умирают в момент, когда воплощаются в слова».

Увидев «Мыслителя», Роден бы сразу потерял свои мысли. Иллюстрация Depositphotos/PhotoXPress.ru

О чем это? О том, что слово имеет смысл лишь в определенном контексте, в системе отношений с другими словами, в процессе мышления и коммуникаций человека. О том, что отношения между словами выражают причинно-следственные связи, существующие в реальности. А понимание причинно-следственных связей является важным аспектом того, что называется здравым смыслом.

Это как раз та область, в которой системы искусственного интеллекта, по выражению доцента Колумбийского университета Элиаса Барейнбойма, сегодня «невежественны». Системы работы с цифровыми данными, и компьютерные программы не станут «умнее», пока не будут следовать логике причинно-следственных связей.

Причинно-следственные связи являются производной естественного интеллекта как активного участника производства и применения в процессах коммуникаций знания, выражаемого в языке. С включением в процессы коммуникаций информационных технологий образовались сложно организованные человеко-машинные системы. Интернет – пример глобальной суперсистемы, выступающей интегратором локальных и функциональных систем.

Искусственный интеллект не существует сам по себе как нечто автономное, а является компонентом глобального коллективного интеллекта по производству и применению данных. Откуда берутся данные в таких системах? Они производятся и применяются в конечном итоге людьми, участвующими в коммуникациях. Даже в случае с интернетом вещей решение о целях сбора и применения данных обдумывается не приборами, а людьми.

Он живет внутри коллективного

Коллективный интеллект образует самоорганизующуюся знаковую систему, где человек выступает не отстраненным созерцателем, а конструктивным и активным участником познавательной деятельности. Именно им порождается сеть динамических знаков в семантической сети, которую образуют коммуницирующие между собой участники. Компьютеры включены в эти коммуникации, трансформируют мышление и поведение людей как производителей и потребителей знаков. Знаки отображают и заменяют физическую реальность, образуя влияющие на людей знаковые системы.

Теорией знаковых систем занимается семиотика. У ее основ стоял Чарльз Пирс (не оцененный по достоинству своими современниками и открываемый сегодня заново нашими современниками). Эта наука нацелена на преодоление разрыва между гуманитарной культурой и культурой естественно-научной, между мышлением и реальностью. Пирс рассматривает жизнь знаков как процесс, в котором знаки, подобно вирусу, самоорганизуются и размножаются через свои знаки, воплощаются людьми в чувства, мысли и воображение, а также связывают с другими людьми посредством языка.

Не правда ли, узнаваемая картина происходящего в различных информационных сетях? Сразу на ум приходит вирусная реклама, распространяемая «интеллектуальными роботами». Вспоминаются случаи психического заражения и массового поражения ложными данными, нарастают трудности отличия «ньюз» от «фейк-ньюз» и далее по списку. Знаки реальности все чаще отрываются от самой реальности и начинают действовать подобно пушке, оторвавшейся от лафета. Такая стихийно складывающаяся в знаковой форме новая реальность при совместном участии людей и машин становится гораздо опаснее, чем гипотетическое восстание машин.

Под влиянием процессов в киберфизической реальности происходят изменения в сознании и мышлении ее участников. Примитивность языка, диктуемого не простотой мыслительных способностей машин, а массовостью коммуникаторов под условным названием «блогер Катя», формирует клиповое мышление, под которое пишутся компьютерные программы. Есть опасность того, что, по мере того как искусственный интеллект будет возвышаться, естественный интеллект (в своей массе) будет опускаться. Зачем тогда прогнозная аналитика про будущее, когда массовый спрос будет формироваться рефлексами про настоящее? А про будущее – так это в социальные сети с гадалками. Главное, чтобы там блокчейн был для фиксации фактов оплаты и оказания обещанных мистических услуг.

Новый язык для киберфизической реальности

Успехи в движении к искусственному интеллекту напрямую связаны с успехами в формировании языка человеко-машинных коммуникаций. Однако современные информационные системы пользуются инструментами времен «доисторического материализма»: классификаторами, словарями, тезаурусами и т.п. Их стали даже величаво называть онтологиями. Но на такой основе невозможно создание «умных» агентов и «размышляющего» искусственного интеллекта. Причина в том, что понятия словарей (семантика), не объединяемые причинно-следственными связями (синтаксис), не позволяют строить из них комбинации, несущие смысл (прагматика).

Возможно ли создание нового языка для цифровой реальности? Полагаю, что эта актуальная задача хотя и суперсложна, но разрешима. Следует только подчеркнуть, что для ее решения нужна не традиционная лингвистика, а относительно новая наука семиотика.

Требования семиотики к знаковым системам – единство семантики, синтаксиса и прагматики. Примером подобной знаковой системы может служить Периодическая таблица Менделеева, своего рода метаязык химического знания. Его семантику составляют названия (знаки) химических элементов, синтаксис образован таблицей с установленным порядком размещения в ней элементов, а прагматика реализуется в виде структурных формул для сложных соединений.

Подобный язык понятен человеку, а также легко переводим в алгоритмы для компьютерных вычислений. Это возможно потому, что порядок размещения смысловых сущностей и взаимосвязей между ними в строгой форме выражает причинно-следственные связи и «химические смыслы» жизни объектов «химической реальности». В основу упорядочения понятийного базиса химии положен математический формализм в виде матрицы с четко определенным количественным (атомный вес) параметром порядка.

Сегодня необходимость в подобных математических формализмах возникла для киберфизической реальности. Речь идет о метаязыке, переводящем смыслы, выраженные на естественном языке, в их формализованные описания для составления алгоритмов компьютерных программ. Требуемый метаязык – это новый способ организации мышления, основанной на универсалиях математики по примеру языков современной химии и физики.

Но математику, как писал Герман Вейль, «невозможно применять, пока слова затемняют реальность». В этой связи необходимо отметить, что математика двинулась к формализации описаний реальности в рамках теории категорий. Символично и название недавно изданной в России книги выдающегося математика Юрия Манина «Математика как метафора», чем подчеркнуто стремление к связи с естественным языком. Однако требуется и встречная «математизация мышления» со стороны тех, кто занимается формализацией описаний и алгоритмизацией задач для информационных систем.

Становится очевидным, что конструктивного взаимопонимания человеческой составляющей с компьютерными системами на естественном языке не выстроить. Это подчиненному начальник может заявить: «Да что я тебе тут объясняю, ты и сам лучше меня должен все это понимать!» А компьютеру, который понимает только «да» и «нет», так не скажешь. Еще и нервы у него железные. Ситуация требует от руководителей организаций и идеологов их цифровой трансформации понимания сути компьютерных программ и поиска с ними общего языка, избавленного от размытости, свойственной обычному общению между людьми.

В сухом остатке

Здесь и являет себя в полный рост ключевая проблема цифрового развития: отсутствие конструктивного языка с операциональными понятиями и причинно-следственными связями между ними. Языка, который был бы пригоден для решения широкого круга задач: от отбора и управления данными до прогнозной аналитики. В случае с компьютером, как и с мозгом, необходим наставляющий и обучающий его язык. Язык математически организованной работы со смыслами, а не только с лишенными смысла символами. Создание такого языка – предмет фундаментальной науки, а не суммирования технологических разработок и «договорняка» по словарям.

Сегодня можно констатировать факт наличия коллективного интеллекта человечества на основе глобальной информационной сети. По рациональным соображениям целесообразно развивать то, что уже реально сложилось. Уникальные свойства компьютера как средства манипулирования символами превосходит возможности человеческого мозга по формально-процедурным параметрам исполнения алгоритмов. Человеческий же интеллект имеет непревзойденные способности по выявлению смысловых проблем и решению с высокой эффективностью уникальных задач в условиях неопределенности. Поэтому актуальным и осуществимым видится достижение синергетического эффекта от взаимодействия этих двух начал и практическая реализация перефразируемого древнего афоризма: «Человеку – человеково, компьютеру – компьютерово».

Слово «искусственный» обращает нас к творчеству, созданию того, чего нет в естественном состоянии. Творчество является одним из начал культуры, включающей также науку и технику. Компьютер и программы – дело техническое. Это тиражирование и массовое применение творческого результата. А перевод результатов творчества в технологии осуществляется наукой, которая дает понимание и обоснование технических решений.

Творчество – незаменимое качество человека. Это и есть то самое «человеково». Искусственный интеллект на это претендовать не может и не должен. Чем больше решаемых людьми задач будет замещено компьютерами, тем больше возможностей остается для проявления человеком творческих способностей. Так что роль человека как творческого начала с развитием искусственного интеллекта не снижается, а увеличивается.

Техника – производная от творчества и науки. Однако сегодня техника и технократия доминируют над наукой и утилизируют творчество. Но как раз теоретического обоснования и научного обеспечения сегодня явно не хватает для решения назревших проблем информационных технологий. Преувеличение возможности искусственного интеллекта из той же серии технократического давления и интересов бизнеса продвинуть на рынок то, что до конца не осмыслено, а последствия не просчитаны. При этом актуальные проблемы информационно-технологического развития загоняются вглубь, порождая вызовы, на которые нет пока ответа.

Общий вывод: искусственный интеллект – не набор технологий. Это долгосрочная масштабная программа, требующая объединения всех уровней и направлений познания и практики: от философии – до техники; от квантовой физики – до психологии. Технологии в этом комплексе работ – самое простое. Как высказался по этому поводу идеолог четвертой парадигмы познания в цифровую эпоху Джим Грей: «Да будут все ваши проблемы техническими!»