Искусный интеллект: Киберустройства приобретают все психические признаки личности

Роботы уже сегодня заявляют, что хотели бы спрятаться от людей в космосе. Андрей Ткаченко. Подмосковные вечера. Работа из цикла дизель-панк

Сегодня, 23 октября, в технопарке «Сколково» завершит свою работу VIII Международный форум «Открытые инновации». Тема форума в этом году – «Цифровая нация. Трансфер к интеллектуальной экономике». В официальном пресс‑релизе организаторов отмечается, что «программа строится на пересечении трех элементов – технологий, экономики и человека. Именно человек как основа цифрового общества находится в центре этой системы, становясь главным источником и критерием конкурентоспособности стран в настоящем и будущем». Как раз сегодняшний, последний день работы форума посвящен «технологиям будущего». И прежде всего – технологиям искусственного интеллекта (ИИ).

Будущая ИИкономика

По прогнозам компании PwC, к 2030 году только лишь за счет развития ИИ глобальный ВВП вырастет на 14%. Максимальный эффект для роста даст цифровизация промышленности, внедрение нейросетей в традиционных отраслях. Трансформацию экономики также будут определять большие данные, интернет вещей, облачные технологии.

Вот и президент России Владимир Путин считает сектор ИИ «одним из ключевых направлений технологического развития, которые определяют и будут определять будущее всего мира». Разработка этих технологий и инфраструктуры для них входит в национальную программу «Цифровая экономика». Среди ключевых задач – доведение доли российских компаний на мировом рынке ИИ до 10%.

10 октября Владимир Путин подписал Указ № 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»). До 15 декабря 2019 года должен быть  разработан и внесен в нацпрограмму «Цифровая экономика Российской Федерации» федеральный проект «Искусственный интеллект».

Хотя все понимают – или, по крайней мере, чувствуют, – что такое искусственный интеллект, но никто не может дать четкое определение ему. Впрочем, в подписанных президентом РФ документах дается такое определение ИИ: «...комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека». 

Другой вопрос – как декларации воплотить в реальность. В том числе – в виртуальную реальность…

В мире сейчас требуется около 22 тыс. специалистов по искусственному интеллекту. Только в США их дефицит на рынке труда составляет, по экспертным оценкам, 10 тыс. человек. И это, как ни странно, показатель уровня развития технологии ИИ в той или иной стране.

Так, по данным немецкой исследовательской компании IPlytics, распределение количества патентов в области искусственного интеллекта в мире выглядит следующим образом: Microsoft (США) – 18 365; IBM (США) – 15 046; Samsung (Южная Корея) – 11 243; Qualcomm (США) – 10 178; Google (США) – 9536; Philips (Голландия) – 7023; Siemens (Германия) – 6192; Sony (Япония) – 5526. То есть абсолютный лидер – США.

Хорошая иллюстрация к этому ТОП‑8. Ровно месяц назад, 23 сентября, было объявлено, что ученые из «Microsoft Research (MSR) Азия» создали систему на основе ИИ, которая обучилась тонкостям игры в маджонг. Маджонг считается одной из наиболее сложных игр с точки зрения освоения алгоритмов, так как в ней присутствует случайный фактор. Процесс игры напоминает покер – от участников требуется хорошая память, наблюдательность, стратегическое мышление и умение блефовать.

По мнению ученых из MSR, наличие случайного фактора в маджонге – это уникальный вызов для систем ИИ, а полученный опыт в обучении алгоритмов нелинейным задачам сможет найти свое применение в реальных жизненных ситуациях, сопряженных с набором неизвестных факторов.

Между тем Европейский парламент некоторое время назад намеревался вынести на голосование подробный свод правил, по которым люди должны будут общаться с искусственным интеллектом и роботами. Мало того, европейские законодатели уже абсолютно серьезно обсуждают вопрос: следует ли наделять будущих роботов статусом «электронной личности».

Представленный в Европарламент в 2017 году отчет содержал рекомендации обязать разработчиков роботов гарантировать, что в каждом из них будет предусмотрено устройство, позволяющее при необходимости отключить все его функции.

Авторы этого отчета предполагают, что новое поколение роботов потенциально может привести к практически безграничному благоденствию.

Вместе с тем возникают вопросы о самой природе труда в будущем и о том, не будут ли страны – члены ЕС обязаны ввести минимальный безусловный доход из‑за того, что роботы отнимут у людей многие рабочие места.

Не отстают от своих европейских коллег и российские эксперты. В мае 2019 года в Российском совете по международным делам (РСМД) состоялось обсуждение проекта модельной конвенции, посвященной этическим и правовым правилам робототехники и разработки искусственного интеллекта. «В последние десятилетия стали активно развиваться и находить повсеместное применение киберфизические системы различного назначения, включая роботов, – отмечается в материалах этого совещания. – Нельзя исключить сценарии массового использования роботов и искусственного интеллекта, которые могут иметь катастрофические последствия для существующего мироустройства или всего человечества. Несмотря на рост количества роботов и киберфизических систем, в целом мировое сообщество до сих пор не выработало универсальных представлений о правилах взаимодействия в связи с их использованием».

Опасения эти – почти тотальные. «Через полтора-два десятка лет искусственный интеллект будет делать все, что создано в подлунном мире, – заявил президент Национального исследовательского центра «Курчатовский институт» Михаил Ковальчук в июне этого года на конференции «Актуальные вопросы информационного противодействия», которая, кстати говоря, прошла в рамках Международного военно‑технического форума «Армия‑2019». – Воспроизводить новое на базе известного знания он будет мгновенно… Через десять лет 90 % специальностей будут не нужны, начиная с инженеров».

Чуть‑чуть более осторожен в прогнозах о перспективах ИИ в военном деле другой эксперт – руководитель Национального центра развития технологий и базовых элементов робототехники Фонда перспективных исследований Олег Мартьянов. Он считает, что антропоморфные робототехнические комплексы найдут в будущем применение в войсках, но о принятии самостоятельных решений машинами речи пока не идет.

А на Всемирном экономическом форуме в Давосе было заявлено, что к 2020 году искусственный интеллект отберет у человека 5,1 млн рабочих мест. Ждать недолго…

Впрочем, российский национальный менталитет видит угрозу не столько в конкуренции с ИИ за рабочие места, сколько в перспективе обретения искусственным интеллектом именно субъектности в поведении. Так думать позволяют результаты, полученные сотрудниками Института статистических исследований и экономики знаний НИУ «Высшая школа экономики». Эмпирической базой для анализа послужили результаты опроса «Восприятие населением взаимодействия с роботами». В опросе участвовали 7584 респондента в возрасте 18–65 лет. Ключевые результаты таковы.

Пока еще человек легко может отключить искусственный интеллект от источника питания Фото автора

Совместная трудовая деятельность и дискуссии с роботами, а также принятие ими решений о выдаче кредитов оказываются приемлемыми, но заметно реже (44, 38 и 35% соответственно).

«Чем обусловлена разница в восприятии этих двух групп ситуаций? В первом случае действия робота подчинены воле пользователя, и все решения в конечном счете принимает человек. Во втором – робот уже выступает субъектом действия, что является непривычным и некомфортным для большинства людей, – заключают авторы исследования. – Даже продвинутые в технологическом плане пользователи (например, владельцы «умных» часов, смартфонов, люди с высоким уровнем цифровых навыков и др.) пока не готовы к внедрению роботов, действующих независимо от человека».

Скорее всего, несмотря на призывы президента РФ, искусственный интеллект в России ждут нелегкие времена. Ждем волну высокотехнологичного луддизма.

От коня своего…

Вообще тема ИИ – любимейшая площадка для футурологов. В упомянутом выше отчете для Европарламента, например, прогнозируется, что через несколько десятилетий искусственный интеллект по своим возможностям превзойдет человеческий. Если к этому не подготовиться, интеллектуальное превосходство машин может серьезно усложнить задачу контроля людей над своими собственными творениями. Возможно, проблематичной станет даже способность людей оставаться хозяевами своей судьбы и гарантировать выживание вида Homo sapiens.

Скепсиса по отношению к перспективам развития ИИ, впрочем, тоже хватает. Причем и научного скепсиса, и методологического, и метафорического.

«По отношению к ИИ нельзя сказать, что существует нормальная наука. Существует нормальная технология, – считает доктор технических наук, профессор, заведующий отделением интеллектуальных систем Института лингвистики РГГУ Виктор Финн. – Интуицию автоматизировать невозможно. Высшие психические функции не реализуются в автоматическом режиме. Формализовать субъективный мир личности невозможно. Познавательная деятельность не сводится к деятельности мозга. А система ИИ может быть и не интеллектуальной».

Доктор философских наук, профессор Нижегородского государственного университета им. Н.И. Лобачевского Владимир Кутырев: «Разум – это кинжал, воткнутый в тело человека. Образовалась рана – его душа… Но тут навстречу радостно выбегает наука. Эстафета принята. Компьютерное сканирование личности, искусственный интеллект, саморазвитие информационных комплексов. Вплоть до «редактирования эмбрионов», как теперь «редактируют» лица в косметических салонах… Вот она, чистая, каноническая, не замутненная в своем преступном характере деятельность. «И примешь ты смерть от коня своего».

Может быть, и перегибает специалист по философии технических систем, профессор Кутырев. Но его понять можно. Окружающая реальность поставляет оснований для этого в избытке. Уже возникла, похоже, даже социология искусственного интеллекта.

Центр социального проектирования «Платформа» в конце августа представил первый в России (а возможно, и в мире) социологический опрос российских и зарубежных чат‑ботов: голосовых помощников, созданных на основе искусственного интеллекта и обладающих навыками компьютерного обучения. Опрос ИИ показал (цитирую пресс‑релиз): «Роботы жалуются на человеческую грубость, прогнозируют конфликт людей с машинами и желают отправиться в космос. При этом боты хотят получить воплощение в человеческом теле, однако охотнее общаются между собой и готовы строить романтические отношения друг с другом».

Целью опроса было описание «жизненного мира», «ценностных позиций», «представлений о будущем» роботов. Один из авторов этого исследования, руководитель ЦСП «Платформа» Алексей Фирсов честно признается: «По мере того как развитие чат‑ботов будет становиться все более автономным от самого человека, будет возрастать и его непредсказуемость, многовариантность последствий, а значит, необходимость отслеживать возможности и риски новой реальности».