Андрей Морозов Международная команда экспертов выработает «кодекс этики» для роботов, которые с каждым днем становятся все более технически оснащенными и, по мнению ученых, вскоре смогут обладать собственным интеллектом. Как сообщают информационные агентства, обсуждение кодекса получило серьезный резонанс на недавно завершившейся конференции Euron (Европейская Сеть Исследований Робототехники) в Генуе, на которой ученые высказали свои опасения в связи с быстрым развитием данной сферы.
В общем-то еще лет 20 назад выдающийся американский технолог – и футуролог по совместительству – Эрик Дрекслер в своей книге «Машины создания» определял такой подход, как биошовинизм: «предубеждение, что биологические системы имеют присущее и неотъемлемое превосходство, которое всегда будет давать им монополию на самовоспроизводство и интеллект».
Биологические системы – это мы с вами┘ Как бы там ни было, но эти самые «биологические системы» рекомендуют придерживаться следующих правил при использовании роботов:
1) действия робота должны находиться под контролем человека;
2) противодействовать незаконному использованию роботов;
3) следить за сохранением секретности данных, полученных роботом, и отчетами о его деятельности;
4) регистрация идентификационного номера для каждого робота.
По нашей просьбе директор по науке РосНИИ искусственного интеллекта Александр Нариньяни прокомментировал каждое из перечисленных правил:
– «Действия робота должны находиться под контролем человека». Совершенно непонятно, что это значит: явно не контроль каждого шага, хотя иногда и это может потребоваться, например в опасной зоне типа «минного поля»; для интерпретации этого правила нужна типология (или онтология) действий робота в разных контекстах с указанием того, что должно находиться под контролем и в какой степени.
«Противодействовать незаконному использованию роботов». Это естественное правило относится ко всему – от ребенка до наркотиков и атомной бомбы.
«Следить за сохранением секретности данных, полученных роботом, и отчетами о его деятельности». Тоже естественное правило, поскольку тоже относится ко всем секретным данным, в частности, и полученным роботом.
«Регистрация идентификационного номера для каждого робота». И это правило очевидно: пока робот – сложное техническое устройство, то для него регистрация идентификационного номера требуется как для автомобиля или экскаватора; когда он станет достаточно интеллигентен и автономен, то для него потребуется нечто вроде ИНН.
Как обычно, во всяких сообщениях вокруг искусственного интеллекта (ИИ) из мухи делают слона. То есть перечисленные правила либо примитивны (2–4), либо плохо определены (1). А называется многообещающе: «этический кодекс общения с роботами», резюмирует Александр Нариньяни.
Вполне очевидный скепсис нашего эксперта представляется вполне оправданным. Тем не менее «у нас есть этические обязательства перед машинами с искусственным интеллектом, если мы создадим их, так же как и перед людьми», утверждает Дэниел Денет, американский философ. И, возможно, он не так уж далек от истины┘
Сетевое агентство MIGnews сообщает, что британские ученые намерены представить на суд экспертов компьютерную систему, способную распознавать настроение и эмоции человека. Программа, заложенная в новое устройство, получает изображение человеческого лица с передающей камеры, и по так называемым «характерным точкам» (кончику носа, бровям, уголкам губ и др.) на лице человека составляет себе представление о настроении исследуемого в данный момент индивидуума, а также о его эмоциональном состоянии. «Эмоциональный» компьютер анализирует комбинации этих движений и по результатам выдает свой вердикт относительно вашего настроения.
«Система способна распознавать эмоции у разного типа людей, несмотря на отличительные особенности человеческой внешности, будь то очки, борода и прочее. По нашим данным, одну и ту же эмоцию люди выражают практически одинаково», – отмечает профессор Питер Робинсон из Кембриджского университета.
В общем, хотя до будущего из кинофильма «Искусственный интеллект» нам еще далеко, очевидно, что границы взаимодействия человека с роботом надо определить еще до того, как появятся роботы, наделенные собственным интеллектом и способные развиваться без контроля человека. Некоторые ученые утверждают, что это произойдет уже в ближайшие 20 лет.
