Алексей Филатов
12:25 09.12.2019
Искусственный интеллект ставит сложные морально-этические проблемы
Технологии меняют всё в корне. Война эволюционирует и постоянно развивается. Как только человек создаёт новое оружие, так сразу появляется новый театр военных действий: земля, море, воздух, космос, виртуальное пространство…
В 1903 году появился самолет для длительного полета, а в 1909 был создан первый бомбордировщик. 1 ноября 1911 года во время итало-турецкой войны, итальянцы сбросили 4 бомбы весом 1,8 кг на турецкие войска в Триполи. И Вторая Мировая война уже была не только на суши и в море, но и в небе, и в радиоэфире.
Теперь театром военных действий становятся космос и киберпространство.
Следующий уровень – использование искусственного интеллекта. Но не только его. Фактически речь идёт о технологических изменениях такой глубины, что меняются театры военных действий и даже философия войны, сложившиеся веками. И встают вопросы, которые ранее не вставали.
Есть и ещё одна особенность новых военных технологий, о которой говорят не так часто. Это так называемые «не летальные виды вооружений». Они есть и у российских ВС, и у американцев.
К примеру, направленные микроволновые излучатели, вызывающие невыносимую головную боль и потерю сознания, но не приводящие к смерти.
Нервнопаралитические газы, которые усыпляют противника. Более современные, чем те, что использовались при освобождении заложников во время теракта Дубровке в Москве в 2002 году.
Главный смысл этих технологий в устранении факторов, оправдывающих продолжение борьбы: месть, боль, унижение. Без смерти нет острой необходимости в отмщении.
То есть, эти виды вооружения в корне меняют философию военных действий, трансформируют этику, меняют психологию.
И это при том, что кровопролитие в нашем обществе имеет ритуальное значение. Не зря на протяжении веков войной занимались аристократы. «Отдать кровь» всегда было очень важно! Крайне сложно принять результат войны, которая прошла бескровно. Особенно поверженной стороне.
То есть, вопросы этики, встают на первое место сразу за очередным технологическим прорывом.
И вот почти два месяца назад Владимир Путин предложил создать свод этических правил взаимодействия человека с ИИ, так как он становится новым фактором общественного развития. «Нужно найти баланс между максимальным раскрытием информации и правами людей на защиту этой информации там, где они считают, что эта защита должна быть обеспечена», – заявил Путин на конференции по ИИ AI Journey в Москве.
И 10 октября он подписал Указ № 490 «О развитии искусственного интеллекта в Российской Федерации» и национальную стратегию развития ИИ в России до 2030 года. В документе говорилось, в том числе, о разработке этики в области взаимодействия человека и искусственного интеллекта.
Этические нормы для ИИ необходимы. Ведь суть подключения искусственного разума состоит в том, что анализируя огромные массивы данных, обучаясь у человека, он должен принимать решения. В условиях боевых действий – это вопрос жизни и смерти. В самом буквальном смысле. ИИ должен принимать решения. Например… С чем мы имеем дело – с базой террористов или большой мусульманской свадьбой? Наносить или нет удар по предполагаемому противнику? Летальные или не летальные виды вооружения использовать? То есть, вопрос относительно жизни людей будет принимать робот!
В случае неверного решения, кто будет нести ответственность?
Но этические нормы искусственного интеллекта нужны не только в оборонной отрасли. Кто будет нести ответственность за неверное решение ИИ, который управляет беспилотным автомобилем? Если авария, если пострадали люди? Владелец автомобиля, разработчик ПО, Илон Маск?..
Самыми сложными вопросами, возможно, сегодня станут не столько развитие технологий – они развиваются стремительно – сколько морально-этические, а следом и социально-правовые вопросы, дающие право и определяющие формат использования новейших технологий. Крайне сложные и неоднозначные вопросы, поскольку касаются, не винтиков и болтиков, не лазеров и взрывчатки, не физики и химии, а гуманитарной сферы – человека.
Мнение авторов может не совпадать с позицией редакции «Независимой газеты»;
Комментировать
комментарии(0)
Комментировать