Читай!
Искусственный интеллект требует равных прав с человеком

Искусственный интеллект требует равных прав с человеком

История с ИИ заслуживает внимания на уровне специальной национальной стратегии не только своими экономическими параметрами. Более того, вполне может оказаться, что экономические показатели – это вторично. Куда менее предсказуемы эволюционные, социально-психологические и этические последствия для общества развитие систем на основе ИИ.

Автор/Авторы:
Андрей Морозов

Главная тема прошедшего в январе в Москве Гайдаровского форума 2020 года – “Россия и мир: вызовы нового десятилетия”. 85 площадок с панельными и экспертными дискуссиями, презентациями и докладами. Ведущие международные эксперты обсудили политическую ситуацию и развитие экономики, цифровизацию и экологию, образование и здравоохранение… На этом фоне, может показаться, что лекция о мозге и искусственном интеллекте (ИИ) известного российского нейролингвиста, доктора биологических наук Татьяны Черниговской, была просто частью культурной программы форума. Для общего развития и расширения кругозора участников. Но ситуация, всё-таки, несколько серьёзнее…

14 октября 2019 года президент России Владимир Путин подписал указ об утверждении “Национальной стратегии развития искусственного интеллекта на период до 2030 года”. Необходимость в таком доктринальном документе в самой Стратегии обосновывается так: “По оценкам международных экспертов, инвестиции в технологии искусственного интеллекта выросли с 2014 по 2017 год в три раза и составили около 40 млрд долларов США. В 2018 году мировой рынок технологических решений, разработанных на основе искусственного интеллекта, составил 21.5 млрд долларов США и, по прогнозам экспертов, к 2024 году достигнет почти 140 млрд долларов США. <…> Ожидается, что благодаря внедрению таких решений рост мировой экономики в 2024 году составит не менее 1 трлн долларов США”.

Но история с ИИ заслуживает внимания на уровне специальной национальной стратегии не только своими экономическими параметрами. Более того, вполне может оказаться, что экономические показатели – это вторично. Куда менее предсказуемы эволюционные, социально-психологические и этические последствия для общества развитие систем на основе ИИ. В той же “Национальной стратегии” тревога за будущее сосуществование под сенью ИИ заявлена открыто: “Основными принципами развития и использования технологий искусственного интеллекта, соблюдение которых обязательно при реализации настоящей Стратегии, являются:

а) защита прав и свобод человека: обеспечение защиты гарантированных российским и международным законодательством прав и свобод человека, в том числе права на труд, и предоставление гражданам возможности получать знания и приобретать навыки для успешной адаптации к условиям цифровой экономики;

б) безопасность: недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и юридическим лицам, а также предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта…”.

Недаром американский психолог и социолог Владимир Лефевр заметил: “Человек – это устройство, превращающее опасения в явь”. Татьяна Черниговская, например, в одном из своих интервью на вопрос – “В чём опасность ИИ?” ответила так: “В том, что искусственный интеллект развивается с огромной скоростью и становится всё более мощным. Есть основания опасаться, что у него появится что-то вроде личности и, поскольку он считает и думает быстрее, чем мы, он может выйти из-под контроля человека.

Мы же хотим, чтобы нам было легче жить – уголь самим не добывать, щи не варить, – кто бы возражал! Но искусственный интеллект нельзя допустить до ситуации, когда он будет принимать решения”.

И это мнение эксперта подтверждается исследованием, которое провели среди жителей Европы сотрудники частного испанского университета IE University. Они интересовались: как европейцы относятся к ИИ. Всего в этом исследовании участвовало 2500 человек из семи стран. Выяснилось, что 25% респондентов готовы поручить управление страной искусственному интеллекту. Но две трети опрошенных опасаются, что без должного контроля новые технологии принесут вред обществу. 40% респондентов считают, что компании, в которых они работают, в течение 10 лет закроются, так как не смогут адаптироваться к новым технологиям.

Компании, конечно же, не согласны с такой постановкой вопроса. И бомбардируют общественное мнение результатами своих социологических исследований. Так, в декабре 2019 года американская корпорация Oracle, одна из крупнейших производителей программного обеспечения в мире, обнародовала отчёт о взаимоотношениях людей и роботов. Опрошено было 8000 человек из десяти стран. 64% респондентов больше доверяют роботу, чем своему менеджеру. 82% считают, что робот может выполнить определённую задачу лучше, чем их начальник. 25% отметили, что имеют “комфортные” отношения с роботами на своём рабочем месте; 11% сказали, что у них с роботами “любящие” отношения. И только треть опрошенных принципиально предпочтут общение с человеком взаимодействию с роботом на работе. При этом более 70% находят сложным текущий процесс работы с подобными технологиями, и хотят, чтобы он стал удобнее и проще.

Вывод комментаторов – “со временем люди начинают спокойнее относиться к искусственному интеллекту – по мере привыкания к использующему эту технологию софту, термин превращается из магического в обыденный, а “робот” превращается из металлического ящика в коллегу”.

Вот и в российской “Национальной стратегии развития искусственного интеллекта на период до 2030 года” в качестве требования выдвинуто – “Создание комплексной системы регулирования общественных отношений, возникающих в связи с развитием и использованием технологий искусственного интеллекта”.

И вот тут, возможно, начинается самое интригующее…

Искусственный интеллект, вполне возможно, со временем пожелает избавиться от определения “технология”. ИИ де-факто станет субъектом, а не объектом. Сам, по собственной воле. То есть, сознательно. И сознание это будет порождено как последствие функционирования некоей распределённой системы, сети.

Продолжение читайте в выпуске «Энергия: экономика, техника, экология» 3/2020.


Оригинальный материал: https://www.libnauka.ru/journal/energiya-ekonomika-tehnika-ekologiya/energiya-ekonomika-tekhnika-ekologiya-2020-3/iskusstvennyy-intellekt-trebuet-ravnykh-prav-s-chelovekom-energiya-ekonomika-tekhnika-ekologiya/