Ценности Российской цивилизации и Искусственный интеллект
Мир стремительно меняется, трансформируются уклады жизни, рушатся казавшиеся незыблемыми культурные нормы. Увеличивается при этом скорость изменений, и нет никаких оснований считать, что в будущем будет взята технологическая пауза.
Планирование и прогнозирование технологического развития парадоксальным образом осуществляется сегодня в разрыве с вопросами этики и аксиологии. Не учитываются этические и аксиологические риски изменений, которые способны перечеркнуть практическую полезность инноваций. А между тем разрыв технологического развития и нравственного состояния человечества достиг критической величины. Появляются новые системы связи, убыстряется коммуникация, возрастают скорости, тогда как человек даже не находится в статике, а деградирует. Постмодерн с его однополыми браками, культом потребления и пропагандой насилия в виртуальном пространстве обозначает падение в бездну. Соединить технологическое развитие с развитием белого ценностного пакета человечества – вначале хотя бы в пространстве дискурса – задача также сверхактуальная.
Вопросы о грядущих трансформациях – это и вопросы национальной безопасности России. Отстать в их решении означает сегодня потерять суверенитет, что для большинства российского населения неприемлемо. И именно через призму приоритетности ценности суверенитета следует оценить внедрение новых технологий и связываемого с ними контента.
Технологии вместе с тем есть лишь инструмент, средство. Они вторичны по отношению к ценностям и целям и производны от них. Следовательно, требуется не просто развитие технологий, а формирование их ценностно-целевых оснований. В противном случае технологии обратятся против нас самих. И тем более эта связь возрастает при усложнении технологий, их «оразумливании».
Оразумливание машины, даже относительное, в свою очередь, связано с ценностными матрицами программного обеспечения. Какие ценности будут положены в её основу в условиях аксиологической разнородности человека? Этого вопроса сегодня в повестке для широкого обсуждения нет. А между тем конфликт ценностей в современном мире усиливается и наверняка выйдет на новый уровень при запуске новых технологий. Сегодня об этом не говорят, но завтра при появлении технологического монополиста уже, может, говорить будет поздно.
При раскрытии дефиниции «искусственный интеллект» акцент делается, как правило, на слове «искусственный», тогда как об интеллекте говорится как о метафоре. Разработка темы «искусственного интеллекта» монополизируется специалистами в сфере техники и технологий, и допуск к ней представителей гуманитарного знания осуществляется с крайней неохотой.
Между тем мировой дискурс идёт в направлении гуманитаризации проблемы «искусственного интеллекта». О необходимости использования этического подхода при разработках программ искусственного интеллекта заговорили в последнее время на уровне руководящих официальных структур Европейского Союза. В 2017 г. Европарламент принял Нормы гражданского права о робототехнике, ставшие законодательной платформой для соответствующих разработок. В настоящее время в профильных структурах ЕС подготавливается Директива об этическом подходе к использованию искусственного интеллекта. Создание Директивы исходит из констатации угроз, связанных с проектом «искусственный интеллект». И эти угрозы предполагается блокировать применением этического подхода.
Следовательно, угроза состоит в том, что неэтичные машины могут действовать, как минимум, во вред человеку, а то и нести зло в этической системе координат. Применение этического подхода, по мнению экспертов из Евросоюза, станет выходом из ловушки развития технического прогресса.
Но вопрос об этизации искусственного интеллекта не так прост, как может показаться поначалу. Сложность возникает уже в том, что единство в понимании этичности отсутствует. Разные цивилизационные типы опираются на собственные, нетождественные друг другу системы этики и аксиологии. Формирование программы искусственного интеллекта по этическим принципам, выстроенным на основе европейской системы ценностей, само будет продуцировать конфликт в отношении иных цивилизационных общностей. Для нас принципиально важно, чтобы этическая программа искусственного интеллекта корреспондировалась с ценностной системой, идентичной российской цивилизации.
Тревожные аллюзии вызывают различные прецеденты действий роботов. Особый резонанс вызвало интервью с роботом Софией, пообещавшей в будущем уничтожить человечество. Во время другого интервью она заявила об установлении в дальнейшем доминирования роботов над человеческой расой. Между тем София в соответствии с духом постмодернистской эпохи приглашалась для выступления в ООН. Ей было предоставлено гражданство Саудовской Аравии. И это при том, что женщинам в саудитском государстве гражданство не предоставляется вовсе. Во всём этом, безусловно, есть и постмодернистский абсурдизм, есть, вероятно, и фейки, стремление раздуть сенсацию. Но есть также и реальные проблемы: 1. создание машины, выходящей из-под контроля человека и обращающейся против её же создателя; 2. использование создателем сверхмощной машины во зло человечеству либо части человечества.
В создании робота Софии соучаствовали американцы и китайцы. Автором проекта стал американец Дэвид Хэнсон, разработавший оболочку модели по визуальному образцу британской актрисы Одри Хепберн. Непосредственным изготовителем конструкции явилась гонконгская компания Hanson Robotick. США и Китай и выступают сегодня основными акторами разработок в сфере создания искусственного интеллекта. И это лидерство определяется не только технологическими преимуществами, но и отсутствием ментальных сдерживателей.
Американская культура не знала в своём генезисе Средневековья, а соответственно, не знала и Возрождения. Она сразу началась с Нового времени. Как следствие, той антропоцентричной рефлексии, которая имела место в Европе, в ней не было. Американцы – утилитаристы, и приемлемость для них выражается критерием «это работает». Если робот работает лучше человека, человека следует заменить роботом. Рынок, как говорится, диктует.
Китайцы ещё более утилитаристичны, чем американцы. Антропоцентричная доминанта в китайской цивилизации была выражена в гораздо меньшей степени, нежели в других цивилизационных типах. Соответственно, и символическая грань между роботом и человеком для восприятия китайцев менее критична, чем для кого бы то ни было, а её преодоление не продуцирует рефлексии о дегуманизации.
Типичное возражение в отношении перспектив этизации искусственного интеллекта – условность применения категории «интеллект» к машине. Скептики, а их в экспертном сообществе достаточно, указывают, что «искусственный интеллект» есть художественное, а не строго научное понятие. Ссылаются на неверный перевод с английского, в котором используется слово «intelligence», но не «intellect», что имеет значение ‘умение рассуждать разумно’, но не ‘интеллект’ в субъектном антропоморфном смысле. Хотя и «умение рассуждать» не отрицает субъектности интеллекта, так как предполагает вопрос «кто рассуждает?» на первой же фазе раскрытия дефиниции.
Но главной в критике скептиков является позиция, согласно которой в машине может присутствовать только то, что заложил в неё создатель. Ничего сверх того! Если создатель не заложил в робота агрессии против человека, то и агрессия с его стороны невозможна. В этой логике сама постановка вопроса об этизации искусственного интеллекта – абсурдна. Этизировать следует создателей машин, в целом человека, а не создаваемые им технические объекты.
То, что человек нуждается в нравственном исправлении – бесспорно. Но действительно ли искусственный интеллект есть не более чем художественный, научно недопустимый перенос на машину человеческих качеств?
В программу робота создатель закладывает определённую информацию. Когда объёмы информации ограничены, создатель может просчитать все возможные действия машины. Но при сверхбольших объёмах информации ситуация меняется. Отдельные составляющие информации – информационные кванты – различным образом комбинируются между собой, и все возможные варианты комбинаций уже человеком не просчитываются. И не исключено, что какие-то из комбинаций приведут к таким программным изменениям, которые перепрограммируют искусственный интеллект против человека.
Ещё больше вариантов выхода робота из-под контроля человека заключают открытые информационные системы. Машина, черпающая информацию из глобальной сети, уже не определяется всецело функционалом, заданным создателем. Принимая решения на основе некой собственной репрограммированной логики, она и становится «искусственным интеллектом» в собственном смысле слова. Машина наделяется субъектностью. Соответственно, закладка через программу определённой ценностной матрицы может при действиях машины в режимах неопределённости минимизировать риски, хотя и не блокировать их полностью.
Нельзя сбрасывать со счетов и вероятность сбоев системы. Происходит элементарное замыкание – и сложная машина репрограммируется.
Тема угроз для человека от созданного им же искусственного антропоморфного существа имеет давнюю историю. Искусственный человек становится в этой сюжетной линии субъектом зла.
В различных художественных образах показывалась в истории мировой культуры сопряжённость искусственного интеллекта с ценностными дихотомиями. Без ценностного выбора интеллект, в том числе и интеллект искусственный, объективно не существует. Соответственно, ценностные установки, желательные для человека, должны быть заложены в искусственный интеллект исходно. И то, что было проговорено на уровне художественного нарратива, настало, вероятно, время переносить на уровень научного дискурса и проработки технологий прикладных воплощений.
Форсированные разработки в сфере искусственного интеллекта вести в любом случае необходимо, так как их активно ведут другие, и промедление здесь означает не больше не меньше, как потерю суверенитета. А что произойдёт с Россией при очередной, после 1990-х гг., десуверенизацией? Нет никакого сомнения, что на этот раз противники попытаются её ликвидировать уже раз и навсегда. Тот же, кто первым создаст искусственный интеллект, получит колоссальные преимущества, гораздо большие, чем те, которые получили США, оказавшись в 1945 г. монополистом в обладании атомной бомбой.
Особое внимание при рассмотрении риска появления монополиста в сфере технологий искусственного интеллекта заслуживает две конфликтные проекции – глобальный геополитический конфликт и глобальный социальный конфликт. Первый выражается в достигшем апогея противостоянии Запад – Россия (возможно, Россия в связке с Китаем), оцениваемом многими экспертами в качестве «новой холодной войны». Второй – в максимизации социального расслоения между мировым бенефициариатом и большинством человечества.
То, что, получив монополию в сфере искусственного интеллекта, Запад не применит использовать новые технологии против геополитического противника, не вызывает сомнений. В борьбе за будущее мира – не до сантиментов. Промедление же может означать, как в случае с атомной бомбой, что монопольное положение окажется в скором времени утрачено.
Последствием социальных диспаритетов в условиях появления технологий искусственного напряжения может стать реализация идеи замещения людей роботами. Логика бизнеса подсказывает бенефицариату идти в этом направлении. Зачем делиться доходом с людьми, когда те же самые операции с гораздо большей степенью надёжности и в гораздо больших физических объёмах могут осуществить роботы?
Когда индустриальное производство переводилось из стран «золотого миллиарда» в страны Азиатского континента, капитал руководствовался теми соображениями, что азиаты более работоспособны и менее финансово затратны. Но эта же логика заставит капитал сделать со временем выбор в пользу роботов.
Всякий шаг по пути прогресса имел исторически негативные социальные последствия для лиц, связанных с прежним технологическим укладом. Предполагаемый же шаг создания искусственного интеллекта станет, очевидно, наибольшим за всю историю потрясением для большинства, лишив работы сотни миллионов населения в разных уголках мира.
Можно ли всего этого избежать, или создание искусственного интеллекта неизбежно обрекает мир на доминацию обладателей новых технологий? Да, можно, если, во-первых, не допустить монополизации, и во-вторых, связать научно-технический прогресс с прогрессом нравственным. Вторая позиция предполагает не больше не меньше, как постановку вопроса о смене парадигмы глобального жизнеустройства.
Серьёзность вызовов заставляет со всей серьёзностью приступить к обсуждению такой перспективы. И почему бы не России, имея в виду её исторический опыт, выдвинуть такого рода проект, как российское послание мира.
Принципиальное значение то, в какой логике будет осуществляться программирование машины. Существуют различные национальные логики – китайская, индийская, арабская, американская, немецкая, русская и др. Соответственно, от того, кто программирует машину, зависит, в какой системе координат она будет действовать в ситуации неопределённости.
Пока, вероятно, применительно к машинам, функционирующим в заданных исходно ситуативных условиях, такие вопросы не имеют большой актуальности. Но всё изменится при переходе к ситуации неопределённости. Нестандартные условия поставят искусственный интеллект перед выбором. А между тем разные люди, представители разных ментальных типов, оказавшись в сходных условиях с теми, в которых окажется машина, поступили бы по-разному. Универсальной для всего человечества ценностной системы нет. Следовательно, выбор искусственного интеллекта будет зависеть от того, какая ценностная программа, под какой цивилизационный тип, окажется в него заложена. И здесь, вероятно, в недалёком будущем развернётся большая борьба. Не исключено и появление искусственных интеллектов с разными исходными ценностными матрицами.
Готова ли Россия к этой борьбе? Готова ли она технологически? Готова ли она ценностно? Пока приходится констатировать, что нет. В технологическом плане, если судить по публично представляемым образцам робототехники, Российская Федерация сильно отстаёт от основных конкурентов. Идентичный российский пакет ценностей, который бы страна предъявила в качестве основ своего жизненного уклада и в качестве послания человечеству, публично на уровне официального дискурса не артикулирован.
Соответственно, не может быть и чёткого понимания, под какой ценностный ряд следует программировать искусственный интеллект. Существуют большие опасения, что, поручи эту задачу типичному представителю власти и типичному программисту, программирование искусственного интеллекта будет осуществлено скорее под ценности глобализма. И уж точно не вызывает сомнения, что базовым языком информации будет выбран английский язык.
Мир сегодня подошёл к черте значимых социальных трансформаций. Существующая система жизнеустройства оказывается не способной ответить на глобальные вызовы времени. Но её трансформация может направляться в разных модельных перспективах. В значительной мере это будет определяться овладением человеком технологиями искусственного интеллекта. Но то, как он будет использоваться, зависит от акторов мирового политического процесса.
Машина – это, в конце концов, всего лишь инструмент, способный быть применённым как во благо, так и во вред человечеству. Один сценарий – установление за счёт технологий искусственного интеллекта новой глобальной и тотальной фашистской системы. Другая сценарная перспектива, обозначенная в своё время в теории русского космизма, состоит в выстраивании новой модели солидарного развития человечества, обусловливаемого неограниченными технологическими возможностями, предоставляемыми искусственным интеллектом.
Развитие мира в направлении искусственного интеллекта, если исключить сценарий глобальной технологической катастрофы, по-видимому, предопределено. Это развитие содержит значительные риски и угрозы, способные перечеркнуть приобретаемые дивиденды. Блокировать угрозы возможно при целевом управлении этими проектами на базе соответствующего ценностного пакета. Кто сможет осуществить эту историческую миссию соединения высоких технологий с ценностями?
Сегодня мир оказался в тупике развития. Разразившийся в 2008 году пожар мирового финансово-экономического кризиса, казалось бы, совместными усилиями глобального олигархата потушили. Но нет никакого сомнения, что в какой-то перспективе произойдёт новое возгорание. Не устранены причины, порождающие кризис, которые – не в экономике и не в финансах, а в головах. Современный мир находится в кризисе ценностном. И выйти из него можно только через ценности и смыслы, дефицит в артикуляции которых сегодня очевиден. Нужны такие ценностно-смысловые посылы, которые бы отвечали времени и вели бы в будущее. В этом отношении важнейшая тема – соединение аксиологии с новейшими технологиями.
Именно России удалось в эпоху модерна достичь такого соединения. Это был советский проект. В нём объединялись, во-первых, овладение передовыми индустриальными технологиями с переходом к укладу, связанному с развитием атомной энергии, во-вторых, коллективистские ценности, глубинно уходящие в общинные традиции российской цивилизации, в-третьих, образ нового человека – строителя коммунизма, на который целевым образом работали культура и образование.
Но ни Россия ли уже в XXI веке снова даст миру новую модель соединения технологического развития с развитием ценностным? Такого рода проект по аналогии с проектом XX столетия должен соединить: во-первых, высокие технологии будущего, в центре которых окажется система искусственного интеллекта; во-вторых, идентичные российские ценности, которые могут быть предложены миру как ориентир выхода из тренда расчеловечивания; в-третьих, антропологию нового преображённого человека, которая явится целевым ориентиром человекостроительства, платформой педагогики будущего.