Книга «Технологии против человека» приподнимает завесу над важнейшими вызовами, которые сегодня стоят на пути развития нашей цивилизации. В ней обсуждаются неотложные вопросы о роли человека в мире экспоненциально развивающихся технологий: искусственного интеллекта, больших данных, виртуальной и дополненной реальности, редактирования генома, интернета вещей, роботизации, автоматизированного производства. Ее автор Герд Леонгард – известный футуролог и ведущий эксперт по потребительским трендам будущего. На страницах книги он подробно описывает возможные этические, экономические и социальные последствия широкого внедрения экспоненциальных технологий на нашей планете.
Появление первых электронных компьютеров в середине XX века стимулировало писателей-фантастов к моделированию гипотетического будущего. Спустя всего лишь несколько десятков лет многие казавшиеся нереальными идеи либо уже реализованы (интернет, беспилотные дроны, мобильная связь и прочее), либо проглядываются в проектах, над которыми в настоящий момент работают крупные технологические компании и ведущие научно-исследовательские учреждения по всему миру (чтение мыслей с помощью когнитивных технологий, цифровой двойник человека, нейрообучение)[1].
Занявшись описанием будущего на страницах своих произведений, известные писатели вскоре поняли опасности новых технологий. Для многих угрозы, связанные с техническим прогрессом, послужили дополнительным стимулом к творчеству. Так, Станислав Лем в циклах фантастических рассказов «Из воспоминаний Иона Тихого» и «Звездные дневники Иона Тихого» более полувека назад в полушутливой форме обозначил большинство обсуждаемых в настоящей книге проблем (преобладание искусственно созданного разума над человеческим; законодательные вопросы, которые связаны с развитием искусственного интеллекта; клонирование человеческого разума в цифровой форме и др.). Другой великий фантаст, Айзек Азимов, одним из первых начал широкое обсуждение этических вопросов, вызванных роботизацией, суперкомпьютерами и искусственным интеллектом. Этическим аспектам внедрения технологий автор настоящей книги уделяет особое внимание, зачастую ссылаясь на произведения Азимова.
Само по себе слово «робот» отнюдь не новое. Впервые оно появилось в 1920 году в пьесе Карела Чапека («Россумские универсальные роботы»), основной сюжет которой заключался в описании восстания искусственно созданных андроидов против человечества (в конце пьесы людской род оказался полностью уничтожен восставшими машинами). Вопрос о возможном выходе технологий из-под контроля и их конфликте с человечеством будоражил умы многих людей на протяжении столетий, что отражалось не только в научно-фантастической литературе. Рассуждения на эту тему неоднократно приводили мыслителей к апокалиптическим прогнозам, к беспокойству о трагическом финале человечества вследствие технологического прогресса.
В книге «Технологии против человека» автор поднимает все выше упомянутые темы уже на новый уровень обсуждения – в контексте современной эпохи, когда многие смелые идеи фантастов прошлого стали повседневной реальностью миллиардов людей (мобильная беспроводная связь, видеоконференции, интернет и т. д.). Отсюда крайне убедительно утверждение Леонгарда, что «наконец мы достигли точки, когда ориентированные на человека политика и стандарты, цифровая этика, социальные контракты и глобальные соглашения о гуманизации этих экспоненциальных технологий будут столь же важны, как и договоры о нераспространении ядерного оружия» (глава 12).
В своей работе автор предупреждает не только о явных опасностях, сопряженных, например, с потенциальной возможностью массированных кибератак на финансовую или энергетическую систему. На мой взгляд, одним из самых важных пунктов в книге Леонгарда является предупреждение о менее заметных и тем самым более опасных проблемах, которые связаны с тем, что «мы скоро можем стать совершенно бесполезными без технологий – медленными, несовершенными, тупыми, убогими, ленивыми и страдающими ожирением» (глава 12). Действительно, история показывает, что с технологическими угрозами человечество, как правило, справлялось и справляется до сих пор. Хорошие примеры тому приводил в своих интервью академик Сергей Петрович Капица[2]. Стоит отметить, что Сергей Петрович и его коллеги (Сергей Павлович Курдюмов, Григорий Геннадьевич Малинецкий и др.) очень многое сделали для создания теории научного прогнозирования поведения сложных социальных систем, в том числе и таких масштабных, как человечество, на основе базовых принципов синергетики – науки о самоорганизации в сложных системах. Подробнее с данной темой можно ознакомиться, прочитав книгу «Синергетика и прогнозы будущего»[3] и последующие работы ее авторов, где с позиций синергетики и нелинейной динамики рассматриваются модели устойчивого развития как отдельных стран, так и человечества в целом. Исходя из этих исследований, можно сделать вывод, что при условии сохранения некоего критического количества людей на планете, владеющих логическим мышлением и достаточным знанием в комбинации с доброй волей, человечество справится с любыми угрозами технологической природы.
Однако если люди потеряют свои «главные человеческие качества, такие как конфиденциальность, тайна, анонимность, эмоции, спонтанность, удивление, интуицию, воображение и духовность» (глава 12) и, таким образом, перестанут быть людьми, то человечество может скоро исчезнуть с лица Земли в первую очередь как социальный феномен, а вскоре и вовсе как биологический вид. В этом-то и кроется основная опасность тех новых технологий, которые приходят практически каждый день в нашу повседневность. За тот комфорт, который они приносят, мы можем заплатить высокую цену. Будет уместно вспомнить сказку Карло Коллоди «Приключения Пиноккио», где описывается Страна развлечений – место, в котором можно «довольствоваться только игрой» и увеселениями. Однако невеселый итог пребывания длительное время в праздности – это превращение в осла. Поэтому сложно не согласиться с Леонгардом в его положении: «Если мы хотим оставаться „естественными людьми“, несмотря на мощные приманки волшебных технологий; если мы хотим сохранить то, что действительно делает нас счастливыми, а не только то, что заставляет нас функционировать, мы должны принять меры, пока еще есть пространство для маневра» (глава 12).
В своей работе автора формулирует ряд основных принципов для «обсуждения наилучших путей продвижения вперед», которые, на его взгляд, помогут вывести человечество на путь устойчивого и гармоничного развития без отказа от благ технологического прогресса.
Во многом идеи, изложенные в данной книге, перекликаются с идеями, обсуждаемыми в рамках глобальной инициативы IEEE Global Initiative по этическим рекомендациям для искусственного интеллекта и автономных систем[4]. Эта инициатива является программой Института электротехники и электроники (IEEE), крупнейшей в мире технической профессиональной организации, насчитывающей более 400 000 членов в более чем 160 странах. Деятельность IEEE посвящена продвижению технологий на благо человечества[5].
В результате напряженной работы международного коллектива из более 100 специалистов разных областей науки появился проект документа под названием «Рекомендации для этически обоснованного проектирования. Концепция взаимодействия людей с искусственными интеллектом и автономными системами с приоритетом человеческих ценностей»[6]. Со стороны Российской Федерации в этом проекте участвовала рабочая группа, координируемая Павлом Михайловичем Готовцевым, заведующим лабораторией в НИЦ «Курчатовский институт»[7]. Программа IEEE по этическим рекомендациям для искусственного интеллекта и автономных систем уже привлекла большое внимание со стороны видных мировых политических и культурных организаций. Создание этого документа служит хорошим примером того, что предлагаемый Леонгардом подход по вынесению социальных и этических проблем, связанных с экспоненциальными технологиями, на общепланетарный уровень обсуждения может действительно привести к положительным сдвигам в обществе. Поэтому я вслед за автором книги призываю читателей вступить в «Команду людей» и «не поддаваться искушению предпочесть технологическое волшебство, т. е. великолепное моделирование реальности, самой реальности».
С глубокой благодарностью Григорию Анатольевичу Кабатянскому за обсуждение предисловия и Ксении Дмитриевне Поляковой за редактирование текста.
Максим Валериевич Федоров, профессор Сколтеха, директор Центра науки, образования и инноваций Сколтеха по научным и вычислительным технологиям для задач с большими массивами данных, директор Образовательной программы Сколтеха по наукам о данных, Сколковский институт науки и технологий (Сколтех)