Произведения искусства создают правила, но правила не создают произведений искусства[1].
Машина была прекрасна. На стержни, приводившиеся во вращение поворотом рукоятки, были насажены целые башни шестерней с цифрами на зубцах. Семнадцатилетняя Ада Байрон завороженно вращала рукоятку машины Чарльза Бэббиджа, наблюдая, как та производит расчеты, вычисляет квадраты и даже квадратные корни чисел. Байрон всегда увлекалась машинами, и этот интерес поощряли ее учителя, которых с удовольствием нанимала для нее мать.
Несколько лет спустя, когда Ада, став к тому времени женой графа Лавлейса, изучала планы аналитической машины Бэббиджа, ей пришло в голову, что это устройство – не просто счетный прибор. Она начала составлять перечень потенциальных возможностей этой машины. «Аналитическая машина не имеет ничего общего с обычными “счетными устройствами”. Она занимает совершенно особое место и наводит на более интересные по своей природе соображения».
Заметки Ады Лавлейс считаются теперь первой попыткой создания программного кода. Эта зачаточная идея, развитая революционными достижениями таких людей, как Алан Тьюринг, Марвин Мински и Дональд Мичи, породила ту революцию искусственного интеллекта (ИИ), которая шагает сейчас по всему миру. Однако Лавлейс считала, что возможности любой машины небезграничны: «Желательно предостеречь против преувеличения возможностей аналитической машины. Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать»[2]. В конечном итоге, считала она, способности машины ограниченны: от нее нельзя получить больше, чем в нее вложено.
Долгие годы эта идея оставалась мантрой информатики. Именно она позволяет нам не бояться, что мы создадим и приведем в действие нечто такое, чем мы не сможем управлять. Некоторые считают, что для создания программы, которая дала бы машине искусственный интеллект, необходимо сначала понять интеллект человеческий.
То, что происходит в наших головах, остается тайной, но в последние годы появилась новая точка зрения на компьютерный код: переход от концепции программирования «нисходящего», идущего от общего к частному, к попыткам идти от частного к общему, по «восходящему» принципу, предполагающему, что компьютер должен сам находить свою дорогу. Оказывается, решения загадки интеллекта не требуется. Можно позволить алгоритмам свободно бродить по цифровому ландшафту и учиться – так же, как учится ребенок. Современные коды, созданные методом машинного обучения, делают совершенно неожиданные вещи – например, они замечают не обнаруженные человеком детали на медицинских изображениях или создают хитроумные инвестиционные стратегии для фондового рынка. Как считают программисты нынешнего поколения, это наконец позволит доказать, что Ада Лавлейс ошибалась: от машины можно получить больше, чем вложено в нее программой.
Тем не менее мы по-прежнему считаем, что одна область человеческой деятельности никогда не станет доступна машинам, – речь идет о творчестве. Мы обладаем необыкновенной способностью воображать, изобретать и создавать произведения искусства, которые возвышают, расширяют и преображают самую сущность человека. Эти произведения порождаются тем, что я называю «человеческим кодом».
Мы считаем, что этот код присущ только человеку, потому что он является отражением самой сути человека. «Реквием» Моцарта позволяет нам задуматься о нашей собственной смертности. Когда мы смотрим постановку «Отелло», это дает нам возможность исследовать свой собственный эмоциональный мир, царство любви и ревности. Нам кажется, что портрет работы Рембрандта показывает гораздо больше, чем просто внешность модели художника. Можно ли представить себе, что машина когда-нибудь сумеет заменить нам Моцарта, Шекспира или Рембрандта или хотя бы состязаться с ними?
С самого начала я должен подчеркнуть, что по большей части ссылаюсь на примеры художественных произведений западной культуры. Именно это изобразительное искусство я знаю, именно на этой музыке я вырос, именно эту литературу я в основном читал и читаю. Было бы интересно узнать, не окажутся ли машины лучше приспособлены для создания произведений искусства в духе других культур, но я подозреваю, что проблемы, о которых тут идет речь, универсальны и не сводятся к межкультурным различиям. Поэтому, хотя я до некоторой степени готов принести извинения за ограниченность своего кругозора, сосредоточенного на западной цивилизации, я полагаю, что все же смогу дать достаточно общую оценку творческих возможностей наших цифровых конкурентов.
Разумеется, творчество человека не сводится лишь к искусству в традиционном смысле этого слова: к творчеству относятся также и молекулярная гастрономия удостоенного мишленовских звезд повара Хестона Блюменталя, и футбольные трюки голландского нападающего Йохана Кройфа, и изогнутые здания Захи Хадид, и знаменитый кубик, изобретенный венгерским инженером Эрнё Рубиком. Даже разработку программного кода для компьютерных игр вроде «Майн-крафт» следует считать частью величайших достижений человеческого творчества.
Несколько менее очевидно то обстоятельство, что творчество играет важную роль и в моем собственном мире – мире математики. Один из факторов, побуждающих меня проводить многие часы за письменным столом, вызывая к жизни уравнения и излагая доказательства, – это привлекательность создания чего-то нового. Моим величайшим творческим достижением, к которому я возвращаюсь снова и снова, была пришедшая мне идея нового симметричного объекта. Никто не знал, что такой объект может существовать. Однако после многих лет упорной работы и одного краткого мига раскаленного добела вдохновения я смог набросать в своем желтом блокноте схему этой невиданной ранее формы. Сама эта волнующая дрожь и есть главный привлекательный момент творчества.
Но что мы на самом деле обозначаем этим изменчивым словом? Те, кто пытается точно определить его значение, обычно отталкиваются от трех основных идей: творчество – это процесс создания чего-то нового, неожиданного и ценного.
Как выясняется, создать нечто новое легко. Я могу заставить свой компьютер обсчитать бесконечное число предположений о новых симметричных объектах. Труднее создать нечто неожиданное и ценное. В случае моего симметричного произведения то, что я создал, вполне обоснованно удивило меня – как и других математиков. Никто не предполагал существования открытой мною странной новой связи между этим симметричным объектом и областью теории чисел, не имевшей отношения к моей работе. Именно тот факт, что мой объект позволил получить новое понимание отрасли математики, полной нерешенных задач, определил его ценность.
Все мы привыкаем использовать одни и те же мысленные схемы. Нам кажется, что мы знаем, как будет развиваться сюжет, а потом нас неожиданно уводит в совершенно другом направлении. Этот элемент неожиданности привлекает наше внимание. Возможно, именно поэтому встреча с творческим произведением, будь оно нашим собственным или чьим-то еще, способна так взволновать нас.
Но что именно придает произведению ценность? Идет ли речь попросту о цене? Необходимо ли признание ценности другими? Я могу считать ценными свое стихотворение или свою картину, но маловероятно, чтобы многие другие люди согласились с моей концепцией их ценности. Необычный роман с множеством неожиданных поворотов сюжета может быть сравнительно малоценным. Но новый и удивительный подход к литературе, архитектуре или музыке, постепенно получающий признание у других и изменяющий наше восприятие вещей, как правило, признается ценным. Именно это Кант называет «образцовой оригинальностью»[3], оригинальным деянием, которое становится источником вдохновения для других. Долго считалось, что эта форма творчества присуща только человеку.
Однако на некотором уровне все эти выражения творческого начала – результат нейронных и химических процессов. Они и образуют человеческий код, который в течение миллионов лет оттачивала в нашем мозгу эволюция. Если начать подробно разбирать творческие произведения рода человеческого, можно постепенно увидеть, что в сердце творческого процесса лежат некие правила. Может ли быть так, что творчество основано на алгоритмах и правилах в большей степени, чем нам хотелось бы думать?
Цель этой книги – довести новые модели искусственного интеллекта до пределов их возможностей, чтобы узнать, смогут ли они когда-нибудь создать нечто сравнимое с чудесами нашего человеческого кода или даже превосходящее их. Способна ли машина заниматься живописью, сочинять музыку, писать романы? Возможно, она не станет соперником Моцарта, Шекспира или Пикассо, но сможет ли ее творчество сравниться с творчеством наших детей, пишущих рассказы или рисующих сценки? Сможет ли машина научиться творчеству, взаимодействуя с произведениями искусства, трогающими нас, и выясняя, что именно отличает их от всего приземленного и невыразительного? Более того, сможет ли она раздвинуть границы наших собственных творческих возможностей, показав нам возможности, которых мы не замечаем?
«Творчество» – слово изворотливое и в разных обстоятельствах означает множество разных вещей. Я в основном буду говорить о проблеме творчества в искусстве, но это вовсе не означает, что это единственный возможный род творчества. Мои дочери занимаются творчеством, когда строят замки из LEGO. Когда мой сын приводит к победе свою футбольную команду, его называют творческим полузащитником. Мы можем творчески решать задачи повседневной жизни или творчески управлять работой организаций. И, как я покажу, математика – область гораздо более творческая, чем думают многие, и творчество в этой сфере имеет много общего с творчеством в искусстве.
Творческие импульсы составляют важную часть того, что отличает человека от других животных, и тем не менее мы часто позволяем им застаиваться внутри нас, становимся, сами того не сознавая, рабами установившегося распорядка жизни, рутины. Для творчества необходим толчок, который увел бы нас в сторону от наезженной колеи, которой мы следуем изо дня в день, все более углубляя ее. И тут нам может помочь машина: возможно, она сможет дать нам такой толчок, предложить нам новые возможности, увести нас от простого ежедневного повторения одного и того же алгоритма. В конечном счете машины могут помочь человеку стать менее похожим на машину.
Вы можете спросить, почему именно математик предлагает вам заняться этим исследованием. Простой ответ на этот вопрос заключается в том, что в сердце искусственного интеллекта, машинного обучения, алгоритмов и кодов лежит математика. Чтобы понять, как и почему работают алгоритмы, управляющие современной жизнью, необходимо понять те математические правила, на которых они основаны. Тот, кто их не понимает, оказывается безвольной игрушкой машин.
Искусственный интеллект потрясает самые основы нашего существования, демонстрируя, сколь многое из того, чем занимаются люди, машины могут делать не хуже, а то и лучше их. Но эта книга посвящена не столько будущему с беспилотными машинами и компьютеризованной медициной, сколько вопросу о том, смогут ли алгоритмы состязаться сколько-нибудь существенным образом с могуществом человеческого кода. Способны ли компьютеры к творчеству? Что нужно для творчества? В какой степени эмоциональная реакция на произведения искусства является результатом реакции мозга на определенные рисунки и структуры? Таковы некоторые из тем, которые мы рассмотрим.
Но речь идет не просто об обсуждении интересного с интеллектуальной точки зрения вопроса. Художественные произведения людей позволяют получить некоторую информацию о сложном и запутанном человеческом коде, который управляет нашим мозгом; как мы увидим, произведения искусства, которые создают компьютеры, также оказываются поразительно полезны в изучении механизмов работы кода компьютерного. Одна из проблем, связанных с кодом, который формируется таким образом – снизу вверх, – состоит в том, что сами программисты часто не понимают, как именно работает этот код. Почему он принимает то или иное решение? Произведения искусства, которые он создает, могут быть мощным инструментом, позволяющим добраться до подсознательных решений такого нового кода. Кроме того, они же могут выявлять присущие процессу создания этого кода ограничения и опасности, которые мы не вполне осознаем.
Кроме того, я хочу заняться этим исследованием и еще по одной, более личной, причине. Я переживаю сейчас глубокий экзистенциальный кризис. Я то и дело задумываюсь о том, смогут ли люди по-прежнему работать математиками в ближайшие десятилетия с учетом бурного развития искусственного интеллекта. В конце концов, математика – это сфера чисел и логики. Разве не к этому лучше всего способны компьютеры?
Отчасти моя защита от компьютеров, стремящихся «проникнуть» на мою кафедру и «занять места за общим столом», опирается на то соображение, что в математике речь идет не только о числах и логике – это в высшей степени творческое занятие, в котором важную роль играют красота и эстетика. В этой книге я хочу показать, что математические достижения, о которых мы докладываем на своих семинарах и пишем в журналах, появляются не просто в результате того, что человек поворачивает некую механическую рукоятку. Хорошему математику важно иметь интуицию и художественное чувство. И уж конечно, эти черты невозможно запрограммировать в машину. Или все же возможно?
Поэтому я как математик внимательно наблюдаю за тем, насколько успешно новые виды искусственного интеллекта внедряются в художественные галереи, концертные залы и издательства всего мира. Великий немецкий математик Карл Вейерштрасс заметил однажды: «…математик, в котором нет ничего от поэта, никогда не будет настоящим математиком»[4]. Как превосходно показывает пример Ады Лавлейс, в математике должна быть не только частица Бэббиджа, но и частица Байрона. Хотя Лавлейс считала, что возможности машин ограниченны, она начинала осознавать, что эти механизмы из зубчатых шестерней могут быть способны и к выражению художественных аспектов мышления:
Этот механизм может действовать не только над числами, но и над другими объектами… Предположим, например, что соотношения между высотами звуков в гармонии и музыкальной композиции поддаются такой обработке; тогда машина сможет сочинять искусно составленные музыкальные произведения любой сложности или длительности[5].
Однако она полагала, что творческое начало будет принадлежать программисту, а не машине. Возможно ли в большей степени переложить эту обязанность на программный код? Программисты нынешнего поколения считают, что это возможно.
На заре развития искусственного интеллекта Алан Тьюринг предложил свой знаменитый тест для измерения разумности компьютера[6]. Я хотел бы предложить новый тест – тест Лавлейс. Чтобы пройти тест Лавлейс, алгоритм должен создать оригинальное произведение искусства, причем этот процесс должен быть повторяемым (то есть не быть результатом случайной аппаратной ошибки), а программист должен быть не способен объяснить, как именно алгоритм пришел к этому результату. Именно такое испытание мы предлагаем машинам – проверку на способность создать нечто новое, неожиданное и ценное. Но для признания наличия у машины подлинно творческих способностей требуется еще одно: произведение машины не должно быть простым выражением творческих способностей автора кода или создателя массива данных. Ада Лавлейс считала эту задачу неразрешимой.