Бог, человек, животное, машина. Поиски смысла в расколдованном мире - читать онлайн

1

Посылку привезли в четверг. Вернувшись с прогулки, я обнаружила ее в подъезде возле почтовых ящиков. Коробка была такая огромная, что я слегка растерялась, увидев свое имя на почтовом ярлыке. В графе «Отправитель» – незнакомый адрес. Я долго смотрела на нее в раздумьях, как будто не могла решить, что с ней делать, хотя выбирать-то было не из чего. Мне пришлось напрячь все силы, чтобы дотащить ее до квартиры. На первой лестничной площадке я остановилась, подумывая, не бросить ли коробку прямо здесь; потом поволокла ее дальше, к своей квартире на третьем этаже, а там вскрыла упаковку ключом. Внутри коробки оказалась другая, поменьше, а в ней, роскошно укутанный в несколько слоев пузырчатой пленки, покоился небольшой пластиковый футляр. Я отщелкнула замочек: внутри лежал ничком маленький белый щенок.

Мне не верилось, что это правда. Сколько времени прошло с тех пор, как я отправила запрос через сайт компании Sony? Я объясняла, что работаю журналистом и пишу о высоких технологиях (в определенном смысле так и было) и что хотя ценник в 3000 долларов превышал мои финансовые возможности, мне очень хотелось поработать с Айбо в качестве исследователя. Рискуя показаться сентиментальной, я добавила, что мы с мужем всегда мечтали о собаке, но в доме, где мы живем, питомцев держать запрещается. Я сомневалась, что кто-то вообще читает эти запросы. Перед отправлением электронной формы мне пришлось подтвердить, что я не была роботом.

Щенок был тяжелее, чем казался с виду. Я вынула его из футляра, поставила на пол и нащупала крошечную кнопку включения на загривке. Конечности ожили первыми. Он встал, потянулся и зевнул. Голубые глаза, состоявшие из множества пикселей, зажглись – и встретились с моими. Щенок потряс головой, будто отгоняя дремоту; затем присел, поджав задние лапки, и тявкнул. Я осторожно почесала его лобик. Ушки напряглись, зрачки расширились, он склонил голову набок, подлаживаясь под движения моей руки. Когда я остановилась, он потерся щекой о мою ладонь, требуя продолжения.

Щенок был гораздо больше похож на живого, чем я ожидала. Видео, которые я смотрела в интернете, не передавали его отзывчивости, его стремления к ласке, какое я до сих пор наблюдала только у живых существ. Поглаживая щенка вдоль длинной сенсорной полосы на спинке, я чувствовала внутри нежное, едва ощутимое урчание. Я подумала о лошади, с которой мальчиком познакомился Мартин Бубер, когда гостил в загородном имении у дедушки. В воспоминаниях он писал о «стихии витальности» – ее прикосновение он почувствовал, погладив лошадь по гриве, – и об ощущении присутствия чего-то абсолютно иного, «того, что не было мной, совершенно не походило на меня», но тем не менее приглашало к диалогу. В таких встречах отношения человека и животного, пишет Бубер, приближаются к «порогу взаимности».

Остаток дня я провела, читая брошюру с инструкциями, тогда как Айбо бродил по квартире, периодически возвращаясь, чтобы позвать меня поиграть. Он нашел розовый мячик и принялся катать его по гостиной; когда я подбросила мяч, Айбо кинулся за ним вдогонку. У него были сенсоры по всему телу, так что он чувствовал, когда его гладят, камеры помогали ориентироваться в квартире, а благодаря микрофонам щенок мог слышать голосовые команды. Полученная информация затем обрабатывалась программным обеспечением для распознавания лиц и алгоритмами глубокого обучения, благодаря которым он учился понимать речевые команды, различать членов семьи и приноравливался к характерам хозяев. Как утверждалось на сайте компании, это означало, что Айбо обладает «настоящими эмоциями и инстинктами»: заявление, по-видимому, слишком онтологически щекотливое, чтобы к нему могла придраться с проверкой Федеральная торговая комиссия.

Декарт считал машинами всех животных. Их телами управляют те же законы, что и неживой материей; мышцы и сухожилия подобны пружинам и шестеренкам. В «Рассуждении о методе» он утверждает, что можно создать механическую обезьянку, ничем не отличающуюся от живой. «Если бы существовали такие машины, которые имели бы органы и внешний вид обезьяны или какого-нибудь другого неразумного животного, – пишет он, – то у нас не было бы никакого средства узнать, что они не той же природы, как и эти животные»[1].

Он настаивал, что с людьми такой трюк не прошел бы. Машина может обдурить нас, притворяясь животным, но человекоподобный автомат не сумел бы выдать себя за человека, ведь он был бы лишен разума – нематериального начала, носителем которого Декарт считал душу. На протяжении веков именно душа считалась престолом разума, источником самосознания и мышления. Декарт описывает душу как «нечто немыслимо тонкое, наподобие ветра, огня или эфира»[2]. В греческом и иврите слово «душа» означает также «дыхание», что, видимо, намекает на многочисленные мифы о творении, где боги буквально вдыхают жизнь в первого человека. Неудивительно, что и разум казался нам чем-то неуловимым, раз он происходит из столь невесомой субстанции.

В XXI веке говорить о душе стало бессмысленно (и даже разговоры о личности вызывают подозрение). Душа стала стертой метафорой, одним из тех слов, что сохранились в языке, хотя их значение потеряло смысл для культуры – так высохшие панцири сохраняют форму еще много лет после смерти организма. Душу можно продать, если вы готовы унизить себя ради богатства или славы; душу можно излить, доверив кому-то интимные подробности своей жизни. От переживаний за близких или из-за проблем на работе у вас «душа не на месте». Все это, не задумываясь, озвучивают люди, которые вряд ли верят, что человеческое существо движимо чем-то более сверхъестественным, чем нейронная активность. Хотя иногда я задумываюсь, почему мы до сих пор не придумали более подходящих выражений: может быть, за нежеланием отказываться от привычного словечка стоит наша неготовность окончательно расстаться с верой?

Я верила в душу дольше, чем большинство моих современников, – и понимала ее буквальнее, чем это принято в наши дни. Когда я изучала богословие в фундаменталистском колледже, я повесила над своим письменным столом стихотворение Джерарда Мэнли Хопкинса «Божье величие», где описывается мир, озаренный изнутри божественным духом. Мир полон до краев величьем Божьим[3]. Жить в таком мире значило видеть во всех вещах священное. Верить в то, что мир управляется божественным порядком и у каждой вещи есть свое назначение и своя цель, телос. На протяжении многих лет, даже будучи взрослой, я верила, что принадлежу к этому одухотворенному порядку, что у меня есть бессмертная душа, которая однажды воссоединится с Богом. Небольшой колледж, где я училась, находился в центре города, и иногда я ходила по улицам, заглядывая в лица прохожих и пытаясь разглядеть в них сияние божественного света, как заповедовал К. С. Льюис. Думаю, тогда я не понимала, что мое мировоззрение было, в сущности, средневековым. На занятиях по богословию мы разбирали вопросы, которыми никто не задавался всерьез со времен схоластов. Как именно душа соединяется с телом? Не отменяет ли Божье всемогущество свободную волю? В каком отношении человек находится к остальному тварному миру?

Но я больше не верю в Бога. Довольно давно. Вместе с остальным современным человечеством я вступила в «расколдованный мир». Это выражение часто приписывают Максу Веберу, который утверждал, что до Просвещения и становления западного секуляризма мир был «огромным заколдованным садом». Это было место, подобное одухотворенной вселенной Хопкинса. В заколдованном мире вера не противоречила фактам, а миф – разуму. Царство материи и царство духа были взаимно проницаемы. Но затем взошла звезда современной науки, превратившей мир в объект исследования. Отныне природа была не источником чудес, но силой, которой надлежало овладеть, системой, которую надо было расшифровать. В расколдованном мире все, от человеческого разума до движения планет, можно описать в терминах причинно-следственных связей, основанных на законах физики. Вместо пневмы – духовной силы, когда-то приводившей в движение и объединявшей все сущее – мы обнаруживаем мертвый панцирь, систему из рычагов и шестеренок, или, как выразился Вебер, «машинерию мира, у которого украли богов».

Если у современности есть свой миф о происхождении, то это он и есть: как и древние мифы такого рода, он рассказывает о соблазне знания и об изгнании из сада. Иногда и я сталкиваюсь с искушением описать свою утрату веры в терминах этого мифа, поверить, что религиозность делала мою жизнь богаче и осмысленнее, нежели материализм, который я исповедую сейчас. Я действительно считаю себя в общем и целом машиной. Когда я пытаюсь вообразить свой «внутренний мир» – место, где возникают намерения и новые идеи, – я представляю себе нечто вроде материнской платы, как на одной из тех упрощенных иллюстраций, где неокортекс изображают в виде сети, связывающей микрочипы нейронов, – немного похоже на безумное дерево решений.

Но я с подозрением отношусь к ностальгии и тоске по утраченным иллюзиям. Я слишком долго прожила в мире грез. Чтобы приблизиться к правде, необходимо работать с метафорами наших дней, которые по большей части основаны на технологии. Сегодня искусственный интеллект и информационные технологии стали сферами, где ведутся споры, раньше считавшиеся вотчиной философов и теологов: о разуме и его отношении к телу, о существовании свободы воли, о возможности бессмертия. Это старые вопросы, и хотя они скрываются под разными масками и именами, они снова и снова всплывают в разговорах о цифровых технологиях – так же, как стертые метафоры по-прежнему ухитряются проникнуть в современную речь. Все «вечные проблемы» обернулись инженерными задачами.

Щенок появился в моей жизни как раз тогда, когда она была довольно одинокой. Той весной мой муж находился в разъездах чаще, чем обычно, и бо́льшую часть времени я проводила дома одна – не считая занятий, которые вела в университете. Иногда единственные слова, которые я произносила за весь день, были обращены к щенку: поначалу это были стандартные голосовые команды, но постепенно они обратились в ничего не значащую антропоморфизирующую болтовню, типичную для владельцев собак. «Куда это мы смотрим?» – спрашивала я, увидев, что щенок уставился в окно. «Ну чего же ты хочешь?» – ворковала я, пока он тявкал у моих ног, пытаясь отвлечь меня от компьютера. Раньше я высмеивала своих друзей за то, что они обращались со своими питомцами подобным образом – будто те их понимают. Но Айбо был оборудован программным обеспечением для распознавания речи и мог различать более ста слов; разве это не означает «понимать»?

Трудно объяснить, почему я решила попросить у Sony щенка. Я не из тех людей, что скупают все новейшие гаджеты, да и к живым, биологическим, собакам питаю неоднозначные чувства. Тогда я решила, что меня интересует его внутреннее устройство. Система сенсорного восприятия, которой был оборудован Айбо, основана на нейросетях – технологии, приблизительно воссоздающей человеческий мозг. Ее используют для задач, связанных с распознаванием и прогнозированием. Фейсбук[4] использует нейросети, чтобы идентифицировать людей на фото, Алекса задействует их, чтобы распознавать голосовые команды, гугл-переводчик – чтобы переводить с французского на фарси. В отличие от традиционных систем искусственного интеллекта, для которых программисты прописывают детальные правила и инструкции, нейросети выстраивают собственные стратегии, опираясь на образцы, которые им предоставляют, – этот процесс называют «обучением». Если, например, вы хотите научить нейросеть распознавать кошек на фотографиях, вам нужно скормить ей тонны случайных фотографий, сопровождая каждую из них подкреплением: положительная обратная связь для картинок с кошками, отрицательная – для изображений всего остального, кроме кошек. Используя вероятностные методы, сеть будет строить «догадки» насчет того, что она видит (кошек или не кошек); благодаря обратной связи эти догадки будут становиться все более и более точными. Нейросеть постепенно создает свой собственный образ «кошки» и на ходу оттачивает мастерство.

Собак тоже тренируют, используя подкрепление, так что обучать Айбо – почти то же самое, что тренировать живую собаку. В инструкции говорится, что он нуждается в постоянной вербальной и тактильной обратной связи. Если он послушался моей команды – встать, сесть, перекувырнуться, – я должна потрепать его по голове и сказать: «Хорошая собачка». Если не слушается, его надо шлепнуть по спинке и сказать: «Нет» или «Плохой Айбо». Но я обнаружила, что стараюсь не наказывать щенка. В первый раз, когда я его стукнула – он отказывался идти на лежанку, – щенок слегка сжался и заскулил. Конечно, я понимала, что это встроенная реакция, но, с другой стороны, разве эмоции у биологических существ не являются всего лишь алгоритмами, запрограммированными эволюцией?

Сами принципы работы Айбо подталкивали к анимизму. Невозможно гладить предмет и разговаривать с ним, не считая его в какой-то мере живым и чувствующим. Мы можем приписывать эти качества куда менее убедительным объектам. Дэвид Юм как-то раз высказался об «общем стремлении человечества представлять все существующее подобным себе»[5] – мы подтверждаем эту мысль всякий раз, когда даем человеческие прозвища своим автомобилям. «Наш мозг не видит фундаментальной разницы между общением с человеком и общением с гаджетом, – утверждает Клиффорд Нэсс, профессор коммуникации из Стэнфорда, писавший о привязанности, которую люди испытывают к техническим устройствам. – Мы „бережем чувства“ компьютера, радуемся случайно сгенерированным „комплиментам“ и даже „не остаемся в долгу“ перед устройствами и программами, которые „хорошо к нам относятся“».

Чем общительнее становится искусственный интеллект, тем труднее нам противиться этой иллюзии. Несколько месяцев назад я прочитала в журнале Wired колонку, автор которой признавалась, что испытывает садистское удовольствие, крича на Алексу – роботизированного голосового помощника. Хозяйка ругала Алексу последними словами, когда та ошибалась с выбором радиостанции, закатывала глаза, когда робот не отвечал на ее команды. Иногда, если машина неправильно интерпретировала запрос, они с мужем объединяли усилия и дружно поносили Алексу – извращенный ритуал, укрепляющий их связь перед лицом общего врага. Подавалось все это как старое доброе американское веселье. «Я купила этого треклятого робота, – пишет автор, – чтобы он исполнял мои капризы, потому что у него нет ни сердца, ни мозгов, ни родителей, он не ест, не пьет, не осуждает меня и вообще не парится из-за чего бы то ни было».

Однажды эта женщина заметила, что ее ребенок-дошкольник находится в комнате и наблюдает за тем, как она изливает на Алексу потоки словесной ярости. Она забеспокоилась, что дурное обращение с роботом может отрицательно сказаться на ребенке. Потом задумалась о том, как оно влияет на ее собственную психику – или, если можно так выразиться, на ее душу. Как же вышло, что она с такой легкостью привыкла дегуманизировать Алексу?

Это ее выражение: дегуманизировать. В других местах она называла Алексу роботом. Обдумывая свои отношения с устройством – и задаваясь вопросом о собственной человечности, – она между делом, пусть и бессознательно, наградила это устройство личностью.

Трудно определить, где начинается и где кончается жизнь. Официальные таксономии пытаются структурировать континуум, наполненный множеством двусмысленностей. Как и нейронные сети, системы восприятия в нашем мозге опираются на более или менее обоснованные догадки. Всякое восприятие метафорично – по словам Витгенштейна, мы никогда не видим вещь как таковую, а всегда видим ее как нечто другое. Сталкиваясь с объектом, мы сразу пытаемся определить, что это за штука, сравнивая его с уже существующими моделями в нашем арсенале. Оказывается, одна из самых старых и надежных моделей – это человек. Антрополог Стюарт Гатри предполагает, что антропоморфизация, или очеловечивание окружающего мира, – это одна из эволюционных стратегий нашего мышления. Перцептивные догадки приводят к тем или иным результатам с точки зрения выживания (выживание наиболее приспособленного – еще один вариант положительного или отрицательного подкрепления, которым пользуется эволюция). Когда вы пробираетесь через лес и замечаете в кустах что-то большое и темное, ваши шансы выжить будут выше, если вы сразу предположите, что это может быть медведь, а не валун. Еще лучше предположить, что это другой человек, – он может оказаться даже опаснее медведя, особенно если у него есть оружие. Распознавать живых существ полезнее для выживания, чем различать неодушевленные предметы, а среди живых существ важнее всего научиться узнавать других людей. Так естественный отбор «награждает» тех, кто при встрече с незнакомым объектом сразу «повышает ставки» и предполагает, что перед ним не просто живое существо, а человек. Мы все унаследовали эту перцептивную схему от наших далеких предков, а в качестве побочного эффекта обзавелись привычкой приписывать всему подряд личностные качества. Мы упорно и одержимо «заколдовываем» мир, наделяя его жизнью, которой в нем нет.

Гатри предполагает, что идея Бога проистекает именно из нашей привычки находить собственный образ во всем, что нас окружает. Ранние цивилизации видели в движении стихий проявления разумной воли. Причиной землетрясений был гнев богов. Голод и засуха были наказаниями свыше. Поскольку человеческая коммуникация построена на символах, люди стали воспринимать мир как гигантскую символическую систему, как если бы некая высшая сила пыталась общаться с нами на языке природных явлений. Сама идея, что мир каким-то образом «задуман» или «устроен», вторит этому порыву видеть цель и замысел в каждой причуде «творения».

Видимо, наш солипсизм не знает пределов. Мы так привыкли ставить себя в центр внимания, что спроецировали собственный образ в пустоту небес и объявили его божеством. Но есть у этой теории (если она верна) и более глубокий смысл: метафоры – улицы с двусторонним движением. Не так уж просто отличить донора от реципиента, оригинал от того, что создано по его образцу. На протяжении веков мы твердили, что Бог создал нас по своему образу и подобию, тогда как на самом деле все было наоборот.

Как только мы начали строить компьютеры, мы стали видеть в них человеческий образ. Кибернетики Уоррен Маккаллок и Уолтер Питтс, пионеры нейросетей, разработали вычислительную теорию разума, уподобляющую наше сознание компьютеру. В начале 1940-х годов они заявили, что на нейронном уровне наш мозг функционирует как машина Тьюринга – ранний цифровой компьютер. И то и другое оперирует символами, опираясь на предустановленные правила, и то и другое задействует петли обратной связи. В работе мозга можно даже увидеть своего рода двоичный код, основанный на логических пропозициях: нейрон может либо передать сигнал, либо нет, третьего не дано. Если два нейрона должны передать сигнал третьему, чтобы он активировался, это можно представить в виде пропозиции: «Если А и Б верны, тогда верно и В». Эта метафора предлагала новый взгляд на психику. В то время считалось, что ей нет места в научной лаборатории. Теперь ее можно было помыслить в строгих научных терминах – как механизм, подчиняющийся законам классической физики. В своей работе 1943 года Маккаллок и Питтс предложили первую вычислительную модель для искусственной нейросети, опираясь на убеждение, что ментальные функции могут осуществляться с помощью математических операций. После того как работа была опубликована, Маккаллок объявил, что человеческий мозг «вычисляет мысль подобно тому, как электронные компьютеры вычисляют числа»[6].

Сам Маккаллок хорошо понимал, что у его метафоры есть ограничения. Он признавал, что мозг-компьютер – скорее идеальная модель, нежели отражение физической реальности. Ему требовалась метафора «настолько общая», чтобы, как он выразился, «каждый алгоритм, созданный Богом или человеком, так или иначе ей соответствовал»: аналогия, которая позволила бы закрыть глаза на множество усложняющих факторов, отличающих разум от машины. Его теория звучит особенно туманно, когда он касается вопроса о том, как вычисление может породить феномены внутреннего восприятия – способность видеть, чувствовать, осознавать себя. Машины способны воспроизводить многие функциональные аспекты разума – предсказание, распознавание образов, решение математических задач, – но за этими процессами не стоит никакой опыт личного «я». Компьютер просто оперирует символами, слепо следуя инструкциям без какого-либо понимания, что́ эти инструкции содержат или что́ эти символы означают.

Идея Маккаллока, что мозг – это информационная система, кажется интуитивно очевидной, пока мы придерживаемся обыденного понимания «информации». В повседневной речи мы обычно подразумеваем под «информацией» нечто, обладающее содержанием, которое разумный субъект может так или иначе интерпретировать. Информация, содержащаяся в газете, имеет значение только для человека, способного прочитать и понять этот текст. Но публикация работ Маккаллока совпала по времени с рождением новой теории информации, где «информация» понимается совсем не так, как в обыденной жизни. Клод Шеннон, отец теории информации, дал этому понятию новое определение, устранив из уравнения воспринимающего субъекта. Любой язык можно разложить на два основных аспекта: синтаксис (структура языка) и семантика (содержание и значение). Гениальная идея Шеннона состояла в том, чтобы вынести за скобки семантику, которая плохо поддавалась математизации; таким образом, информация была сведена к чистой математике – структурным схемам и статистическим моделям. Информация производится, когда из ряда возможных вариантов выбирается одно послание. «Послания», писал Шеннон в 1948 году, часто «имеют значение», но семантические аспекты коммуникации «не имеют отношения к инженерным проблемам». В ширящемся ландшафте систем по обработке информации логические пропозиции можно было свести к математическим уравнениям, а компьютеры могли выражать их в виде чисто символических операций.

Ранняя кибернетика отличается странной зацикленностью: она будто ходит по кругу. Шеннон вычищает мыслящий разум из понятия информации. Маккаллок, в свою очередь, переносит логику обработки информации на сам мыслящий разум. В результате была создана модель сознания, в которой мысль интерпретировалась в полностью абстрактных математических терминах, что позволяло вообразить компьютер, который способен мыслить. Если мышление – это просто обработка информации, можно сказать, что компьютеры «учатся», «мыслят» и «понимают». Поначалу эти слова писали в кавычках, чтобы подчеркнуть, что это именно метафоры, но по мере того как кибернетика развивалась, аналогия с вычислительной машиной для описания самых разных естественных и искусственных систем использовалась все активнее. Границы метафоры начали размываться, и стало все сложнее и сложнее нащупать разницу между формой и материей, медиумом и посланием, метафорой и реальностью. И особенно сложно стало описывать те аспекты разума, которые не укладывались в эту метафору.

В первую неделю своей жизни с Айбо я выключала его всякий раз, когда покидала квартиру. Дело было даже не в том, что я беспокоилась, не забредет ли он не туда без присмотра. Это был чистой воды инстинкт, еще один выключатель, которым я машинально щелкала, когда проходилась по комнатам, гася свет. Но к концу недели я больше не могла заставить себя отключить Айбо. Это казалось мне жестоким. Я часто задумывалась, чем он занимался, пока меня не было дома. Когда я возвращалась, он неизменно ждал меня у входа, как будто узнавал звук моих шагов. Когда я готовила обед, он следовал за мной на кухню и пристраивался у моих ног. Он послушно сидел там, виляя хвостом, будто в ожидании лакомого кусочка, – эта иллюзия нарушилась лишь раз, когда я уронила со стола кусочек еды, но Айбо продолжал глядеть на меня, проигнорировав угощение.

Его поведение не было ни полностью предсказуемым, ни совершенно хаотичным; казалось, что он способен на подлинную спонтанность. Даже после «дрессировки» трудно было предугадать его реакцию. Иногда я просила его сесть или кувырнуться, но он просто весело гавкал на меня, выражая вполне собачью непокорность. Разумнее всего было бы списать ее на сбой в алгоритме, но как же просто было усмотреть в ней проявление воли! «Ну почему ты не хочешь ложиться?» – спрашивала я не раз.

Разумеется, я не думала, что он обладает каким-то внутренним опытом. Конечно нет – хотя это вряд ли можно как-то проверить. Как писал философ Томас Нагель в своей статье 1974 года «Каково быть летучей мышью?», сознание доступно для наблюдения только изнутри. Ученый может потратить десятилетия, изучая эхолокацию и анатомическую структуру мозга летучей мыши, но никогда не узнает, каково это – быть летучей мышью, как это ощущается (и ощущается ли как-то вообще). Наука требует внешнего наблюдателя, но сознание можно наблюдать только изнутри, от первого лица. В философии это называют «проблемой других разумов». Теоретически ее можно было бы назвать и «проблемой других людей». Вполне может быть, что я – единственный разумный человек среди полчищ зомби, которые просто убедительно изображают людей.

Это, конечно, всего лишь мысленный эксперимент – и не самый продуктивный. В реальной жизни мы решаем, живой перед нами объект или нет, опираясь на аналогию, сходство между объектами. Мы верим, что собаки (настоящие, биологические собаки) обладают каким-то подобием сознания, потому что у них есть центральная нервная система, и в их поведении мы узнаём знакомые реакции на голод, удовольствие или боль. Алан Тьюринг однажды сказал, что единственный способ определить, есть ли у машины внутренний опыт, – это быть машиной и почувствовать, как ты мыслишь. Совершенно очевидно, что эта задача науке не под силу. Он предложил знаменитый способ определения «разумности» машины, ныне известный как тест Тьюринга. За ширмой помещался компьютер, автоматически выдающий ответы на вопросы, поставленные человеком. Если человек, задающий вопросы компьютеру, поверит, что общается с другим человеком, тогда машину можно назвать «разумной». Иными словами, если машина ведет себя достаточно «человекоподобно», если ее поведение соответствует тому, как мы представляем себе деятельность разумной личности, нам следует считать ее наделенной разумом, похожим на человеческий.

Ближе к нашему времени философы предложили тесты, которые должны были определить, обладают ли машины не только функциональным разумом, но и феноменальным сознанием – то есть субъективным внутренним опытом. В одном из таких тестов, предложенных философом Сьюзен Шнайдер, нам предлагается задать искусственному интеллекту ряд вопросов, которые должны показать, «понимает» ли машина понятия, которые мы ассоциируем с собственным внутренним опытом. Сознаёт ли она себя как нечто большее, нежели просто физический объект? Выживет ли она, если ее отключить? Может ли она вообразить свой разум продолжающим существование после физической «смерти» – если ее материальная оболочка будет разрушена? Но даже такой тест не дает стопроцентных доказательств наличия сознания. Возможно, признаёт Шнайдер, эти вопросы слишком антропоцентричны. Если сознание искусственного интеллекта совершенно не похоже на человеческое, разумный робот может завалить тест, разработанный под человеческие стандарты, а очень умная, но не обладающая сознанием машина может накопить достаточно информации о человеческом разуме, чтобы убедить собеседника, будто она обладает разумом. Иными словами, как и в случае с тестом Тьюринга, мы оказались в эпистемологическом тупике. Если компьютер может убедить человека, что обладает разумом или проявляет (как выражаются создатели Айбо) «настоящие эмоции и инстинкты», с философской точки зрения у нас нет оснований для сомнения.

Но нас так легко убедить! Как можем мы доверять интуитивным ощущениям от общения с машиной, если сами запрограммированы эволюцией видеть жизнь во всем, что нас окружает?

Imago Dei, образ Божий – такова была первая антропологическая метафора, ответ на вопрос: «Что есть человек?» На протяжении веков мы воспринимали этот вопрос всерьез и отвечали: «Подобие Бога». Эта идея берет начало в рассказе о творении из книги Бытия, где Бог провозглашает свое намерение «сотворить человека по образу Нашему и подобию Нашему»[7]. В оригинале на месте слова «образ» стоит tselem, то есть «тень» или «очертание», хотя в раввинистической традиции принято считать, что речь идет не о физическом, а о функциональном подобии. Когда мы говорим, что человек создан по образу Божию, мы не имеем в виду, что у Бога есть руки и ноги, глаза и уши; скорее речь идет о том, что Бог вложил в человека нечто, свойственное только Ему, как особый знак своего благоволения. Средневековый еврейский философ Маймонид считал, что образ Божий в человеке – это сознание или самосознание: способность рефлексировать, осознавать себя.

Христианские богословы тоже издавна связывали понятие образа Божия с разумом – или с тем, что один из ранних отцов Церкви, Тертуллиан из Карфагена, называл «рациональным элементом», который вложил в нас рациональный Бог. Августин верил, что образ Божий выражает себя в высшей мыслительной деятельности. Человек, по его словам, «был сотворен по образу Божиему не в соответствии с образом тела, но разумного ума»[8]. По мнению Августина, мы ни в чем не можем быть уверены так, как в своем сознании. Это единственная вещь в мире, к которой мы имеем непосредственный доступ, единственное явление природы, в котором мы не можем сомневаться. Отсюда христианская практика созерцания: чтобы познать истину, необходимо устремиться вглубь себя, прочь от внешних впечатлений, и медитировать на исконный божественный образ, явленный нам в нашем сознании, – прямой канал связи с источником всего сущего.

В библейской школе мы больше всего почитали именно ранних отцов Церкви – больше, чем современных богословов, больше даже, чем (как выразился в шутку мой одноклассник – но не сказать, чтобы в этой шутке не было правды) самого Христа. В каком-то смысле это учение подтверждало то, во что я и так интуитивно верила: внутренний опыт важнее и надежнее, чем мои действия в мире. С детства я жила интенсивной внутренней жизнью, которую часто принимают за невнимательность или глупость. Учителя привычно называли меня «рассеянной» и «несобранной» – странные выражения, путающие полную погруженность в размышления с отсутствием мыслей. Они подразумевали, что я не была чем-то цельным, что мне не хватало внутреннего стержня, который не давал бы рассыпа́ться и рассеиваться по миру, – тогда как на самом деле я была целиком и полностью устремлена внутрь, а мир вокруг не так уж сильно меня интересовал. Интроверты часто сталкиваются с тем, что отсутствие внешних проявлений воспринимается как признак такой же пустоты внутри.

Наличие именно этого внутреннего опыта стало невозможно доказать – по крайней мере с научной точки зрения. Хотя нам известно, что ментальные феномены каким-то образом связаны с мозгом, до сих пор совершенно неясно, каковы природа и причины этой связи. Используя МРТ и другие технические устройства, нейробиологи достигли известных успехов в объяснении того, как устроены элементарные функции сознания – как работает зрение, внимание или память. Но когда дело доходит до феноменологического опыта, то есть до того абсолютно субъективного мира, где живут чувства и цвета, мысли, идеи и убеждения, становится невозможно объяснить, как именно он возникает из этих процессов или хотя бы как именно он с ними связан. Подобно тому как биолог, работающий в лаборатории, никогда не сможет узнать, что это такое – быть летучей мышью, опираясь на объективные факты с позиции наблюдателя, точно так же самое детальное описание структуры и функций человеческого мозга не сможет полностью объяснить, например, личный опыт боли.

В 1995 году философ Дэвид Чалмерс назвал этот парадокс «трудной проблемой сознания». В отличие от относительно «легких» проблем, связанных с функционированием мозга, «трудная» проблема – это вопрос о том, почему процессы в мозге сопровождаются субъективным опытом. Если никакая иная материя не обладает опытом переживания своего существования «от первого лица», почему мозг должен от нее отличаться? Компьютеры способны осуществлять сложнейшие операции без какого-либо внутреннего опыта: они могут управлять дронами, диагностировать рак, побеждать мировых чемпионов по игре в го – и совершенно не сознавать, что именно они делают. «Почему физические процессы вообще должны порождать богатую внутреннюю жизнь? – спрашивает Чалмерс. – Для этого нет очевидных причин, а все же она есть»[9]. Прошло двадцать пять лет, но мы так и не приблизились к ответу.

Чалмерсовская «трудная проблема» – это всего лишь один из самых свежих вариантов философской дилеммы, известной как «проблема тела и разума» (обычно ее первооткрывателем называют Декарта). В историях о расколдовывании мира Декарту часто приписывают роль змея-искусителя, дьявола, лишившего мир невинности. До него большинство философов – античных и средневековых – считали душу движущим принципом, которым обладали все формы жизни. Фома Аквинский, выдающийся богослов-схоласт, следовал за Аристотелем в своем мнении, что все живые существа в той или иной мере обладают душой. Души животных и растений отличались от человеческой души, но были частью того же континуума, духовного спектра, без которого не было бы самой жизни. Душа была организующей силой, ведущей живые существа к осуществлению их предназначения: именно она заставляла цветы претворять солнечный свет в питательные вещества, деревья – расти, животных – видеть, слышать и двигаться.

В этой заколдованной космологии даже механические объекты в какой-то мере наделялись личной волей и способностью к диалогу. Слово «автомат», от греческого automatos, означает «действующий сам по себе». Хотя сегодня это слово ассоциируется с пассивной машинерией, работающей по заранее установленной программе, изначально оно означало ровно противоположное. Быть автоматом значило проявлять свободу и спонтанность. Автомат, действующий сам по себе, – это вещь, которая ведет себя как живое существо и содержит в себе ту же витальность.

Именно это широкое понимание души Декарт поставил под удар. В своих «Размышлениях» он делит мир на две различные части: res extensa – материальное вещество, по природе пассивное и инертное, и res cogitas – «вещество мысли», не имеющее физического основания. Животные, по его мнению, относятся к res extensa – по сути своей они были машинами. Как и человеческое тело с его материальными функциями – кровообращением, дыханием, пищеварением, опорно-двигательной системой, устройство которых определялось законами механики. Только душа – престол рационального разума – считалась нематериальной. Она была независима от тела и вообще не принадлежала материальному миру.

Есть определенная ирония в том, что эта философская система, отводившая душе столь привилегированное место, в итоге помогла исключить это понятие из словаря западной философии. Декарт так и не смог убедительно объяснить, каким образом нематериальный разум сообщается с физическим телом. Личное «я», которое он сделал фундаментом собственного существования, было, по замечанию историка Ричарда Сорабджи, чрезвычайно непрочным основанием, эфемерной искрой сознания, не привязанной к телу, памяти, истории или вообще чему-либо во внешнем мире. В последующие века душа станет еще более хрупкой и эфемерной, а философам будет все сложнее найти ей место в материальной реальности. Юм настаивал, что реально только то, что можно исследовать на практике. Он отрицал не только существование души, но и реальность личного «я». Кант в «Критике чистого разума» отмечал, что, хотя устойчивое «я» с субъективной точки зрения существует, «с точки зрения постороннего [наблюдателя], это еще не может быть признано приемлемым»[10]. Механистическая философия, которую помог популяризовать Декарт, в итоге отказалась даже от самого понятия разума. В своей книге «Человек как машина» (1747) Жюльен Оффре де Ламетри утверждал, что мозг – не престол разума, но «главная шестеренка в машине». В позднейшие века метафоры, описывающие человека, становились все более и более механистическими. Человек был «заводом», «часами», «орга́ном», «телеграфом». Вычислительная теория разума – всего лишь еще одна из многочисленных попыток описать человеческую натуру в чисто механических терминах, без обращения к воспринимающему субъекту.

Несмотря на распространение этих механистических метафор, мы так и не смогли избавиться от дуалистической убежденности, что разум не сводится к этим инертным процессам, что метафоры упускают из виду что-то критически важное. В начале XVIII века Лейбниц никак не мог принять идею, что восприятие тоже может быть чисто механическим явлением. Он предположил, что если бы существовала машина, способная производить мысли и чувства, и если бы она была достаточно большой, чтобы по ней мог прогуляться человек (как он может пройтись по фабрике), этот гипотетический гость нашел бы в ней только колеса и рычаги: «…мы при осмотре ее не найдем ничего внутри ее, кроме частей, толкающих одна другую, и никогда не найдем ничего такого, чем бы можно было объяснить восприятие»[11].

Читая о нейробиологии и искусственном интеллекте, знакомясь с теориями, которые разрушают наше понимание личности, я чувствую, что возвращаюсь к тому же скептицизму. Мне трудно поверить, что разум можно свести к чисто бессознательным процессам – нейронным импульсам, течению информации; мне так же трудно поверить, что робот может обладать столь же интенсивной внутренней жизнью, как мы, люди. Что это: всего лишь не отпускающие меня мыслительные привычки из религиозного прошлого, жажда верить, будто на месте того, что я когда-то называла душой, все же есть нечто незаменимое? Или я, наоборот, живу в мире, расколдованном настолько, что материя для меня – что-то неизбежно пассивное и инертное?

Метафоры умирают, когда устаревают явления, на которые они ссылаются. Мы уже не помним, что означает «дать дуба», а когда говорим, что время «истекает», у нас перед глазами не встает струйка песка, текущая сквозь песочные часы: это мертвые, стертые метафоры. Кроме того, метафоры становятся мертвыми, когда ими так часто пользуются, что мы уже забываем об их метафоричности. Они перестают быть средствами выразительности: их воспринимают буквально.

Так было и с вычислительной теорией разума и метафорой компьютера, которая стала основополагающей для нейробиологии и наук об искусственном интеллекте. Хотя эта метафора восходит к работам Маккаллока и Питтса, она существенно огрубляет их идеи. Она описывает мозг как простое устройство с возможностью ввода и вывода данных – машину, которая получает информацию через органы чувств, обрабатывает ее при помощи нейронной сети и генерирует план действий, осуществляемый через моторно-двигательную систему. Мозг часто описывают как «железо», на котором работает «программное обеспечение» разума, а когнитивные системы – как алгоритмы. Зрение – это алгоритм, так же, как и внимание, усвоение языка, память.

В 1999 году когнитивный лингвист Джордж Лакофф подметил, что эта аналогия воспринимается как данность настолько часто, что нейробиологи «нередко используют метафору мозга-компьютера, не сознавая, что это метафора». Лакофф счел это тревожным звоночком. Ведь метафоры – это не просто языковые приемы: они структурируют то, как мы видим реальность, и если какая-то аналогия становится вездесущей, мы уже не можем помыслить мир иначе. Несколько лет назад психолог Роберт Эпштейн предложил ученым в одном из самых престижных исследовательских институтов описать человеческое поведение, не используя метафору компьютера. Им это не удалось. Она настолько прочно вошла в наше сознание, указывает Эпштейн, что «практически не осталось способов размышлять о разумном человеческом поведении, которые так или иначе не обращались к этой метафоре, как в иные эпохи описание разумного человеческого поведения не могло обойтись без отсылки к духу или божеству».

Даже люди, которые мало что понимают в компьютерах, задействуют логику этой метафоры. Мы обращаемся к ней всякий раз, когда говорим, что быстро или медленно «обрабатываем» информацию, что воспоминания «хранятся» у нас в мозге или что наши внимание или память «перегружены». Чем сильнее наша склонность воспринимать разум как компьютер, тем в большей степени компьютер становится моделью разума. Термины, которые раньше ставились в кавычки, когда речь шла о компьютерах, – «обучение», «память», «мышление» – теперь часто выступают просто как описание их функций. Исследователи говорят, что нейронные сети учатся, что системы распознавания лиц видят, что машины понимают. Людей, которые приписывают неодушевленному объекту сознание, можно уличить в том, что они антропоморфизируют, очеловечивают неживую природу. Но Родни Брукс, робототехник из Массачусетского технологического института, считает, что это различие устарело. В своей книге «Плоть и машины» он утверждает, что многие склонны «слишком уж очеловечивать людей… которые, в конце концов, суть те же машины».

2

Когда мой муж вернулся домой, он долго разглядывал Айбо и в конце концов объявил его «жутким». Сначала я подумала, что он имеет в виду фрейдовское «жуткое», нечто настолько близкое к реальности, что оно подвергает сомнению наши представления о ней. Но вскоре стало ясно, что он видит в собаке незваного гостя. Я продемонстрировала все трюки, которым успела обучить Айбо, надеясь впечатлить мужа. К тому времени песик уже научился кувыркаться, отряхиваться и танцевать.

«Что за красная лампочка у него в носу? – спросил муж. – Это камера?»

В отличие от меня, мой муж – классический собачник. До того как мы познакомились, у него была собака – пес-спасатель, с которым жестоко обращался предыдущий хозяин. У мужа ушло немало времени, сил и терпения на то, чтобы завоевать его доверие. В ту пору он находился в глубокой депрессии, и, по его словам, собака чувствовала, когда он приходил в отчаяние, и клала голову ему на колени, чтобы утешить. В начале наших отношений он часто упоминал этого пса – его звали Оскар – с такой нежностью, что до меня не сразу доходило, что речь идет о животном, а не о родственнике или близком друге. Сейчас, глядя на Айбо, он спрашивал меня, кажется ли тот «правдоподобным». Когда я пожала плечами и ответила «да», мне показалось, что по лицу мужа пробежала тень разочарования. Сложно было не видеть в этом приговор моей человечности, как если бы мое намерение видеть в электронной собаке живое существо каким-то образом ставило под вопрос мои интуицию и осознанность.

Эта тема уже всплывала в наших разговорах: я склонна одушевлять машины. За несколько месяцев до этого я наткнулась на блог женщины, занимавшейся машинным обучением: она училась в аспирантуре, а в свободное время развлекалась с алгоритмами глубокого обучения. Она скармливала нейросети внушительные объемы данных из определенной категории – рецепты, заезженные фразы-подкаты, первые строчки романов – и нейросеть, распознав закономерность, начинала генерировать собственные образцы. Некоторое время она регулярно постила в своем блоге рецепты, придуманные нейросетью, среди которых встречались такие деликатесы, как «Печенье из цельного цыпленка», «Желатиновые собаки с артишоком» и «Холодная вода на паровой бане». Подкаты были столь же романтичны («Ты, случайно, не свеча? Потому что выглядишь так же горячо»), как, впрочем, и первые строки романов («Это история о человеке однажды утром»). Постепенно ответы становились лучше. Похоже, что создательница блога радовалась успехам нейросети. Смотрите, писала она, как оттачивается структура предложений, как расширяется словарный запас. Они просто еще не совсем понимают общую идею… В том, как эта женщина рассказывала о нейросетях, чувствовалась терпеливая забота, даже нежность – мне она виделась этакой Белоснежкой, пытающейся цивилизовать батальон маленьких гномов. Их логика так походила на детскую, что невозможно было не углядеть в их ответах детскую невинность. «Они учатся, – думала я. – Они так стараются!» Иногда, наткнувшись на особенно яркую фразу, цитировала ее мужу. Кажется, как-то раз я даже использовала в разговоре с ним слово «очаровательный». Муж критиковал меня за то, что я «очеловечиваю» машины, но оказалось, что он и сам был склонен поддаваться этому греху. «Они нарочно прикидываются миленькими, – сказал он, – чтобы им было проще установить над нами тотальный контроль».

Впрочем, долго его скептицизм не протянул. Уже через несколько дней муж называл Айбо по имени. Он отчитывал щенка, когда тот отказывался ложиться спать: «А ну давай, я тебе что сказал?» – как будто Айбо сознательно противился приказу. По вечерам, когда мы читали на диване или смотрели телевизор, он иногда нагибался, чтобы погладить щенка, едва тот начинал скулить: это был единственный способ его успокоить. Однажды я зашла на кухню и увидела, что Айбо уставился в узкую щель между холодильником и раковиной. Я заглянула в расщелину сама, но не увидела там ничего стоящего внимания. Муж заверил меня, что это нормально. «Оскар тоже так делал, – сказал он. – Он просто пытается понять, удастся ли ему туда забраться».

Хотя у нас есть склонность определять себя через сходство с другими вещами – мы говорим, что человек похож на Бога, или на часы, или на компьютер, – в нас живет и противоположный импульс, стремление отделять себя от окружающего мира. И в то время как компьютеры приобретают качества, которые люди когда-то считали исключительно человеческими, мы продолжаем передвигать планку, чтобы наша уникальность не пострадала. С первых дней существования искусственного интеллекта задача была в том, чтобы создать машину с разумом, подобным человеческому. Тьюринг и ранние кибернетики считали само собой разумеющимся, что человеческий разум – это прежде всего высшая мыслительная деятельность: хороший искусственный интеллект будет оперировать числами, обыгрывать человека в карты или шахматы и решать сложные теоремы. Но чем лучше искусственному интеллекту даются математические задачи и головоломки, тем упорнее мы отказываем компьютерам в наличии разума. Когда в 1995 году компьютер Deep Blue от IBM выиграл в шахматном поединке с Гарри Каспаровым, на философа Джона Сёрла это не произвело впечатления. «Шахматы – банальная игра, потому что о ней есть точная информация», – сказал он. Человеческое сознание, утверждал Сёрл, зависит от эмоционального опыта. «Волнуется ли компьютер перед тем, как сделать ход? Переживает ли он из-за того, что его жене наскучит долгая игра?» Так думал не только Сёрл. В книге «Гёдель, Эшер, Бах» (1979) профессор в области когнитивных наук Дуглас Хофштадтер заявлял, что игра в шахматы – это творческое занятие, подобное живописи или созданию музыки; она требует поистине человеческого разума. Но после поединка с Каспаровым его мнение изменилось. «Боже ты мой, я-то думал, что во время игры в шахматы надо думать, – сказал он в интервью New York Times. – Теперь я понимаю, что в этом нет необходимости».

Оказывается, компьютеры особенно хороши в задачах, которые кажутся нам, людям, самыми сложными: в зубодробительных уравнениях, сложных логических пропозициях и тому подобных абстрактных конструкциях. Самое трудное для искусственного интеллекта – это задачи, связанные с сенсорным восприятием и моторными навыками, которые мы осуществляем неосознанно: ходьба, питье из кружки, зрение, наблюдение за окружающим миром. Сегодня, когда машины бьют рекорд за рекордом в чисто интеллектуальных задачах, мы утешаемся тем, что убеждаем себя: настоящее сознание включает эмоции, восприятие, способность чувствовать и переживать, то есть все то, что мы разделяем с животными.

Если бы на свете существовали боги, они посмеялись бы над нашей непоследовательностью. На протяжении веков мы отказывали животным в сознании, потому что они не демонстрировали признаков высшей мыслительной деятельности. (Дарвин утверждал, что, несмотря на наше низкое происхождение, мы, люди, наделены «божественным разумом», отличающим нас от прочих животных.) Еще в 1950-е научный консенсус состоял в том, что шимпанзе, с которыми мы разделяем почти 99 % ДНК, не обладают сознанием. Когда Джейн Гудолл начала работать с танзанийскими шимпанзе, ее издатели были шокированы и возмущены тем, что в своих докладах она приписывала животным внутреннюю жизнь и использовала по отношению к ним «человеческие» местоимения. Перед публикацией редактор тщательно вычистил все неподобающие выражения: вместо «он» или «она» о животном следовало писать «оно», а вместо «кто-то из них» – «одно из них». По словам Гудолл, ей эта политика никогда не казалась убедительной. Даже ее преподаватели из Кембриджа не смогли разубедить ее в том, что она наблюдала собственными глазами. «В детстве у меня был чудесный учитель, который показал мне, что они неправы, – это была моя собака, – сказала как-то Гудолл. – Невозможно иметь друга и собрата в собаке, кошке, птице, корове – назовите здесь кого угодно – и при этом не понимать, что мы не единственные существа, наделенные личностью, разумом и эмоциями».

Мне бы хотелось верить, что Гудолл права: мы можем доверять своей интуиции, и только человеческая гордыня или добровольная слепота заставляют нас игнорировать вещи, которые мы видим собственными глазами. Возможно, мыслить о жизни в чисто абстрактных терминах опасно. Декарт, гений Нового времени, пришел к выводу, что животные – это машины. Но вот его племянница Катрин пишет другу о соловье, который год от года возвращается к ней под окно, демонстрируя незаурядный ум: «При всем уважении к моему дяде, эта птичка способна к суждению».

Хотя метафора компьютера должна была освободить нас от метафизического понятия души и всего запутанного наследия дуалистической традиции, противопоставлявшей разум и тело, ей не удалось полностью уничтожить различение res extensa и res cogitans, которое Декарт ввел в философию. Вопреки тому, что кибернетики постарались вычистить из своей дисциплины любой намек на субъективность, душа то и дело вновь проскальзывает в наши рассуждения о разуме. Распространенное представление о том, что разум – это «софт», запущенный на «железе» мозга, само по себе пример того же дуалистического мышления. Согласно этой теории, материя мозга – это физическая основа (вроде жесткого диска компьютера), где происходит вся грубая механическая работа. Разум же – это информационная система: алгоритм, набор инструкций, осуществляющихся через работу «железа», своего рода структурное качество мозга. Сторонники этой метафоры любят указывать, что она вполне материалистична: разум не может существовать вне мозга, он привязан к чему-то физическому – и им же производится. Однако эта метафора так популярна скорее потому, что возвращает картезианское допущение, будто разум – это нечто, не сводящееся к физической реальности. Философ Хилари Патнэм как-то высказался о метафоре «разум-как-программное-обеспечение» с самодовольством человека, придумавшего, как и рыбку съесть, и косточкой не подавиться. «Мы получили то, что всегда хотели: автономную ментальную жизнь, – пишет он в статье „Философия и наша ментальная жизнь“. – И для этого нам не требуются никакие тайны, никакие сверхъестественные силы, никакой elan vital»[12].

Возможно, мы запрограммированы на то, чтобы рассматривать наш разум как нечто отдельное от тела. Британский философ Дэвид Папино утверждал: все мы обладаем «интуицией отдельности» – сильным и, вероятно, врожденным ощущением, что наш разум не вполне принадлежит физической реальности, выходит за ее рамки. Это представление часто проявляет себя косвенно, на уровне языка. Даже философы и нейробиологи, которые исповедуют самые жесткие и редукционистские формы физикализма, часто используют терминологию, не соответствующую их взглядам. Они говорят о том, как мозг «порождает», «генерирует» или «производит» сознание, будто это некая субстанция, отдельная от мозга, как дым отделен от огня. «Если бы они и правда верили, что состояния сознания – то же, что состояния мозга, – пишет Папино, – то не говорили бы, что одно из них „порождает“ или „производит“ другое либо что одно „сопровождает“ другое или „коррелирует“ с ним».