Прямо сейчас в мире происходит нечто уникальное. Всего каких-то пять или десять лет назад люди массово начали носить с собой небольшое устройство, смартфон, который стал удобной платформой для работы алгоритмов изменения поведения. Многие из нас к тому же ставят на кухонные полки или приборные панели автомобилей связанные со смартфоном устройства под названием «умные колонки». Корпорации нас постоянно отслеживают, считывают наши данные и выдают тщательно просчитанную обратную связь. Невидимые специалисты своего дела шаг за шагом гипнотизируют нас ради достижения целей, которые нам неизвестны. Все мы сейчас подопытные животные.
Каждую секунду алгоритмы поглощают информацию о вас. По каким ссылкам вы ходите? Какие видеоролики и как часто смотрите? Как быстро переключаете внимание с одних вещей на другие? Где, когда и что вы делаете? С кем общаетесь лично и в сети? Какие выражения принимает ваше лицо? Как, в зависимости от ситуаций, меняется его цвет? Что вы делаете, прежде чем решиться на покупку или участие в выборах?
Все это соотносится с такими же данными о жизни множества других людей, добытыми огромной шпионской сетью. Алгоритмы сопоставляют ваши действия с действиями остальных.
Эти программы не понимают вас по-настоящему, но они властвуют над числами, особенно большими. Если множество людей, которым нравятся те же блюда, что и вам, отвергнут портрет кандидата в розовой, а не голубой, рамке, то и вы, возможно, его отвергнете, и никому не интересно почему. Статистика надежна, но в этой ситуации она – глупый демон.
Вы одиноки, опечалены, напуганы? Счастливы, уверены в себе? Вы женщина, и у вас первые дни цикла? Нервничаете на уроке?
Так называемые рекламщики способны поймать момент, когда вы сильно взвинчены, и повлиять на вас сообщениями, которые сработали с другими людьми, чьи привычки и поведение в различных ситуациях совпали с вашими.
Я специально сказал «так называемые», потому что было бы неправильно называть рекламой откровенное манипулирование людьми. Настоящие рекламщики имели ограниченную возможность предлагать свой товар, и даже если иной раз их послание маскировалось или раздражало, оно было быстрым. Что еще важнее, люди видели одну и ту же рекламу на телевидении и в газетах, и никто ее не адаптировал под отдельно взятого человека. Но самое большое различие заключается в том, что за вами не вели постоянную слежку и не оценивали ваши действия, чтобы всучить вам «контент», который может изменить вас или побудить к чему-либо.
Теперь же все, кто зарегистрирован в социальных сетях, получают индивидуально подогнанные непрестанно меняющиеся стимулы, по крайней мере пока пользуются смартфонами. То, что раньше могло называться рекламой, сейчас следует расценивать как управление поведением в огромных масштабах.
Не сочтите это, пожалуйста, оскорблением. Да, я предполагаю, что вы потихоньку превращаетесь в идеально выдрессированную собаку, а может, и во что-то более неприятное, скажем в лабораторную крысу или даже робота. Что вас на расстоянии контролируют клиенты огромных корпораций. Но если я прав, то осознание этого поможет вам освободиться. Так почему бы не воспользоваться шансом?
Научное движение, названное бихевиоризмом, зародилось еще до изобретения компьютеров. Бихевиористы изучали новые, более методичные, стерильные и скучные способы дрессировки животных и людей.
Одним из знаменитых бихевиористов был Б. Ф. Скиннер. Он положил начало методологической системе, известной как ящик Скиннера. В рамках его экспериментов животных сажали в клетку и давали лакомство за совершение ими определенных действий. Животных никто не гладил и не хвалил, это было просто изолированное механическое действие – новая для того времени разновидность дрессировки. Позже бихевиористы применили этот метод к людям. Их стратегии часто срабатывали, и это ужасно пугало людей. В результате появилось множество фантастических романов и фильмов ужасов о «контроле разума».
Печально, но факт: при помощи бихевиористских методик можно дрессировать человека, и он даже не будет этого осознавать. До недавнего времени вы могли столкнуться с этим методом, только если бы записались добровольцем для участия в экспериментах в подвале университетского корпуса, в котором расположен факультет психологии. Вас бы отвели в специальное помещение, и психологи изучали бы вас через одностороннее зеркало. Несмотря на то что вы знали бы об эксперименте, вы не смогли бы осознать, как именно вами манипулируют. Что ж, вы были бы не в обиде, ведь вы сами дали согласие на то, что вами каким-то образом манипулировали. (Впрочем, не всегда. Некоторые жестокие эксперименты проводились на заключенных, бедняках и представителях других рас.)
В десяти главах этой книги я покажу, что вещи, которые внезапно стали считаться нормой – тотальная слежка и постоянные незаметные манипуляции – на самом деле негуманны, неэтичны, жестоки и опасны.
Опасны? О да, потому что вы не знаете, кто и в каких целях воспользуется этой властью.
Возможно, вы слышали о признаниях основателей империй социальных сетей, которые я предпочитаю называть «империями изменения поведения».
Например, Шона Паркера, первого президента Facebook:
«Нам нужно время от времени подкидывать вам дофамина – показывать, что кто-то оценил ваше фото, или пост, или что-нибудь еще… Петля обратной связи с социальным одобрением… это именно то, до чего додумался бы хакер, вроде меня, поскольку мы играем на уязвимости человеческой психологии… Изобретатели и создатели – я, Марк [Цукерберг], Кевин Систром из Instagram – мы постоянно это осознавали. И все равно это делали… ваши отношения друг с другом и обществом в буквальном смысле изменяются… Возможно, сети даже убивают способность продуктивно работать. Одному Богу известно, что все это делает с мозгом наших детей»[4].
А вот что говорит Чамат Палихапития, бывший вице-президент Facebook по вопросам роста пользовательской аудитории:
«Созданные нами кратковременные петли обратной связи, подпитываемые дофамином, разрушают общество… Никаких дискуссий, чтобы достичь взаимопонимания, никакого сотрудничества, ложная информация, недоверие. Это не проблема одной только Америки, и дело вовсе не в шпионах. Это проблема всего мира… Я испытываю ужасное чувство вины. Думаю, в глубине души мы все это знали, хотя и притворялись, что не видим никаких негативных последствий. Думаю, где-то совсем в глубине сознания мы догадывались, что может произойти что-то плохое… Так что, с моей точки зрения, сейчас у нас действительно все плохо. Разрушается сама основа человеческого общения и взаимодействия друг с другом. И я понятия не имею, как эффективно решить проблему. Можно лишь отказаться пользоваться этими механизмами. Я уже несколько лет так и делаю»[5].
Лучше поздно, чем никогда. Целая толпа критиков, и я в их числе, уже давно твердят, что мир катится в тартарары. Но когда это признают сами создатели соцсетей, это уже шаг вперед.
Долгие годы я был вынужден выслушивать весьма неприятную критику от друзей, работавших в Кремниевой долине. Я осуждал то, над чем мы вместе трудились, и меня считали предателем. Позже я столкнулся с противоположной проблемой. Я говорил, что работники Кремниевой долины по большей части порядочны, и просил не представлять нас вселенским злом. И сталкивался с новой волной праведного гнева. Я уже не понимаю, когда чрезмерно критикую свое окружение, а когда чрезмерно его защищаю.
Но куда важнее сейчас ответить на вопрос, имеет ли вообще значение хоть чья-нибудь критика. Мы все уже знаем, и корпорации не могут больше отрицать, что эта технология причиняет нам вред, но будем ли мы – а точнее, лично вы – в состоянии сопротивляться этому?
Некоторые компании, среди которых Facebook, Google и Twitter, пытаются исправить серьезные проблемы, из-за них же и возникшие, но действуют они разрозненно. Что случилось, в них проснулась совесть или на них оказывается давление? Думаю, понемногу и то и другое.
Как бы то ни было, компании меняют свою политику, тщательно мониторят происходящее и нанимают сотрудников для обработки и анализа данных, чтобы разработать алгоритмы, которые помогли бы избежать еще более страшных ошибок. Раньше в Facebook твердили: «Двигайся быстро и ломай устои»[6], теперь они придумывают мантры получше, пытаясь собрать разбитый мир по кусочкам и склеить обломки.
Эта книга о том, что без нашей помощи компании не справятся.
Поскольку люди, работающие в Кремниевой долине, уже сожалеют о содеянном, может показаться, что нам достаточно немного подождать, и все наладится. Но это так не работает. Если вы не станете частью решения, его не будет вовсе.
В первом аргументе я представлю несколько ключевых концепций, стоящих за проектированием манипулятивных и формирующих зависимость сетевых сервисов. Осознанность – первый шаг к свободе.
Паркер заявляет о том, что Facebook намеренно создает у людей зависимость, а Палихапития говорит об отрицательном влиянии этой соцсети на человеческие отношения и общество в целом. Где же связь между этими двумя источниками чувства вины?
Основной процесс, который позволяет соцсетям зарабатывать деньги и одновременно причиняет вред обществу – это изменение поведенческих моделей людей с помощью специальных методик. Причем их можно применять как для избавления от зависимостей, так и для их формирования.
Зависимости сводят людей с ума, и в этом заключается вред для общества. Зависимый человек постепенно теряет связь с реальностью и живыми людьми. Когда из-за применения манипулятивных схем множество людей перестают владеть собой, мир становится безумным и мрачным.
Зависимость – неврологический процесс, до конца еще не изученный. Мы знаем, что нейромедиатор дофамин влияет на получение нами удовольствия, и потому именно он лежит в основе работы механизма изменения поведения при реакции на поощрение. Вот почему Паркер его упоминает.
Изменение поведения современного человека под влиянием, например, смартфонов – статистический эффект. «Статистический» означает, что эффект реален, но не вполне объективен. В масштабах всего человечества результат вмешательства более или менее предсказуем, но с отдельно взятым человеком фокус может не сработать. Но не обольщайтесь – даже если выводы не вполне точны или основываются на нечетких логических построениях, они не перестают быть достоверными. Любой из нас – в какой-то степени животное, которое бихевиорист посадил для эксперимента в клетку.
Сегодня поощрение чаще всего применяется в экспериментах бихевиористов, но этот метод уходит корнями в древние времена. К нему прибегает каждый дрессировщик, когда дает собаке маленький кусочек лакомства после того, как она выполнит трюк. То же самое делают многие родители маленьких детей.
Иван Павлов, один из первых бихевиористов, блестяще продемонстрировал, что метод работает даже без настоящего лакомства. Он звонил в колокольчик каждый раз, как собаку кормили, – и в конце концов слюна у собаки начала выделяться, когда она просто слышала звук колокольчика.
Использование символов вместо настоящего поощрения – главная хитрость в инструментарии изменения поведения. Например, такая игра для смартфона, как Candy Crush, вместо настоящих сладостей использует для формирования зависимости нарисованные блестящие конфетки. Другие видеоигры могут привлекать внимание изображениями сверкающих монет и прочих сокровищ.
Складывающиеся у нас в мозгу стереотипы удовольствия и поощрения – «доза дофамина», выражаясь словами Шона Паркера, – это основная составляющая зависимости от социальных сетей. Однако соцсети также используют и наказание, или отрицательное подкрепление.
Во время лабораторных экспериментов ученые используют различные виды наказания – одно время весьма популярными были удары током. Но, как и с поощрением, наказанию совершенно не обязательно быть реальным и физическим. Иногда эксперименты проводятся с помощью начисления очков и применения символов.
Общаясь в социальных сетях, вы получаете эквиваленты как поощрения, так и ударов током.
Большинство пользователей соцсетей подвергались атакам со стороны аккаунтов-обманок, которые им подбрасывали, как фантик котенку[7] (что кошки, кстати, терпеть не могут). Они испытали на себе бессердечное неприятие, принижение, пренебрежение, неприкрытый садизм или даже кое-что похуже. Это одновременно и кнут, и пряник. Неприятная обратная связь может сыграть в формировании зависимости и скрытом изменении поведения такую же важную роль, как и приятная.
Говоря «время от времени», Паркер, возможно, имеет в виду одно любопытное явление, которое открыли бихевиористы. Если за какое-либо действие человека поощрить – общественным одобрением или конфетой, – он будет стремиться совершать это действие как можно чаще. Получая похвалы за публикации в социальной сети, люди приобретают привычку писать много постов.
Звучит довольно невинно, но это может оказаться первым шагом на пути к зависимости, которая постепенно превратится в проблему как отдельного человека, так и общества в целом. Несмотря на то что в Кремниевой долине этот шаг благопристойно называют «вовлеченностью», мы уже достаточно напуганы, чтобы ограждать от него своих детей. Да, многие дети, чьи родители работают в Кремниевой долине, учатся в вальдорфских школах, где электронные устройства запрещены.
Давайте разберем это удивительное явление. Суть его не в слаженной работе положительной и отрицательной обратной связи, а в том, что непредсказуемая обратная связь может стать более мощным побуждающим фактором, чем самая идеальная.
Если вы – ребенок и получаете конфету каждый раз, как говорите слово «пожалуйста», возможно, вы начнете говорить его чаще. А теперь предположим, что однажды вы не получите свою конфету. Можно предположить, что отныне говорить «пожалуйста» вы будете реже: зачем стараться, если результат не гарантирован. Логично?
Но иногда происходит прямо противоположное. Как будто ваш мозг, с самого вашего рождения привыкший во всем находить взаимосвязи, не может устоять перед вызовом. «Тут должна быть какая-то хитрость», – шепчет он, одержимый навязчивой идеей. И вы продолжаете вежливо просить в надежде понять глубоко запрятанную закономерность. Однако ее нет, а есть только случайность безо всякого двойного дна.
Ученому позволительно увлекаться закономерностью, которая не имеет смысла. Он может копнуть глубже и действительно что-то обнаружить. Если вы пишете сценарий, это прекрасный инструмент для работы. Немного нелогичности в сюжете или характере персонажа сделает его более привлекательным.
Но во многих ситуациях это ужасная основа для увлечений. Возможно, именно очарование неопределенной обратной связи заманивает людей в мерзкие «созависимые» отношения, где с ними плохо обращаются.
Создать малую толику случайности в социальных сетях проще простого. Поскольку алгоритмы несовершенны, случайность будет подлинной. Но в дополнение к этому в новостные ленты привносится элемент намеренной случайности. Причина тому лежит в области базовой математики, а не человеческой психологии.
Алгоритмы социальных сетей обычно «самонастраиваемые». Это означает, что в них постоянно происходят небольшие изменения, призванные показать на выходе лучшие результаты. «Лучшие» в этом случае значит сильнее вовлекающие людей и, таким образом, приносящие больше выгоды. В таких алгоритмах всегда присутствует небольшой элемент случайности.
Предположим, обычный алгоритм показывает вам объявление о продаже носков или других товаров примерно через пять секунд после того, как вы посмотрите видео с котиками. Самонастраивающийся алгоритм проведет проверку, чтобы выяснить, что произойдет, если этот временной интервал уменьшить, скажем, до четырех с половиной секунд. Захочется ли вам купить товар сильнее? Если да, то он скорректирует время показа не только ваших будущих объявлений, но и объявлений тысяч других людей, более или менее совпадающих с вами хоть в цветовых предпочтениях, хоть в водительских привычках[8].
Иногда самонастраивающиеся алгоритмы дают сбой, тогда они откатывают свои параметры до прежних показателей. Если после корректировки временного интервала и до четырех с половиной секунд, и до пяти с половиной секунд вы будете меньше хотеть купить носки, рекламу вам снова будут показывать ровно через пять секунд. На основании имеющихся доказательств, алгоритм примет пятисекундный интервал ожидания как оптимальный из всех возможных. По идее, если мелкие случайные изменения не помогают, алгоритм перестает адаптироваться. На деле же самонастраивающиеся алгоритмы никогда не теряют надежду улучшить самих себя.
Что же делать, если улучшить результат могут только более серьезные изменения? Возможно, стоит установить интервал в две с половиной секунды, но постоянные дополнительные поправки не помогут это выяснить, поскольку алгоритм застрял на пятисекундном интервале. Вот почему в самонастраивающиеся алгоритмы заложена возможность большой случайности. Зачастую алгоритм выходит на новый уровень эффективности, когда в почти идеальных настройках происходит сбой[9].
Такой механизм скачкообразного развития часто бывает заложен в самонастраивающихся системах. Пример тому – полезные мутации, которые происходят в ходе биологической эволюции из-за постоянно нарастающего числа событий. В основе этого процесса лежит естественный отбор, когда гены отдельной особи либо передаются потомкам, либо нет. Мутация – непредсказуемый фактор, открывающий новые возможности, резкий скачок. Каждая новая мутация добавляет виду странные особенности, делающие его сильнее.
Нейрофизиологи закономерно интересуются, может ли подобный процесс происходить в мозге человека. Пока мы знаем, что мозг может адаптироваться к любым условиям, поскольку природа не терпит сбоев.
Пока рекламный алгоритм влияет на эмоции человека, случайность, облегчающая адаптацию программы, подпитывает у людей зависимость. Алгоритм пытается уловить идеальные параметры для манипуляции мозгом, а мозг пытается найти в этом более глубокий смысл и меняет свою реакцию в ответ на эксперименты алгоритма. В основе этой игры в кошки-мышки лежит чистая математика. Поскольку стимулы алгоритма случайны, а значит, бессмысленны, мозг адаптируется не к чему-то реальному, а к выдумке. Этот процесс – застревание в ловушке зыбкого миража – и есть зависимость. По мере того, как алгоритм пытается выбраться из ямы, человеческий разум в ней застревает.
Первыми это пересечение математики и человеческого мозга стали исследовать не компании – владельцы социальных сетей, а создатели цифровых игровых автоматов, вроде видеопокера, и интернет-сайтов с азартными играми. Временами эти первопроходцы жалуются на то, что соцсети нажились на их идеях и получили кучу денег, но чаще они признаются, что соцсети помогают им вычислять легкую добычу[10].
Социальные сети вводят стимулы нового измерения: социальное давление.
Люди точно чувствуют социальный статус, оценку и конкуренцию. В отличие от большинства животных, люди не только рождаются абсолютно беспомощными, но и остаются такими на протяжении многих лет. Мы выживаем лишь благодаря членам своей семьи и другим близким людям. Построение социальных связей – не дополнительные, а основные функции человеческого мозга.
Власть мнения окружающих оказалась достаточно сильной, чтобы повлиять на поведение участников знаменитых исследований, вроде эксперимента Милгрэма и Стэнфордского тюремного эксперимента. С помощью механизма социального давления нормальных людей, никак не связанных с преступным миром, заставляли делать ужасные вещи, мучить других.
В социальных сетях манипуляция общественными эмоциями стала кратчайшим путем к созданию системы поощрений и наказаний. В будущем ситуация может измениться, если, например, дроны начнут сбрасывать вам с воздуха настоящие конфеты, когда вы сделаете то, чего хочет алгоритм, но сейчас все основано на чувствах, которые он у вас вызывает. И связаны они, как правило, с тем, что думают о вас другие.
Когда мы боимся, что будем выглядеть в глазах окружающих недостаточно крутыми или привлекательными, мы чувствуем себя плохо. Этот страх – глубокое эмоциональное переживание. Оно причиняет боль.
Все люди время от времени страдают социальной тревогой. И каждый ребенок сталкивался с обидчиком, который делал социальную тревогу инструментом для издевательств – возможно, сам агрессор прятал за хулиганским поведением страх стать объектом насмешек. Вот почему люди, которые в нормальных условиях вели бы себя прилично, обычно набрасываются на жертву. Они настолько боятся настоящей боли, которую причиняет социальная тревога, что на какой-то момент забывают о своей лучшей стороне.
Это не означает, что все социальные эмоции приносят страдания. Общаясь с другими людьми, можно ощутить и чувство локтя, симпатию, уважение, восхищение, благодарность, надежду, сопереживание, эмоциональную близость, влечение и еще огромное множество других положительных переживаний. Но с другой стороны, мы ощущаем также и страх, неприязнь, отвращение, ревность и желание зло высмеять другого.
Если эмоция, вызванная социальным взаимодействием, служит поощрением или наказанием, то нельзя ли использовать ее для изменения личности человека? Этот вопрос изучали много лет, и ответ на него, по всей видимости, зависел от того, какие группы населения исследовали и в какой ситуации находились испытуемые. Одни ученые считают, что маленькие дети лучше реагируют на поощрение, чем на наказание, хотя после двенадцати лет ситуация может поменяться на противоположную[12]. Другие предполагают, что наказание для студентов колледжа эффективнее поощрения[13]. Вот краткое описание исследования, указывающего на то, что эмоциональная поддержка эффективно мотивирует взрослых работников[14]. Может оказаться и так, что то, какая разновидность обратной связи эффективнее[15], определяет характер поставленной задачи[16]