Глава 2 Труд
Когда я вхожу в огромный центр компании Amazon в Роббинсвилле, штат Нью-Джерси, первое, что я вижу, – это большой знак с надписью «Табельные часы». Она торчит из одного из ярко-желтых бетонных пилонов, протянувшихся через огромное заводское пространство площадью 1,2 миллиона квадратных футов. Это крупный распределительный склад для небольших объектов – центральный узел распределения на северо-востоке США. Он представляет собой головокружительное зрелище современной логистики и стандартизации, призванной ускорить доставку посылок. Десятки табло с часовым механизмом расположены через равные промежутки времени вдоль входа. Каждая секунда работы контролируется и подсчитывается. Работники, известные как «партнеры», должны регистрироваться сразу же по прибытии. В редких, освещенных флуоресцентным светом комнатах отдыха, также установлены часы и еще больше знаков, подчеркивающих, что все сканирования при входе и выходе из комнат отслеживаются. Как на складе сканируют упаковки, так на складе следят и за максимально возможной эффективностью работников: они могут отрываться от работы только на пятнадцать минут за смену, с неоплачиваемым тридцатиминутным перерывом на обед. Смены длятся по десять часов.
Это один из новейших центров выполнения заказов, где для перемещения тяжелых стеллажей с товарами используются роботы. Ярко-оранжевые роботы Kiva плавно скользят по бетонному полу, как яркие водяные жучки, следуя запрограммированной логике, которая заставляет их вращаться ленивыми кругами, а затем направляет к следующему работнику, ожидающему подносы. Затем они движутся дальше, неся на своих спинах башню из тяжелых покупок. Эта армия прижавшихся к земле роботов представляет собой неутомимую рабочую силу: они несут, вращаются, продвигаются, снова несут. Они издают низкий жужжащий гул, однако его почти полностью заглушает звук быстро движущихся конвейерных лент, которые служат артериями завода. В этом помещении четырнадцать миль конвейерных лент движутся без остановки, в результате чего получается постоянный рев.
Пока роботы исполняют свой слаженный алгоритмический балет за ограждениями из цепей, рабочие на фабрике гораздо менее спокойны. Беспокойство, связанное с выполнением нормы – количества товаров, которые они должны отобрать и упаковать за отведенное время, – явно сказывается. Многие из рабочих, с которыми я сталкиваюсь во время визитов, носят те или иные поддерживающие повязки. Я вижу наколенники, налокотники, защитные щитки для запястий. Когда я замечаю, что у многих людей есть травмы, работник Amazon, проводящий меня по фабрике, указывает на расположенные через равные промежутки торговые автоматы, «снабженные безрецептурными обезболивающими для всех, кто в них нуждается».
Табельные часы в центре выполнения заказов Amazon в Роббинсвилле, штат Нью-Джерси. AP Photo/Julio Cortez
Робототехника стала ключевой частью логистического арсенала Amazon, и если машины выглядят ухоженными, то человеческие тела кажутся чем-то второстепенным. Они нужны для выполнения специфических, сложных задач, непосильных роботам: сбор и визуальное подтверждение предметов, которые в кратчайшие сроки люди хотят получить, от чехлов для телефонов до моющего средства. Люди – это необходимая соединительная структура, необходимая для того, чтобы заказанные товары попадали в контейнеры и грузовики и доставлялись потребителям. При этом люди не являются самым ценным или надежным компонентом машины Amazon. В конце рабочего дня все сотрудники должны пройти через ряд металлодетекторов. Как мне сказали, это эффективная мера защиты от краж.
В слоях Интернета одной из наиболее распространенных единиц измерения является сетевой пакет – основная единица данных, отправляемая из одного пункта назначения и доставляемая в другой. В компании Amazon основной единицей измерения является коричневая картонная коробка – знакомое нам транспортное сооружение, украшенное изогнутой стрелкой, имитирующей человеческую улыбку. Каждый сетевой пакет имеет временную метку, известную как период жизни. Данные должны попасть в пункт назначения до его истечения. В Amazon картонная коробка также имеет время жизни, определяемое требованиями клиента к доставке. Если коробка опаздывает, это влияет на бренд Amazon и, в конечном счете, на его прибыль. Именно по этой причине компания уделяет огромное внимание алгоритму машинного обучения, который настраивается на данные о наилучшем размере, весе и прочности гофрированных коробок и бумажных конвертов. Очевидно, без иронии, алгоритм называется «матрицей»[115]. Каждый раз, когда человек сообщает о поврежденном товаре, это становится точкой отсчета данных о том, какую коробку следует использовать в будущем. В следующий раз, когда этот же товар будет ждать отправления, матрица автоматически назначит ему новый тип коробки без участия человека. Такой подход предотвращает поломки, экономит время и увеличивает прибыль. Однако работники вынуждены постоянно адаптироваться, что, безусловно, затрудняет применение их знаний на практике или привыкание к работе.
Контроль за временем является постоянной темой логистической империи Amazon, а сотрудники работают в соответствии с каденциями вычислительной логики. Amazon – второй по величине частный работодатель в Америке, и многие компании стремятся подражать его подходу. Многие крупные корпорации вкладывают значительные средства в автоматизированные системы в попытке получить все большие объемы труда от меньшего числа работников. Логика эффективности, наблюдения и автоматизации сходятся в нынешнем повороте к вычислительным подходам к управлению трудом. Гибридные человеко-роботизированные распределительные склады Amazon являются ключевым местом для понимания компромиссов, которые происходят в этом стремлении к автоматизированной эффективности. Отсюда мы можем начать рассматривать вопрос о том, как труд, капитал и время переплетаются в системах ИИ.
Вместо того чтобы обсуждать, заменят ли людей роботы, в этой главе я сосредоточусь на том, как меняется опыт работы в связи с усилением наблюдения, алгоритмической оценки и модуляции времени. Другими словами, насколько часто люди прибегают к помощи роботов и как это сказывается на роли труда. Многие формы труда окутаны термином «искусственный интеллект», скрывая тот факт, что люди зачастую выполняют механические задачи, поддерживая тем самым впечатление, будто эту работу способны сделать машины. Тем не менее, крупномасштабные вычисления уже глубоко укоренились в процессе труда и основаны на эксплуатации человеческих тел.
Если мы хотим понять будущее работы в контексте искусственного интеллекта, нам нужно начать с понимания прошлого и настоящего опыта работников. Подходы к максимизации извлечения ценности из сотрудников варьируются от переработки классических методов, использовавшихся на заводах Генри Форда, до ряда инструментов машинного обучения, предназначенных для повышения детализации отслеживания, стимулирования и оценки. В этой главе представлена история географии труда в прошлом и настоящем, от инспекционных домов Самуэля Бентама до теорий управления временем Чарльза Бэббиджа и микроменеджмента человеческого тела Фредерика Уинслоу Тейлора. Попутно мы увидим, каким образом ИИ строится на основе человеческих усилий (среди прочего), таких как работа в коллективе, приватизация времени и, казалось бы, бесконечная работа по перемещению, подъему и упорядочиванию коробок. Из истории механизированной фабрики возникла модель, которая ценит повышенное соответствие, стандартизацию и совместимость – как для продуктов и процессов, так и для людей.
Автоматизация рабочих пространств, хотя о ней часто рассказывают как о будущем, уже давно стала опытом современной работы. Производственный конвейер с его акцентом на последовательные и стандартизированные единицы продукции имеет аналоги в сфере услуг, от розничной торговли до ресторанов. С 1980-х годов труд секретаря все больше автоматизируется, и теперь его имитируют высоко феминизированные помощники ИИ, такие как Siri, Cortana и Alexa[116]. Так называемые офисные работники, те самые «белые воротнички», которым, как предполагалось, в меньшей степени угрожает автоматизация, оказываются все больше подвержены наблюдению, систематизации процессов и разрушению различий между работой и досугом (хотя женщины и без того редко испытывали четкие различия, как показали феминистские теоретики труда, такие как Сильвия Федеричи и Мелисса Грегг)[117]. Как оказалось, адаптироваться пришлось всем отраслям, чтобы их можно было интерпретировать и понимать системами, основанными на программном обеспечении[118].
Общим рефреном расширения систем искусственного интеллекта и автоматизации процессов является то, что мы живем во времена выгодного сотрудничества человека и искусственного интеллекта. Но это сотрудничество не является справедливым. Условия основаны на значительной асимметрии власти – есть ли вообще выбор не сотрудничать с алгоритмическими системами? Когда компания внедряет новую платформу ИИ, работникам редко разрешают отказаться от сотрудничества. Это не столько сотрудничество, сколько принуждение, когда от работников ожидается, что они будут переквалифицироваться, идти в ногу со временем и беспрекословно принимать каждую новую техническую разработку.
Вторжение ИИ на рабочие места следует понимать не как радикальный отход от устоявшихся форм, а как возвращение к старым практикам эксплуатации промышленного труда, которые прочно утвердились в 1890-х годах и в начале XX века. В то время фабричный труд уже рассматривался в контексте машин, а задачи все больше подразделялись на более мелкие действия, требующие минимальных навыков, но максимального напряжения сил. Действительно, нынешнее расширение автоматизации продолжает более широкую историческую динамику, присущую промышленному капитализму. С момента появления первых фабрик рабочие сталкивались с все более мощными инструментами, машинами и электронными системами, которые играют роль в изменении методов управления трудом и в передаче большей ценности работодателям. Сейчас мы наблюдаем новые припевы на старую тему. Решающее отличие заключается лишь в том, что теперь работодатели наблюдают, оценивают и регулируют части рабочего цикла и физические данные вплоть до последнего микродвижения, которые раньше были для них недоступны.
Существует множество предысторий ИИ в рабочем пространстве; одна из них – широкомасштабная автоматизация общих видов производственной деятельности во время промышленной революции. В своем труде «Богатства народов» политэкономист XVIII века Адам Смит впервые указал на разделение и подразделение производственных задач как на основу повышения производительности и роста механизации[119]. Он заметил, что, определив и проанализировав различные этапы производства любого изделия, можно разделить их на все более мелкие шаги. Так продукт, который раньше полностью изготавливался опытными ремесленниками, теперь может быть создан командой рабочих более низкой квалификации, оснащенных инструментами, специально созданными для выполнения конкретной задачи. Таким образом можно было значительно увеличить объем производства на фабрике без эквивалентного увеличения стоимости рабочей силы.
Развитие механизации имело большое значение, но только в сочетании с растущим изобилием энергии, получаемой из ископаемого топлива, оно смогло привести к массовому росту производственных мощностей индустриальных обществ. Этот рост производства происходил одновременно с серьезной трансформацией роли труда по отношению к машинам. Изначально задуманные как трудосберегающие устройства, фабричные машины должны были помогать рабочим в повседневной деятельности, но быстро стали центром производственной активности, определяя скорость и характер работы. Паровые двигатели, например, работающие на угле и нефти, приводили в движение непрерывные механические действия, которые влияли на темп работы на фабрике. Работа перестала восприниматься как продукт человеческого труда и приобрела все более машинный характер, а рабочие уже начали приспосабливаться к потребностям машины и ее особым ритмам и характеристикам. Опираясь на Смита, Карл Маркс еще в 1848 году отметил, что автоматизация абстрагирует труд от производства готовых предметов и превращает рабочего в «придаток машины»[120].
Интеграция человеческого труда с механическим оказалась настолько глубокой, что ранние промышленники стали рассматривать своих работников как сырье, которым можно управлять и контролировать, как любым другим ресурсом. Владельцы фабрик, используя местное политическое влияние и оплачиваемую силу, стремились направлять и ограничивать передвижение рабочих в пределах фабричных городов, иногда даже не позволяя им эмигрировать в менее механизированные регионы мира[121].
Все это также означало усиление контроля над временем. Историк Э. П. Томпсон в своем основополагающем эссе исследует, как промышленная революция привела к большей синхронизации рабочего процесса и более строгой дисциплине[122]. Переход к промышленному капитализму принес с собой разделение труда, надзор, часы и табели – технологии, которые также повлияли на восприятие времени людьми. Не обошлось и без вклада культуры: в восемнадцатом и девятнадцатом веках пропаганда трудолюбия велась в форме памфлетов и эссе о важности дисциплины, и проповедей о достоинствах раннего подъема и усердной работы до позднего вечера[123]. Использование времени стало рассматриваться как в моральных, так и в экономических терминах: понимаемое как валюта, время могло быть потрачено с умом или же впустую. Но чем более жесткие временные рамки устанавливались в цехах и на фабриках, тем больше рабочие начинали сопротивляться, борясь за само время. К 1800-м годам рабочие движения активно выступали за сокращение рабочего дня, который мог длиться до шестнадцати часов. Вот так само время стало ключевым объектом борьбы.
Поддержание эффективной и дисциплинированной рабочей силы на первых фабриках потребовало новых систем наблюдения и контроля. И вот одним из таких изобретений на заре промышленного производства стал наблюдательный корпус – круговая конструкция, где все рабочие фабрики располагались внизу, а начальство работало на возвышенности в центре, чтобы иметь возможность следить за рабочими. Разработанная в 1780-х годах в России английским военно-морским инженером Сэмюэлем Бентамом, находившимся на службе у князя Потемкина, эта система позволяла опытным руководителям следить за своими необученными подчиненными – в основном русскими крестьянами, которых Потемкин передал Бентаму, – на предмет выявления признаков некачественной работы. Кроме того, Бентам смог следить за надсмотрщиками на предмет признаков плохой дисциплины. Надсмотрщики, в основном мастера-кораблестроители, нанятые из Англии, вызывали у Бентама сильное раздражение своей склонностью к выпивке и мелким разногласиям друг с другом. «Утро за утром меня занимают главным образом споры между моими офицерами», – жаловался Бентам[124]. По мере того, как его разочарование росло, он приступил к перепланировке, которая максимально увеличила его способность следить за ними и за системой в целом. После визита своего старшего брата, философа-утилитариста Джереми Бентама, инспекционный корпус Сэмюэля стал источником вдохновения для знаменитого паноптикона – проекта типовой тюрьмы с центральной сторожевой башней, с которой охранники могли наблюдать за заключенными в камерах[125].
Со времен книги Мишеля Фуко «Надзирать и наказывать» стало привычным считать тюрьму отправной точкой современного наблюдения, а старшего Бентама – ее идейным родоначальником. На самом же деле тюрьма обязана своим происхождением работе младшего Бентама в контексте раннего производственного предприятия[126]. Паноптикон зародился как механизм рабочего места задолго до того, как был концептуализирован для тюрем.
Хотя работа Сэмюэля Бентама над инспекционным корпусом в значительной степени исчезла из нашей коллективной памяти, история, лежащая в ее основе, остается частью общего лексикона. Корпус являлся частью стратегии, скоординированной работодателем Бентама, князем Потемкиным, который хотел добиться расположения при дворе Екатерины Великой, продемонстрировав возможности модернизации сельской России и превращения крестьянства в современную рабочую силу. Инспекционный дом был построен для того, чтобы служить зрелищем для приезжих высокопоставленных лиц и финансистов, подобно так называемым потемкинским деревням, которые были не более чем украшенными фасадами, призванными отвлечь внимание наблюдателей от бедных сельских пейзажей, скрытых от глаз.
И это только одна генеалогия. Многие другие истории труда сформировали подобные практики наблюдения и контроля. Плантационные колонии Америки использовали принудительный труд для выращивания таких товарных культур, как сахар, а рабовладельцы зависели от систем постоянного наблюдения. Как описывает Николас Мирзоефф в книге «Право смотреть», центральную роль в экономике плантаций играл надсмотрщик, который следил за производственным процессом на колониальной плантации рабов. И этот надзор означал упорядочивание работы в рамках системы крайнего насилия[127]. Как описал один плантатор в 1814 году, роль надсмотрщика заключалась в том, чтобы «ни на мгновение не оставлять раба в бездействии; он следит за производством сахара, ни на секунду не покидая рабочее место»[128]. Этот режим также опирался на подкуп некоторых рабов едой и одеждой, чтобы привлечь их к расширенной сети наблюдения и поддерживать дисциплину и скорость работы в моменты отсутствия надсмотрщика[129].
В наши дни роль надзора возложена в первую очередь на технологии мониторинга. Управленческий класс использует широкий спектр технологий для наблюдения за сотрудниками, включая отслеживание их передвижений с помощью приложений, анализ лент в социальных сетях, сравнение шаблонов ответов на электронные письма и бронирования встреч, а также стимулирование различными предложениями, чтобы заставить их работать быстрее и эффективнее. Данные о сотрудниках используются для составления прогнозов о том, кто с наибольшей вероятностью добьется успеха (в соответствии с узкими, поддающимися количественной оценке параметрами), кто может отклоняться от целей компании, а кто способен организовывать других работников. Некоторые из них используют методы машинного обучения, а другие представляют собой более простые алгоритмические системы. По мере распространения искусственного интеллекта в производственных помещениях многие базовые системы мониторинга и слежения расширяются за счет новых прогностических возможностей, превращаясь в более инвазивные механизмы управления работниками, контроля активов и извлечения ценности.
Один из менее признанных фактов об искусственном интеллекте – это количество низкооплачиваемых работников, которые должны помогать создавать, поддерживать и тестировать системы ИИ. Этот невидимый труд принимает различные формы: работа в цепочке поставок, краудворкинг по требованию и традиционные должности в сфере услуг. Эксплуатационные формы труда существуют на всех этапах создания ИИ, начиная с горнодобывающего сектора, где ведется добыча и транспортировка ресурсов для создания основной инфраструктуры систем ИИ, и заканчивая программной частью, где распределенные рабочие силы получают копейки за микрозадачу. Мэри Грей и Сид Сури называют такой скрытый труд «призрачной работой»[130]. Лилли Ирани называет его «автоматизацией, подпитываемой человеком»[131]. Эти ученые обратили внимание на опыт краудворкеров или микроработников, которые выполняют повторяющиеся цифровые задачи, лежащие в основе систем ИИ, такие как маркировка тысяч часов учебных данных и проверка подозрительного или вредоносного контента. Рабочие выполняют повторяющиеся задачи, которые поддерживают утверждения о волшебстве ИИ, однако они редко получают похвалу за то, что заставляют системы функционировать[132].
Хотя этот труд необходим для поддержания систем ИИ, он в большинстве случаев очень низко оплачивается. В ходе исследования, проведенного Международной организацией труда ООН, было опрошено 3500 краудворкеров из 75 стран, которые регулярно предлагают свой труд на популярных платформах для выполнения заданий, таких как Amazon Mechanical Turk, Figure Eight, Microworkers и Clickworker. Отчет показал, что значительное число людей получали ниже минимальной заработной платы, даже несмотря на то, что большинство респондентов являлись высокообразованными гражданами, часто со специализацией в области науки и техники[133]. Аналогичным образом, те, кто занимается модерацией контента – оценивает видео на предмет насилия или нецензурной лексики – также получают низкую зарплату. Как показали такие исследователи СМИ, как Сара Робертс и Тарлетон Гиллеспи, подобная работа способна оставить после себя длительные психологические травмы[134].
Между тем, без этой работы системы ИИ не будут функционировать. Техническое сообщество исследователей ИИ полагается на дешевый труд людей для решения многих задач, которые не могут быть выполнены машинами. В период с 2008 по 2016 год термин «краудсорсинг» появился менее чем в тысяче научных статей и достиг более чем двадцати тысяч – что вполне логично, учитывая, что в 2005 году запустили Mechanical Turk. Но в тот же период времени почти не обсуждалось, какие этические вопросы могут возникнуть, если полагаться на рабочую силу, которая получает гораздо ниже минимальной заработной платы[135].
Конечно, существуют серьезные причины игнорировать зависимость от низкооплачиваемой рабочей силы. Вся работа, которую выполняют люди, – от маркировки изображений для систем компьютерного зрения до тестирования правильности результатов работы алгоритма, – позволяет совершенствовать системы ИИ гораздо быстрее и дешевле, особенно если сравнивать с оплатой труда студентов за выполнение таких же задач (как это было принято раньше). По этой причине данный вопрос обычно игнорируется, и, как заметила одна исследовательская группа, использующая краудворкинг, клиенты, использующие эти платформы, «ожидают дешевого выполнения труда, как будто платформа – это не интерфейс для работающих людей, а огромный компьютер без затрат на проживание»[136]. Другими словами, клиенты относятся к человеческим работникам как к машинам, потому что признание их работы и справедливое вознаграждение за нее сделают ИИ более дорогим и менее «эффективным».
Иногда работников напрямую просят притвориться системой искусственного интеллекта. Компания x.ai, создающая цифровой персональный помощник, утверждала, что ИИ-агент по имени Эми может «волшебным образом планировать встречи» и выполнять множество повседневных задач. Но подробное расследование Bloomberg, проведенное журналисткой Эллен Хуэт, показало, что это вовсе не искусственный интеллект. «Эми» тщательно проверялась и переписывалась командой контрактников, работавших по многу смен. Аналогичным образом, личный помощник Facebook, M, полагался на регулярное вмешательство человека со стороны группы работников, которым платили за проверку и редактирование каждого сообщения[137].
Имитация ИИ – изнурительная работа. Сотрудники x.ai иногда работали по четырнадцать часов в смену, аннотируя электронные письма, чтобы поддерживать иллюзию того, что сервис автоматизирован и функционирует круглосуточно. Они не могли уйти в конце ночи, пока не заканчивались очереди писем. «Я уходил, чувствуя полное оцепенение и отсутствие каких-либо эмоций», – рассказал Хуэт, один из сотрудников в интервью[138].
Все это можно рассматривать как своего рода «потемкинский» ИИ – не более чем фасады, созданные для демонстрации инвесторам и доверчивым СМИ внешнего вида автоматизированной системы, которая на самом деле опирается на человеческий труд[139]. При благожелательном прочтении эти фасады являются иллюстрацией того, на что система может быть способна при полной реализации, или «минимально жизнеспособным продуктом», созданным для демонстрации концепции. При менее благосклонном прочтении «потемкинские» системы ИИ – это форма обмана, совершаемого поставщиками технологий, стремящимися заявить о себе в прибыльном технологическом пространстве. Но до тех пор, пока не появится другой способ создания крупномасштабного ИИ, не требующий длительной работы людей за занавесом, это основная логика работы ИИ.
Писательница Астра Тейлор назвала перепродажу высокотехнологичных систем, которые на самом деле не автоматизированы, обманом[140]. Кажется, что автоматизированные системы делают работу, которую раньше выполняли люди, но на самом деле система просто координирует работу человека в фоновом режиме. Тейлор приводит примеры киосков самообслуживания в ресторанах быстрого питания и систем самостоятельной кассы в супермаркетах как мест, где труд работника, казалось бы, заменен автоматизированной системой, но на самом деле он просто перенесен с оплачиваемого работника на клиента. Между тем, многие онлайн-системы, принимающие на первый взгляд автоматизированные решения, такие как удаление дублирующихся записей или оскорбительного контента, на самом деле обслуживаются людьми, работающими из дома над бесконечными очередями рутинных задач[141]. Подобно потемкинским декоративным деревням и образцовым мастерским, многие ценные автоматизированные системы включают в себя комбинацию низкооплачиваемых цифровых рабочих и потребителей, выполняющих бесплатные задачи для обеспечения функционирования систем. Тем временем компании стремятся убедить инвесторов и общественность в том, что работу выполняют умные машины.
Что же стоит на кону такого искусства? Истинные трудозатраты на ИИ постоянно преуменьшаются и замалчиваются, но силы, движущие этим представлением, лежат глубже, чем просто маркетинговый трюк. Это часть традиций эксплуатации и увольнения, когда люди должны выполнять более утомительную и повторяющуюся работу, чтобы заполнить автоматизированные системы. Однако этот подход может масштабироваться, обеспечивая снижение затрат и увеличение прибыли, при этом скрывая, насколько он зависит от удаленных работников, получающих прожиточный минимум и перекладывающих на потребителей дополнительные задачи по обслуживанию или проверке ошибок.
Ложная автоматизация не заменяет напрямую человеческий труд, скорее, она перемещает и рассредотачивает его в пространстве и времени, при этом усиливая разрыв между трудом и стоимостью, и тем самым выполняя идеологическую функцию. Работники, отчужденные от результатов своего труда и отделенные от других людей, выполняющих ту же задачу, легче подвергаются эксплуатации со стороны работодателей. Об этом свидетельствует крайне низкий уровень компенсации, которую получают краудворкеры по всему миру[142]. Они сталкиваются с реальным фактом, что их труд взаимозаменяем любым из тысяч других сотрудников, конкурирующих с ними за работу на платформах. В любой момент их может заменить краудворкер или, возможно, более автоматизированная система.
В 1770 году венгерский изобретатель Вольфганг фон Кемпелен сконструировал сложный механический автомат. Он построил шкаф из дерева с часовым механизмом, внутри которого прятался человек. Механический шахматист, как считали другие, отлично играл и все время выигрывал. Необычное устройство впервые было продемонстрировано при дворе императрицы Марии Терезии Австрийской, после чего его начали приглашать сановники и министры правительства, все из которых были абсолютно убеждены, что это разумный автомат. Реалистичная машина носила тюрбан, широкие штаны и отороченный мехом халат, чтобы создать впечатление «восточного колдуна»[143]. Этот расистский облик сигнализировал об экзотической непохожести, в то время, когда элиты Вены пили турецкий кофе и одевали своих слуг в турецкие костюмы[144]. Он стал известен как Механический Турок (Mechanical Turk). Однако, как оказалось, шахматный автомат являлся всего лишь искусной иллюзией: во внутреннем отсеке прятался умелый игрок, незаметно управлявший машиной.
Спустя 250 лет эта мистификация продолжает жить. Компания Amazon решила назвать свою краудсорсинговую платформу, основанную на микроплатежах, «Amazon Mechanical Turk», несмотря на ассоциации с расизмом и обманом. На платформе Amazon реальные работники остаются вне поля зрения в угоду иллюзии, что системы искусственного интеллекта автономны и разумны[145]. Первоначальная мотивация Amazon для создания Mechanical Turk возникла из-за неудач ее собственных систем искусственного интеллекта, которые не могли адекватно обнаружить дублирующие страницы товаров на розничном сайте. После ряда тщетных и дорогостоящих попыток решить эту проблему инженеры проекта привлекли людей, чтобы заполнить пробелы в своих оптимизированных системах[146]. Теперь Mechanical Turk связывает предприятия с невидимой и анонимной массой работников, которые борются за возможность поработать над серией микрозадач. Mechanical Turk – это массовая распределенная мастерская, где люди имитируют и улучшают системы искусственного интеллекта, проверяя и корректируя алгоритмические процессы. Это то, что глава Amazon Джефф Безос нагло называет «искусственным ИИ»[147].
Такие примеры потемкинского ИИ встречаются повсюду. Некоторые из них непосредственно видны: когда мы замечаем на дорогах один из современных самоуправляемых автомобилей, мы также видим человека-оператора на водительском месте, готового взять управление машиной на себя при первых признаках неисправности. Другие менее заметны, например, когда мы взаимодействуем с веб-интерфейсом чата. Мы имеем дело только с фасадами, скрывающими их внутреннюю работу, призванную скрыть различные комбинации машинного и человеческого труда в каждом взаимодействии. Мы не знаем, получаем ли мы ответ от самой системы или от человека-оператора, которому заплатили за ответ от ее имени.
Парадокс, с которым сталкивались многие из нас, заключается в том, что якобы для подтверждения подлинной человеческой личности при чтении веб-сайта нам необходимо убедить в этом систему reCAPTCHA компании Google. Поэтому мы послушно выбираем несколько квадратиков с номерами улиц, машин или домов. Мы бесплатно обучаем алгоритмы распознавания образов Google. И снова миф о доступности и эффективности ИИ зависит от слоев эксплуатации, включая использование массового неоплачиваемого труда для тонкой настройки систем ИИ самых богатых компаний на Земле.
Современные формы искусственного интеллекта не являются ни искусственными, ни интеллектуальными. Мы можем и должны говорить о тяжелом физическом труде шахтеров, труде на конвейере, кибернетическом труде в когнитивных потогонных цехах программистов-аутсорсеров, о низкооплачиваемом краудсорсинговом труде работников Mechanical Turk и неоплачиваемом нематериальном труде повседневных пользователей. Это те места, где мы видим, как планетарные вычисления зависят от эксплуатации людей по всей цепочке его добычи.
Чарльз Бэббидж хорошо известен как изобретатель первого механического компьютера. В 1820-х годах он разработал идею дифференциального двигателя – механической вычислительной машины, предназначенной для составления математических и астрономических таблиц. К 1830-м годам он разработал концептуальный проект аналитического двигателя, программируемого механического компьютера общего назначения с системой перфокарт для подачи инструкций[148].
Бэббидж также проявлял большой интерес к либеральной социальной теории и много писал о природе труда – сочетание его интересов в области вычислений и автоматизации работы. Вслед за Адамом Смитом он отметил разделение труда как средство рационализации фабричной работы и повышения эффективности. Однако он пошел дальше, утверждая, что промышленную корпорацию можно рассматривать как аналог вычислительной системы. Как и компьютер, она включает в себя множество специализированных подразделений, выполняющих определенные задачи. Все они координируются для производства определенного объема работы, но при этом трудоемкость конечного продукта остается практически незаметной для процесса в целом.
В своих более спекулятивных работах Бэббидж представлял себе идеальные потоки работы, проходящие через систему, которую можно представить в виде таблиц данных и отслеживать с помощью шагомеров и повторяющихся механизмов[149]. По его мнению, благодаря сочетанию вычислений, наблюдения и трудовой дисциплины можно будет обеспечить все более высокую степень эффективности и контроля качества[150]. Это было странное пророческое видение. Только в последние годы, с внедрением искусственного интеллекта в рабочем пространстве, необычные цели Бэббиджа – вычисления и автоматизация труда – стали возможны в масштабах страны.
Экономическая мысль Бэббиджа развивалась по аналогии с экономикой Смита, но отличалась от нее в одном важном аспекте. Для Смита экономическая ценность объекта понималась в зависимости от стоимости труда, необходимого для его производства. В представлении Бэббиджа, однако, стоимость фабрики проистекала из инвестиций в разработку производственного процесса, а не из рабочей силы сотрудников. Настоящей инновацией являлся логистический процесс, а рабочие просто выполняли поставленные перед ними задачи и управляли машинами в соответствии с инструкциями.
По мнению Бэббиджа, роль рабочей силы в цепочке создания стоимости в основном негативная: сотрудники могли не выполнить задачи в срок, предписанный высокоточными станками, на которых они работали, будь то из-за плохой дисциплины, травм, прогулов или сопротивления. Как отмечает историк Саймон Шаффер, «Бэббидж рассматривал фабрики как совершенные двигатели, а вычислительные машины – как идеальные компьютеры. Рабочая сила могла стать источником проблем, но точно не источником ценности»[151]. Фабрика задумывалась как рациональная вычислительная машина с единственным недостатком: хрупкой и ненадежной человеческой рабочей силой.
На теорию Бэббиджа, безусловно, оказывал влияние финансовый либерализм, что вынуждало его рассматривать труд как проблему, которую необходимо решить с помощью автоматизации. При этом человеческие издержки мало учитывались. Никто не пытался выяснить, каким образом автоматизация сможет улучшить трудовую жизнь работников фабрик. Вместо этого идеализированная машина Бэббиджа в первую очередь нацеливалась на максимизацию финансовой прибыли для владельцев заводов и их инвесторов. Аналогичным образом, сегодняшние сторонники ИИ представляют концепцию производства, где приоритетом является эффективность, сокращение затрат и повышение прибыли, а не, скажем, помощь сотрудникам путем замены монотонной тяжелой работы. Как утверждает Астра Тейлор: «Эффективность, к которой стремятся ИТ-евангелисты, подчеркивает стандартизацию, упрощение и скорость, а не разнообразие, сложность и взаимозависимость»[152]. Данный факт не должен никого удивлять: это результат стандартной бизнес-модели коммерческих компаний, где наивысшей целью является акционерная стоимость. В настоящее время мы живем в системе, в которой компании настроены на извлечение как можно большей прибыли. Между тем, 94 процента всех новых американских рабочих мест, появившихся в период с 2005 по 2015 год, созданы для «альтернативной работы» – работы, не связанной с полным рабочим днем и зарплатой[153]. И пока они получают выгоду от растущей автоматизации, люди работают больше часов, на большем количестве мест, за меньшую зарплату и в небезопасных условиях.
Одной из первых отраслей промышленности, где была внедрена механизированная производственная линия, стала мясоперерабатывающая промышленность Чикаго в 1870-х годах. Поезда привозили скот к воротам скотобойни; животные направлялись на убой на соседние предприятия; туши перевозились на различные мясные и перерабатывающие станции с помощью механизированной системы подвесных тележек, образуя то, что стало известно как поточная линия. Готовую продукцию можно было отправлять на далекие рынки в специально сконструированных железнодорожных вагонах-холодильниках[154]. Историк труда Гарри Брэйверман отметил, что чикагские скотобойни настолько полно реализовали концепцию Бэббиджа об автоматизации и разделении труда, что человеческие приемы, необходимые на любом участке поточной линии, мог выполнять практически любой человек[155]. Низкоквалифицированным рабочим можно было платить минимальную сумму и заменять при первых признаках проблем. Они сами становились таким же товаром, как и упакованное мясо, которое производили.
Когда Аптон Синклер писал «Джунгли», ужасающий роман о бедности рабочего класса, действие происходило на мясокомбинатах Чикаго. Хотя он и стремился показать трудности рабочих-иммигрантов в поддержку социалистических политических взглядов, книга произвела совершенно иной эффект. Изображения зараженного и гниющего мяса вызвали общественный резонанс по поводу безопасности продуктов питания и привели к принятию в 1906 году Закона о мясной инспекции. Однако внимание к рабочим было упущено. Влиятельные институты, от мясоперерабатывающей промышленности до Конгресса, желали вмешаться, чтобы улучшить методы производства, но обращение к более фундаментальной эксплуататорской динамике труда, которая поддерживала всю систему, было запрещено. Устойчивость этой модели подчеркивает, как власть реагирует на критику: независимо от того, идет ли речь о коровьих тушах или распознавании лиц, реакция заключается в том, чтобы принять регулирование на периферии, но оставить нетронутой основную логику производства.
Разделочный этаж Armour Beef, 1952 год. Предоставлено Чикагским историческим обществом
В истории автоматизации важное место занимают две другие фигуры: Генри Форд, чья сборочная линия начала двадцатого века вдохновлена чикагскими комбинатами, и Фредерик Уинслоу Тейлор, основатель научного менеджмента. Тейлор построил свою карьеру в последние годы девятнадцатого века, разработав систематический подход к управлению рабочим местом и сосредоточившись на мельчайших движениях тела рабочих. В то время как понятие Смита и Бэббиджа о разделении труда было призвано обеспечить способ распределения работы между людьми и инструментами, Тейлор сузил фокус до микроскопических подразделений в действиях каждого работника.
Секундомер, как новейшая технология точного учета времени, должен был стать ключевым инструментом наблюдения за рабочим местом как для начальников цехов, так и для инженеров-технологов. Тейлор использовал секундомеры для проведения исследований рабочих, включающих подробную разбивку времени, затрачиваемого на выполнение отдельных физических движений, связанных с любой конкретной задачей. Его «Принципы научного управления» создали систему количественной оценки движений с целью выработки оптимально эффективного расположения инструментов и рабочих процессов. Целью был максимальный объем производства при минимальных затратах[156]. Этот подход послужил примером описания Марксом господства времени: «Время – все, человек – ничто; он, самое большее, – это оболочка времени»[157].
Foxconn, крупнейшая в мире компания по производству электроники, выпускающая смартфоны Apple iPhone и планшеты iPad, является ярким примером того, как рабочие низведены до уровня животных, выполняющих жестко контролируемые задачи. Foxconn стала печально известна своими милитаристскими подходами после серии самоубийств в 2010 году[158]. Всего два года спустя председатель совета директоров компании, Терри Гоу, описал более миллиона своих сотрудников: «Поскольку люди – это тоже животные, управление миллионным стадом вызывает у меня головную боль»[159].
Контроль времени – это еще один способ управления. В сфере обслуживания и быстрого питания время измеряется до секунды. Работники McDonald’s оцениваются по выполнению таких показателей, как пять секунд на обработку заказа с экрана, двадцать две секунды на сборку сэндвича и четырнадцать секунд на упаковку блюда[160]. Строгое следование часам лишает систему права на ошибку. Малейшая задержка (клиент слишком долго делает заказ, кофеварка не работает, сотрудник заболел) может привести к каскадному ряду задержек, предупреждающих звуков и уведомлений руководства.
Еще до того, как работники McDonald’s приступят к работе, их время уже будет управляться и отслеживаться. Алгоритмическая система планирования, включающая анализ исторических данных и модели прогнозирования спроса, определяет распределение рабочих смен, в результате чего график работы может меняться от недели к неделе и даже день ото дня. В 2014 году в коллективном иске против ресторанов McDonald’s в Калифорнии отмечалось, что франчайзи руководят программным обеспечением, которое дает алгоритмические прогнозы относительно соотношения количества сотрудников и продаж, и инструктирует менеджеров сокращать персонал, когда спрос падает[161]. Работники сообщали, что им говорили не приходить на смену, а вместо этого слоняться поблизости, чтобы быть готовыми вернуться на работу, если в ресторане начнется оживление. Поскольку работникам платят только за отработанное время, в иске утверждалось, что это было равносильно значительной краже заработной платы со стороны компании и франчайзи[162].
Алгоритмическое распределение варьируется от очень коротких смен продолжительностью в час (или меньше) до очень длинных периодов во время наплыва – все, что наиболее выгодно. Алгоритм не учитывает человеческие издержки, связанные с ожиданием или невозможностью предсказать график и спланировать жизнь. Такая кража времени помогает повысить эффективность компании, но платить за нее приходится непосредственно сотрудникам.
Предприниматель в сфере быстрого питания Рэй Крок, который помог превратить McDonald’s в глобальную франшизу, присоединился к примеру Смита, Бэббиджа, Тейлора и Форда, разработав стандартную линию сборки сэндвичей и заставил своих сотрудников бездумно ей следовать. Наблюдение, стандартизация и сокращение индивидуального труда являлись центральными пунктами в методе Крока. Как утверждают исследователи труда Клэр Мэйхью и Майкл Куинлан в отношении стандартизированного процесса McDonald’s, «фордистская система управления фиксировала работу и производственные задачи в мельчайших деталях. Она требовала постоянного документированного участия и предполагала детальный контроль над рабочим процессом каждого человека. Вся концептуальная работа была практически полностью исключена из процесса выполнения задач»[163].
Объектом пристального внимания на заводе Ford стала минимизация времени, проведенного на каждом участке, или (время цикла). Инженеры делили рабочие задачи на все более мелкие части, чтобы их можно было оптимизировать и автоматизировать, а руководители дисциплинировали рабочих, когда те отставали. Супервайзеров, и даже самого Генри Форда, часто видели с секундомером в руках, записывающими время цикла и отмечающими любые несоответствия в производительности участка[164].
Сейчас работодатели могут пассивно наблюдать за рабочей силой, не выходя на заводской цех. Вместо этого рабочие заступают на смену, приложив пропуск или сделав отпечаток пальца на считывающем устройстве, прикрепленном к электронным часам. Они работают перед хронометрами, которые показывают минуты или секунды, оставшиеся на выполнение текущего задания до уведомления менеджера. Они сидят за рабочими местами, оснащенными датчиками, которые постоянно сообщают о температуре их тела, физическом расстоянии от коллег, количестве времени, которое они тратят на просмотр веб-сайтов вместо выполнения поставленных задач, и так далее. WeWork, гигантская компания по организации рабочих пространств, которая прогорела в течение 2019 года. Компания незаметно оснастила оснастила свои рабочие места устройствами наблюдения в попытке создать новые формы монетизации данных. Ее приобретение в 2019 году стартапа Euclid, занимающегося пространственной аналитикой, вызвало обеспокоенность, поскольку предполагалось, что компания планирует отслеживать своих же клиентов во время их перемещений по зданию[165]. Domino’s Pizza добавила на свои кухни системы машинного зрения, которые проверяют готовую пиццу на соответствие с установленными стандартами[166]. Аппараты наблюдения используются с целью получения входных данных для алгоритмических систем планирования, которые в дальнейшем модулируют рабочее время; или для сбора поведенческих сигналов, способных коррелировать с признаками высокой или низкой производительности; или просто продаются брокерам данных в качестве формы инсайта.
В своем эссе «Как Кремниевая долина устанавливает время» профессор социологии Джуди Вайкман утверждает, что цели инструментов учета времени и демографический состав Кремниевой долины не случайны[167]. Элитная рабочая сила Кремниевой долины «более молодая, более работоспособная и более приверженная». Они создают инструменты производительности, которые основаны на своего рода безжалостной гонке за максимальной эффективностью[168]. Это означает, что молодые люди, в основном мужчины-инженеры, часто не обремененные семейными или общественными обязанностями, создают инструменты, которые будут контролировать совершенно разные рабочие места, количественно оценивая производительность и потенциал сотрудников. В итоге трудоголизм и круглосуточная работа, зачастую восхваляемая технологическими стартапами, становятся неявным эталоном «идеала» сотрудника.
Координация времени становится все более детальной в технологических формах управления рабочим пространством. Например, протокол автоматизации производства (MAP) компании General Motors стал ранней попыткой обеспечить стандартное решение общих проблем координации производственных роботов, включая синхронизацию часов[169]. Со временем появились другие, более общие протоколы синхронизации времени, которые можно было передавать по сетям ethernet и TCP/IP, включая протокол сетевого времени (NTP) и, позднее, протокол точного времени (PTP), каждый из которых породил множество конкурирующих реализаций в различных операционных системах. И NTP, и PTP функционируют путем создания иерархии часов в сети, при этом «ведущие» часы управляют «ведомыми» часами.
Метафора «хозяин-раб» или «ведущий-ведомый» пронизывает всю инженерную и вычислительную технику. Одно из самых ранних употреблений этой расистской метафоры относится к 1904 году, когда описывались астрономические часы в обсерватории Кейптауна[170]. Однако термин получил распространение только в 1960-х годах, особенно после того, как был использована в вычислительной технике, начиная с Дартмутской системы разделения времени. Математики Джон Кемени и Томас Курц разработали программу разделения времени для доступа к вычислительным ресурсам после предложения одного из первых основателей ИИ Джона Маккарти. Как они писали в журнале Science в 1968 году: «Во-первых, все вычисления пользователей происходят на ведомом компьютере, а исполнительная программа („мозг“ системы) находится на ведущем компьютере. Поэтому невозможно, чтобы ошибочная или беглая пользовательская программа на ведомом компьютере „повредила“ исполнительную программу и тем самым остановила всю систему»[171]. Проблематичный вывод о том, что управление эквивалентно интеллекту, будет продолжать формировать область ИИ в течение десятилетий. Как утверждает Рон Эглаш, эта формулировка сильно перекликается с рассуждениями о беглых рабах до Гражданской войны[172].
Терминология «хозяин-раб» была воспринята многими как оскорбительная и была удалена из Python, языка кодирования, распространенного в машинном обучении, и Github, платформы для разработки программного обеспечения. Однако она сохраняется в одной из самых обширных вычислительных инфраструктур в мире. Spanner от Google – названный так потому, что охватывает всю планету, – это массивная, глобально распределенная, синхронно реплицируемая база данных. Это инфраструктура, которая поддерживает Gmail, поиск Google, рекламу и все распределенные сервисы Google.
Функционируя по всему миру, Spanner синхронизирует время на миллионах серверов в сотнях центров обработки данных. В каждом центре есть «хозяин», который постоянно получает GPS-время. Но поскольку серверы опрашивали различные задающие генераторы, существовала небольшая задержка в сети. Как Как устранили эту неопределенность? Ответ заключался в создании нового сетевого протокола – запатентованной формы, – чтобы все серверы могли синхронизироваться независимо от того, в какой точке планеты они находятся. Google без иронии назвал этот новый протокол TrueTime.
TrueTime функционирует путем установления доверительных отношений между локальными часами центров обработки данных, чтобы они могли решать, с какими коллегами синхронизироваться. Благодаря достаточно большому количеству надежных часов, – включая GPS-приемники и атомные часы, которые обеспечивают чрезвычайно высокую степень точности, – и достаточно низким уровням сетевой задержки, TrueTime позволяет набору серверов гарантировать определенную последовательность событий в глобальной сети[173].
Самое замечательное в этой системе – это то, как TrueTime справляется с неопределенностью при наличии дрейфа на отдельных серверах. «Если неопределенность велика, Spanner замедляется, чтобы ее переждать», – объясняют исследователи Google[174]. Это воплощает фантазию о замедлении времени, о его перемещении по своему усмотрению и о приведении планеты к единому запатентованному временному коду. Если рассматривать человеческое восприятие времени как нечто изменчивое и субъективное, движущееся быстрее или медленнее в зависимости от того, где мы находимся и с кем, то это социальное восприятие времени. TrueTime – это способность создавать смещающуюся шкалу времени под контролем централизованных главных часов. Подобно тому, как Исаак Ньютон представил себе абсолютную форму времени, существующую независимо от любого воспринимающего, Google изобрел свою собственную форму универсального времени.
Собственные формы времени уже давно используются для обеспечения бесперебойной работы машин, например, ими пользовались железнодорожные магнаты в XIX веке. В Новой Англии в 1849 году все поезда должны были принимать бостонское время, указанное William Bond & Son.[175] Как документально подтвердил Питер Галисон, руководителям железных дорог не нравилось переходить на другое время в зависимости от того, в какой штат направлялись их поезда, а генеральный директор железнодорожной компании New York & New England назвал переход на другое время «неприятностью и большим неудобством, не приносящим никакой пользы»[176]. Но после того как в 1853 году в результате столкновения поездов лоб в лоб погибли четырнадцать человек, возникло огромное давление, чтобы скоординировать все часы с помощью новой технологии телеграфа.
Как и искусственный интеллект, телеграф приветствовался как объединяющая технология, способная расширить возможности человека. В 1889 году лорд Солсбери хвастался, что телеграф «собрал все человечество на одной большой плоскости»[177]