Измерять и навязывать. Социальная история искусственного интеллекта - читать онлайн

Книга состоит из трех частей. В вводной части речь идет о вопросах методологии, а две основных посвящены истории – индустриальной и информационной эпохам соответственно. При этом в книге нет линейной истории технологии и автоматизации. Скорее, каждую главу можно читать как независимый «семинар» по изучению алгоритмических практик и машинного разума.

В первой главе я исхожу из необходимости прежде всего прояснить центральное вычислительное понятие: алгоритм. Что такое алгоритм? В компьютерной науке алгоритм определяют как конечную процедуру пошаговых инструкций по преобразованию ввода в вывод, которая оптимально использует имеющиеся ресурсы. В главе ставится под сомнение приведенное чисто техническое определение алгоритма и обосновывается его материалистическая критика, указывающая на экономические и социальные корни явления. Как и у других абстрактных понятий – таких как число или механизм, – у алгоритма долгая история. Как указал математик Жан-Люк Шабер, «алгоритмы существовали с незапамятных времен, задолго до того, как было придумано специальное слово для их обозначения»[59]. Обращаясь к социальной математике древнего индуистского ритуала Агничаяна, я утверждаю, что алгоритмическое мышление и алгоритмическая практика присущи всем цивилизациям, а не только метаязыку западной компьютерной науки. В противовес математическому и философскому интуитивизму, который верит в полную независимость ментальных конструкций, в главе подчеркивается, что алгоритмическое мышление возникло в качестве материальной абстракции из взаимодействия разума и орудий, направленного главным образом на решение экономических и социальных задач. Центральный тезис главы сформулирован намеренно остро: труд представляет собой первый алгоритм.

Основные части книги посвящены изучению машинного разума в две исторические эпохи и выявляют сходную проблематику. В первой части рассматриваются труд как источник знаний и автоматизация умственного труда в индустриальную эпоху в Великобритании. Этот период обычно исследуется с точки зрения ручного труда, накопления капитала и ископаемых источников энергии, а вовсе не в перспективе когнитивных аспектов. Во второй части анализируется распространение коннекционизма (доктрины искусственных нейронных сетей) в кибернетических кругах в США 1940–1960‑х годов. Искусственные нейронные сети возникли в результате проекта автоматизации зрительного труда (т. н. распознавания образов), отличного от ручного и умственного. Я утверждаю, что изучение роли знаний, умственного труда и науки в XIX веке необходимо для понимания истории автоматизации, подготовившей восхождение ИИ в XX веке. Обе части книги подходят с разных сторон к одной проблеме: взаимосвязи между формами технологических инноваций и социальной организацией.

Как отмечали историки науки Дастон и Шаффер, движущую силу современных вычислений легче найти в мастерских индустриальной эпохи, чем в томах по математике или натурфилософии того же времени. Поэтому во второй главе в попытке избежать традиционной машинной агиографии новаторские эксперименты Бэббиджа в области автоматизированных вычислений – его Разностная и Аналитическая машины – пересмотрены с экономической точки зрения. Для объяснения устройства этих первых компьютеров (и воплощенного в них варианта «машинного разума») в главе описываются два принципа анализа труда, выработанные Бэббиджем. Согласно первому аналитическому принципу (трудовой теории машин), конструкция машины воспроизводит и заменяет схему разделения труда. Второй принцип (исчисления труда, т. н. принцип Бэббиджа) гласит, что разделение труда на мелкие задачи позволяет измерить и приобрести ровно столько труда, сколько требуется для производства. При совмещении два принципа дают промышленную машину, которая не только делает труд более интенсивным, но и выступает как инструмент (и неявная метрика) его измерения. Бэббидж применил оба принципа к автоматизации ручного счета. Так возникло вычисление – как автоматизация умственного труда и подсчет его стоимости.

Помимо представления обычных «термодинамических» интерпретаций ручного труда, в третьей главе показывается, что сложные понятия умственного труда, коллективного разума и отчуждения знания были разработаны уже в индустриальную эпоху. В этой главе исследуются идеи вокруг становления политической экономии в XIX веке, движения Института механики, общественной кампании «Марш разума» и Вопроса о машинах (дебаты о технологиях и безработице, волновавшие английское общество в те годы). Также освещены противоположные размышления о введенных Бэббиджем принципах анализа труда и изобретательстве. С одной стороны, я показываю, что задолго до появления теоретиков общества знаний в XX веке рикардианские социалисты Уильям Томпсон и Томас Годскин выдвинули познавательную теорию труда. С другой стороны, подчеркиваю необходимость признать влияние промышленных машин и инструментов на развитие знаний о природе, что требует расширить машинную теорию науки. В результате выражение «машинный интеллект» приобретает по меньшей мере четыре значения:

человеческое знание машины;

знание, воплощенное в ее конструкции;

человеческие задания, ею автоматизированные;

новое знание о мире, ставшее возможным благодаря ее применению.

Четвертая глава посвящена тому, как связаны Бэббидж и другой столп политической экономии индустриальной эпохи, Карл Маркс, – эта тема все еще изучена недостаточно[60]. Здесь исследуется вплетение знаний в материальные действия и артефакты и дано соответствующее прочтение теорий Маркса. В известном отрывке из Grundrisse[61] философ предсказывал, что постепенное накопление знаний (то, что он назвал «всеобщим интеллектом») в машинах подорвет законы капиталистического накопления и вызовет его фатальный кризис. Благодаря интерпретации итальянских операистов, данной в 1989 году, этот необычный отрывок, получивший название «Фрагмент о машинах», обрел широкую известность среди исследователей и активистов в качестве пророчества об экономике знаний, пузыре доткомов и восхождении ИИ. После десятилетий всевозможных спекуляций в этой главе впервые раскрывается происхождение идеи всеобщего интеллекта (general intellect), которую Маркс встретил в книге Уильяма Томпсона «Исследование принципов распределения богатства» (An Inquiry into the Principles of the Distribution of Wealth; 1824). Также я объясняю (и это даже важнее), почему это понятие не вошло в «Капитал». У Томпсона Маркс почерпнул идею добродетельного накопления знаний и аргумент, согласно которому знание, отчуждаясь в машинах, становится враждебным по отношению к рабочим. Однако именно у Бэббиджа Маркс нашел альтернативную теорию, позволяющую понять двусмысленную роль знаний и науки в промышленной экономике. В «Капитале» Маркс заменил утопические упования на всеобщий интеллект материальной фигурой «совокупного рабочего» (Gesamtarbeiter) – другое имя расширенной трудовой кооперации. Фигура совокупного рабочего как некоего сверхорганизма, объединяющего людей и машины, знаменует в этой книге переход к эпохе кибернетики и кибернетическим экспериментам по самоорганизации. Переходную роль выполняет пятая глава, где кратко описана трансформация труда индустриальной эпохи в век кибернетики и разъясняется, как труд распался на абстрактную энергию и абстрактную форму (информацию).

Вторая часть посвящена коннекционизму как главной родословной современных систем ИИ (я избегаю повторения известной литературы по кибернетике, теории информации и символическому ИИ). В шестой главе развитие искусственных нейронных сетей рассматривается с точки зрения, которой обычно пренебрегают, а именно в перспективе исследований самоорганизации организмов и машин (их обошла вниманием даже Боден в своей огромной истории ИИ). Теории самоорганизации сегодня востребованы в физике, химии, биологии, неврологии и экологии, но именно в среде кибернетиков, а не представителей естественных наук, в середине XX века вспыхнули дебаты о самоорганизации. В главе рассмотрены парадигмы самоорганизующихся вычислений, которые способствовали, среди прочего, укреплению коннекционизма, – в частности, концепция нейронных сетей Уоррена Мак-Каллока и Уолтера Питтса (1943–1947), клеточные автоматы Джона фон Неймана (1948) и перцептрон Розенблатта (1957). Также в шестой главе исследуется реакция кибернетических теорий самоорганизации на социотехнические изменения. Подобно иным вариантам механистического мышления в другие века, кибернетика проецировала на мозг и природу формы организации, которые были частью технического состава окружающего общества. Ключевым примером здесь выступает телеграфная сеть, которая использовалась в XIX веке в качестве аналогии нервной системы, а в ХХ веке – для формализации нейронных сетей, включая машину Тьюринга.

В седьмой главе прослеживается связь концепций искусственных нейронных сетей Мак-Каллока и Питтса с забытым спором о гештальте: дебаты о человеческом восприятии как о когнитивном акте, который может быть представлен аналитически и, следовательно, механизирован. В учебниках по машинному обучению обычно утверждается, что Мак-Каллок и Питтс вдохновлялись нейрофизиологией мозга, но авторами упускается из виду упомянутый интеллектуальный сор. Между тем, именно после этих дебатов выражение «гештальт-восприятие» из военных и академических публикаций превратилось в широко известное словосочетание «распознавание паттернов». Спор о гештальте – это когнитивная окаменелость нерешенной проблемы, и ее изучение помогает понять форму и ограничения, унаследованные глубоким обучением, в частности, неразрешенное противоречие между восприятием и познанием, образом и логикой, которое преследовало технонауку XX века.

В восьмой главе разъясняется двойственная роль неолиберального экономиста Фридриха фон Хайека в укреплении коннекционизма. В книге 1952 года «Сенсорный порядок» Хайек предложил коннекционистскую теорию разума, куда более продвинутую, чем определения ИИ, выработанные на Дартсмутском семинаре в 1956‑м. В этом тексте, как предположили Мак-Каллок и Питтс, Хайек размышлял о создании машины, функционально подобной «нервной системе как инструменту классификации»[62]. Подобно кибернетикам Хайек изучал самоорганизацию разума, но с другой целью: его интересовала не промышленная автоматизация, а автономия рынка.

Девятая глава посвящена одному из наиболее важных и наименее изученных эпизодов в истории ИИ: изобретению Розенблаттом в 1950‑х годах искусственной нейронной сети перцептрон. Несмотря на свои ограничения, перцептрон стал прорывом в истории вычислений – в нем впервые была автоматизирована техника статистического анализа; по этой причине его считают первым алгоритмом машинного обучения[63]. В качестве технической формы перцептрон претендовал на имитацию биологических нейронных сетей, но с математической точки зрения осуществлял совсем другой трюк. Чтобы решить задачу распознавания образов, машина представляла пиксели изображения как независимые координаты в многомерном пространстве. Любопытно, что статистический метод многомерной проекции зародился в психометрии и евгенике в конце XIX века и аналогичен тому методу оценки «общего интеллекта» [general intelligence], который Чарльз Спирмен реализовал в спорном тесте на определение коэффициента интеллекта (IQ). Это еще одно доказательство социальной генеалогии ИИ: первая искусственная нейронная сеть – перцептрон – родилась не как автоматизация логического рассуждения, а как статистический метод, который применялся для измерения интеллекта в когнитивных задачах и соответствующей этим измерениям организации социальной иерархии.

В заключении утверждается, что принцип действия ИИ представляет собой не только автоматизацию труда, но и навязывание социальной иерархии ручного и умственного труда посредством автоматизации. С XIX по XX век «хозяйский глаз» промышленного капитализма охватил все общество и установил новые формы контроля, основанные на статистических измерениях «интеллекта», с целью дискриминировать рабочих по уровню навыков. Результаты теста IQ применялись именно так: американский психолог Льюис Терман в 1919 году заявлял, что «IQ 75 или ниже обычно относится к неквалифицированным рабочим, от 75 до 85 – диапазон для полуквалифицированного труда, а показатели 80 или 85 вполне достаточны для успеха в некоторых видах квалифицированного труда»[64]. ИИ продолжает кодировать социальные иерархии и дискриминировать рабочую силу, косвенно навязывая метрики разумности. Классовые, гендерные и расовые предубеждения, которые системы ИИ, как известно, только усиливают, следует рассматривать не как технический недостаток, а как неотъемлемую дискриминационную черту автоматизации при капитализме. Предвзятость ИИ не ограничивается социальным угнетением: она также выражается в неявном навязывании иерархии труда и знаний, что усиливает поляризацию квалифицированных и неквалифицированных работников на рынке труда. Замену традиционных рабочих мест системами ИИ следует рассматривать вместе с умножением прекарных, низкооплачиваемых и маргинализированных рабочих мест в глобальной экономике[65]. ИИ и «призрачная работа» – две стороны одного и того же механизма автоматизации труда и социальной психометрии.

Наконец, выдвинутая в книге трудовая теория автоматизации представляет собой не только аналитический принцип, нужный для демонтажа «верховного алгоритма» монополий ИИ, но и принцип синтетический. Он говорит о практике социальной автономии, которая создаст новые формы знания и новые культуры изобретательства.

1. Материальные орудия алгоритмического мышления

Воссоздание расчлененного бога

В космогоническом мифе индуистских Вед говорится, что верховное божество Праджапати распадается на части в акте сотворения вселенной. После творения происходит нечто контринтуитивное с точки зрения западных нарративов о господстве и принципов непротиворечивости: тело творца оказывается разобранным и расчлененным. В Индии этот древний миф разыгрывают в ритуале Агничаяна. Ритуал предполагает строительство огненного алтаря Шьеначити, и этот процесс служит символическим воссозданием распавшегося тела бога (см. рис. 1.1).

Рис. 1.1. Диаграмма огненного алтаря Агничаяна (Staal F. Greek and Vedic geometry // Journal of Indian Philosophy 27, no. 1 (1999): 111)

Алтарь Шьеначити возводят из тысячи кирпичей выверенной формы и точного размера в соответствии со сложной схемой, изображающей сокола. Рабочие кладут пять слоев по 200 кирпичей в каждом, повторяя специальную мантру и следуя пошаговым инструкциям. В основе ритуала лежит решение загадки: каждый слой должен повторять одну и ту же пространственную форму, но различаться внутренней конфигурацией[69]. Соколиный алтарь следует обращать на восток, знаменуя предстоящий символический полет воссозданного бога к восходящему солнцу – здесь мы видим уникальный пример божественного перевоплощения средствами геометрии.

Агничаяна подробно описана в шульба-сутрах; это посвященное вопросам геометрии дополнение к Ведам записано около 800 года до н. э. в Индии и опирается на гораздо более древнюю устную традицию[70]. Согласно этим текстам риши (духи жизни) создали семь пуруш (космических существ), имеющих форму квадрата; вместе они образовали единое тело, а уже из этой простой конфигурации возникло сложносоставное тело Праджапати[71]. Шульба-сутры учат строить алтари определенных геометрических форм, чтобы снискать благорасположение богов. Так, говорится, что «тем, кто хочет уничтожить настоящих и будущих врагов, следует построить огненный алтарь в форме ромба»[72]. Помимо религиозного значения ритуал Агничаяна и шульба-сутры обладали функцией передачи важных для общества техник, например умения планировать строительство и увеличивать существующие здания с сохранением первоначальных пропорций[73]. Агничаяна служит примером того, что математическое знание изначально носит социально-материальный характер, а также демонстрирует типичную для кастовой системы иерархию ручного и умственного труда. При сооружении жертвенника рабочие руководствуются правилами, которые традиционно существуют лишь у определенной группы мастеров. Она же и передает эти правила. Ритуалы, подобные Агничаяне, – это не только упражнения в геометрии. Они обучают процедурному знанию, которое не сводится к абстракции и основано на продолжительной «механической» тренировке. Кроме того, они показывают, как религия может побуждать к точности, а духовные упражнения – использоваться как средство трудовой дисциплины[74].

Агничаяна – уникальный артефакт в истории человеческой цивилизации: это самый древний задокументированный ритуал, который практикуется по сей день, хотя из-за сложности и проводится лишь несколько раз в столетие[75]. На протяжении тысячелетий с его помощью передавались и сохранялись сложные парадигмы знания, и благодаря комбинаторному механизму Агничаяны этот ритуал можно определить как первичный пример алгоритмической культуры. Что же позволяет интерпретировать как алгоритм столь древний ритуал? Согласно одному из самых распространенных в компьютерной науке определений, алгоритм, как уже упоминалось, – это конечная процедура пошаговых инструкций для преобразования ввода в вывод вне зависимости от данных и с наилучшим использованием имеющихся ресурсов[76]. Рекурсивные мантры, которые направляют рабочих на строительной площадке огненного алтаря, напоминают правила компьютерной программы: вне зависимости от контекста алгоритм Агничаяны позволяет точно распределить кирпичи и построить Шьеначити. Историки обнаружили, что индийская математика с древних времен носила преимущественно алгоритмический характер. Это означает, что задачи предлагалось решать не с помощью логической демонстрации, а путем пошаговой процедуры[77].

Так, итальянский математик Паоло Целлини утверждает, что ритуал Агничаяны свидетельствует о более сложной технике, чем следование жесткому правилу, а именно – об эвристическом методе пошаговой аппроксимации. Известно, что ведическая математика раньше, чем это произошло у других цивилизаций, познакомилась с бесконечно большими и бесконечно малыми числами. В древних сутрах перемножались огромные позиционные числа индуистской системы счета для охвата необъятных просторов вселенной (мыслительное упражнение, которое невозможно себе представить, например, в аддитивных шумерских, греческих и римских системах счисления). Ведическая математика также была знакома с иррациональными числами, например квадратным корнем, который во многих случаях (например, √2) можно рассчитать только приблизительно. В мантрах шульба-сутр пропеваются самые древние (и доскональные) объяснения вычислительных процедур (например, так называемого вавилонского алгоритма) для приближенного выражения квадратного корня. Процедуры приближения могут показаться громоздкими, слабыми и неточными по сравнению с математическими функциями и геометрическими теоремами, но их роль в истории математики и техники важнее, чем это принято считать. В книге по истории методов постепенного прироста (включая, среди прочего, древний метод гномона) Целлини утверждал, что индуистские методы пошагового приближения эквивалентны современным счетным алгоритмам Лейбница и Ньютона и даже техникам исправления ошибок, которые лежат в основе искусственных нейронных сетей и машинного обучения, составляющих парадигму ИИ (см. главу 9)[78].

Некоторым прочтение древних культур через парадигму новейших технологий Кремниевой долины, как и изучение математической составляющей религиозных ритуалов в эпоху оголтелого национализма, может показаться актом незаконного присвоения. Однако утверждать, что абстрактные техники познания и искусственные метаязыки безраздельно принадлежат современному индустриальному Западу, исторически неверно. Подобное утверждение – акт скрытого эпистемического колониализма по отношению к культурам других эпох и регионов[79]. Альтернативные формы вычислений, лежащие вне гегемонии Глобального севера и присущего ему режиму экстрактивизма знаний, получили признание и изучаются благодаря вкладу этноматематики, деколониальных исследований, а также истории науки и техники. Алгоритмами из-за их роли в компьютерном программировании обычно считают абстрактное применение сложных наборов правил. В этой книге я, напротив, утверждаю, что все алгоритмы, включая сложные алгоритмы искусственного интеллекта и машинного обучения, берут начало в общественной и материальной деятельности. Алгоритмическое мышление и алгоритмические практики, широко понимаемые как решение задач на основе правил, представляют собой часть всех культур и цивилизаций.