В настоящее время для развития технологий в рамках Narrow ИИ, серьезных и глубоких знаний о психологии, сознании и биологии – не требуется. Основной объем работы и решений приходится на программирование, технологии, алгоритмы и т.п. Но если наши амбиции устремляются к созданию ИИ, уровня человека, то баланс существенным образом смещается в пользу психологии и смежных дисциплин – биологии, социологии, математики, логики, философии, антропологии, нейропсихологии и нейролингвистики, когнитивных дисциплин и др.
С одной стороны, предполагается, что ИИ уровня человека, обязательным образом должен интегрировать наиболее прогрессивные достижения этих дисциплин и накопленные научно-практические знания о человеке, сознании, мозге, интеллекте, мышлении и т.п.
С другой стороны, наряду с достижениями, ИИ вынужден наследовать нерешенные проблемы смежных дисциплин, которые зачастую в неизменном виде, некритично и подспудно переносятся в сферу ИИ. Удивительным образом эти «родовые проклятия» практически полностью совпадают с теми понятиями и феноменами, в которых индустрия ИИ ищет надежную опору для своего дальнейшего развития. В том числе, к таковым относятся наиболее фундаментальные и ключевые понятия, такие как: сознание, интеллект, психика, поведение, эмоции, эволюция, естественный отбор и др.
Например, на данный момент психология обладает лишь примерными знания о том, что представляют собой эмоции, зачем они нам, какова их адаптационная функция и эволюционная история. Не менее ускользающим понятием является сам термин «психика» – наука не способна однозначно указать виды, которые являются носителями и обладателями психики – только лишь человек, «высшие» млекопитающие или другие живые организмы тоже?
Также психология до сих пор не смогла определиться с тем, что именно является источником психики и сознания – мозг и нервная система или возможны другие варианты? Если мозг и нервная система – это источники психики и сознания, то как быть с «донервными» видами – бактериями, грибами, растениями и др.? В соответствии с такой логикой, не обладая нервной системой, они не могут обладать психикой и сознанием. Но в таком случае, каким образом организмам без психики и сознания удавалось распознавать и решать задачи выживания и репродукции в течение сотен миллионов лет? Как удавалось выживать и процветать организмам в «допсихическую» и «досознательную» эпоху, если они не имели функционала распознания и принятия решений?
В результате каких явлений и процессов организмы стали обладать сознанием и/или психикой? В какой момент истории жизни на Земле возникает сознание и психика – в ходе эволюции или сразу же в момент зарождения жизни? Какой психикой обладал LUCA – первый живой организм на Земле?
Что вообще из себя представляет эволюция психики и сознания, в чем ее измерять и по какой шкале? Психология также не сильно помогла в этом вопросе – эволюция психики и сознания также не имеет единой теории и концепции. Разработанная еще в Советском Союзе основателем психологического факультета МГУ, Леонтьевым Алексеем Николаевичем теория эволюции психики (Леонтьев, 1972), фактически, до сих пор остается единственной признанной теорией в отечественной психологии. Концепций эволюции сознания разработано на данный момент несколько, в том числе и автором данной работы («Эволюция сознания: пять базовых когнитивно-поведенческих паттернов», Фролов, 2021), но единой общепринятой теории эволюции сознания в настоящее время, тем не менее, на данный момент не существует.
В чем разница между сознанием, мышлением, интеллектом и психикой? Что такое интеллект, и в чем он измеряется применительно к живым организмам помимо человека? Аналогичные вопросы вызывают другие привычные термины научного обихода, в том числе – сознание, поведение, личность, инстинкты, эволюция и даже – жизнь. Строго говоря, однозначных определений и четких критериев для этих понятий до сих пор не существует, а имеющиеся – вызывают больше вопросов и споров, чем проясняют суть явлений.
Когнитивные дисциплины также не дают ответа на вопросы – что представляет собой архитектура сознания? Каковы базовые структуры сознания и каким образом организм выделяет из всего множества элементов информационного поля именно те, которые связаны с наиболее актуальной задачей, требующей поведенческого решения в каждый момент времени? Какова связь сознания с информационным полем данного организма и его поведением? Каким образом организмы управляют и контролируют процесс распознания значений элементов среды и их переводом в изменение поведения? Современные знания об интеллекте, сознании и психике человека ограничены и весьма расплывчаты: «современная когнитивная наука имеет мало, что сообщить о сознании» («Modern cognitive science has had almost nothing to say about consciousness». Chalmers, 1996; перевод цитаты – С.Ф.).
В биологии для искусственного интеллекта ситуация сложилась не сильно лучше: помимо отсутствия единой классификации животных (на данный момент существует не менее 4 основных), биология до сих пор не смогла представить шкалу эволюционного развития живых организмов.
На данный момент существует лишь хронологическая шкала появления и развития видов, но не существует единиц измерений и четких критериев для определения эволюционной «развитости» видов. Эволюционный подход в биологии – единственный и базовый со времен Дарвина, но что именно представляет собой эволюция, в чем она измеряется и по какой шкале – до сих пор однозначных ответов нет.
Так, например, Richard D. Levins and Richard C. Lewontin в своей работе «The Dialectical Biologist» (Levins&Lewontin, 1985) отмечают, что главная проблема эволюционных теорий заключается в отсутствие шкалы, на которой мы могли бы расположить виды в таком иерархическом порядке, чтобы можно было однозначно утверждать – данный вид эволюционно более «продвинутый» по сравнению с другим. Эта проблема одинаково актуальна как для биологической, так и когнитивной эволюции. О развитии и прогрессе в эволюции сознания можно говорить лишь в том случае, если существуют четкие критерии и единая шкала измерения, с помощью которых можно сказать – данный вид находится на шкале на более ранней стадии, а другой – на более поздней. Когнитивные способности одного вида более развиты, чем аналогичные способности другого.
Сам термин «эволюция» имплицитно подразумевает движение от простого к сложному, от примитивного к совершенному, от «низшего» к «высшему». Во многих работах по эволюции можно встретить подобного рода утверждения: «по мере эволюции жизнь усложняется, становится более опасной и конкурентной», «потребовала от видов стать более эффективными в соперничестве и добыче пищи». К таким, на первый взгляд, безобидным формулировкам и заключениям возникает множество вопросов. Например, для каких именно видов жизнь стала «более опасной и конкурентной»? Для всех сразу или для какой-то группы? В чем конкретно выражается повышение опасности? Насколько жизнь стала «более опасной и конкурентной», например, для акул, крокодилов или черепах за последние пару сотен миллионов лет? Если взглянуть на мир бактерий и одноклеточных, то первый вопрос, который возникает – что конкретно подобные виды организмов сделали для того, чтобы стать более «эффективными в соперничестве и добыче пищи»? – Просто остались бактериями и продолжают ими быть в течение 4 миллиардов лет, практически в неизменном виде?
Совсем непохоже, чтобы жизнь для бактерий стала «более опасной и конкурентной», а сами они существенно эволюционировали (если речь не идет о модификациях). Скорее наоборот, с появлением крупных многоклеточных организмов, для бактерий появились «передвижные дома» для жизни – уютные, полные пищи и подходящих условий для размножения.
Вообще, насколько верно утверждение, что бактерии менее развиты, чем животные или растения? «В каком смысле млекопитающие сложнее чем бактерия?» (Levins&Lewontin, 1985). «В чем измерить сложность, которая позволила сравнить человека и лягушку?» (Lewontin, 1998). Даже если бы удалось протестировать лягушку на уровень IQ, то такое сравнительное исследование показало бы лишь то, что лягушка не так хороша в тестах на IQ. Но вопрос – чем, например, человек сложнее лягушки – остался бы без ответа.
Современная картина живой природы представлена множеством совершенно разных видов. Каким-то образом «примитивные» и «низшие» виды сосуществуют вместе с «развитыми» и «высшими», как будто вопреки закону «естественного отбора», согласно которому менее приспособленные должны стать добычей и пищей более развитых. Тем не менее, не просто соседствуют, а процветают уже в течение миллиардов лет, в отличие от «вчера» появившихся (по эволюционным меркам) «высшим» млекопитающих и человека. Такое противоречие означает либо то, что «естественный отбор» не работает (что невозможно), либо то, что наши представления о «высших» и «низших» видах отражают реальность не вполне корректно.
Генетическая информация и связи также не могу быть использованы в качестве основания для градации видов по «сложности» на эволюционной шкале. В своей работе «Основные эволюционные переходы» Meynard Smith и Szathmáry подтверждают неоднозначность биогенетического подхода: «если мы посмотрим на общую ДНК, то будем вынуждены признать унизительный факт – двоякодышашие рыбы или морской лилии примерно в 40 раз сложнее человека» (Meynard Smith&Szathmáry, 1995; перевод цитаты – С.Ф.)
Лишь по сложившейся традиции, мы используем термины «высшие» и «низшие» виды, не обращая внимания на то, что не существует критериев, которые бы позволяли бы точно указать на то, что дельфины «выше» кошек или наоборот (MacLean, Matthews, Hare, et al, 2012). Такое деление, по сути – естественное желание людей упорядочить сложные системы каким-либо образом, чтобы упростить свое восприятие при отсутствии определения и критериев эволюционной «развитости» в целом.
Теория высшей нервной деятельности до сих пор рассматривает сознание, психику, поведение как продукт и одновременно, как результат работы исключительно мозга и нервной системой в целом. При этом зачастую, не делая различия между понятиями «мозг» и «сознание» (или «психика»), используя их практически как синонимы. Применительно к человеку это отчасти верно, так же как и к другим организмам обладающих нервной системой Но к организмам, не обладающих нервной системой –оснований считать эквивалентными «мозг» и «сознание» или «мозг» и «психика» – просто нет. Одноклеточные, растения, грибы и даже вирусы, также способны принимать вариативные решения и контролировать свое поведение в зависимости от обстоятельств и условий. Не обладая мозгом и нервной системой, они тем не менее, обладают способностью распознавать, принимать решения, совершать рациональный выбор. Они, безусловно, не обладают сознанием уровня человека или даже животного, но не имея мозга и нервной системы, демонстрируют наличие когнитивной деятельности в полной мере, то есть – сознания.
Еще одно «родовое проклятие» ИИ заключено в самом его названии – до сих пор не существует единого, общепринятого определения понятия «интеллект». Сам термин происходит от латинского intellectus – «понимать», «воспринимать», «познавать», «мыслить». Как правило, интеллект рассматривают как способность к выполнению определенной умственной деятельности: обучение, способность к рассуждению, понимание, извлечение смысла, распознание значений и связей, отделение и верификация фактов (Mueller&Massaron, 2016). Также часто к этому списку добавляют способность к эмпатии, чувство ситуации, альтруизм, коммуникативные навыки, лидерские качества и т.п. Большая советская энциклопедия дает такое определение: «интеллект выступает как синоним мышления, умственного развития личности». Оксфордский словарь английского языка определяет интеллект как «способность приобретать и применять знания и навыки». Словарь Merriam-Wesbter – как «способность учиться и понимать или справляться с новыми или трудными ситуациями».
Так, Daeyeol Lee приводит обзор определений термина «интеллект», которые предлагают различные специалисты в сфере человеческого и искусственного интеллекта (Lee, 2020). Например, согласно Говарду Гарднеру, «интеллект – это способность решать проблемы или создавать продукты, которые ценятся в одной или нескольких культурных средах» (Gardner & Hatch, 1989). Напротив, исследователи искусственного интеллекта Марвин Мински (1985) и Рэймонд Курцвейл (1999) определили интеллект как «способность решать сложные проблемы» и «способность оптимально использовать ограниченные ресурсы, включая время, для достижения целей» соответственно. Проанализировав около 70 различных определений интеллекта, Shane Legg и Marcus Hutter (Legg&Hutter, 2007), , предложили свое определение как способности субъекта «достигать целей в самых разных условиях» (см. также Lee, 2020).
Даже при поверхностном взгляде на представленные выше определения «интеллекта», обнаруживается несколько фундаментальных проблем и принципиальных несоответствий. Во-первых, определения включают в себя оценочные категории, которые сами требуют дополнительной шкалы, критериев и системы измерения, уже не могут считаться валидными. «Решать сложные проблемы», «создавать ценные объекты», «справляться с трудными ситуациями» и т.п. – такие формулировки не могут быть использованы в качестве определений и обесценивают те определения, в которых они применяются, потому что невозможно оценить – что и для кого представляется сложным, ценным, трудным.
Второй момент, который обращает на себя внимание – это то, что все представленные определения могут относиться как к человеку, так и к любому живому существу без исключения. В том числе – грибам, растениям, бактериям и т.д. Они тоже способны «решать сложные проблемы», «создавать ценные объекты» и «справляться с трудными ситуациями» и т.п. Не имея «способности приобретать и применять знания и навыки», не обладая «способностью учиться и понимать», никакие живые организмы, начиная с LUCA, не смогли бы выжить в естественной среде, а вид не смог бы удержаться в эволюции жизни на Земле в течение сотен миллионов и тем более – нескольких миллиардов лет.
Многие современные авторы справедливо критикуют чрезмерно широкое и вольное использование понятие «интеллект», поскольку оно размывает содержание и исходный смысл когнитивной деятельности. «Интеллект – термин, который напоминает переполненный чемодан, молния которого вот-вот разойдется» (Mitchell, 2019). Некоторые авторы вообще полагают, что «необходимы новые способы осмысления и понимания термина «интеллект» для его концептуализации» (N. Palanca-Castan, B. Sánchez Tajadura and R. Cofré, 2021). Действительно, одних только видов интеллекта – не менее восьми, согласно классической теории Гарднера («Теория множественного интеллекта», 1983): вербально-лингвистический, логико-математический, визуально-пространственный, музыкальный, телесно-кинестетический, межличностный, внутриличностный, натуралистический. При этом разработанные тесты для измерения уровня интеллекта вызывают больше споров, чем доверия. Например, уровень IQ устанавливается в результате решения заранее составленных задач, то есть таких, которые создали другие специалисты для того, чтобы оценить, насколько успешно и с какой скоростью с ними может справиться испытуемый. В результате тест указывает на место человека на шкале относительно других испытуемых относительно решения данных задач.
Однако жизнь в обществе (как и в естественной среде) не исчерпывается заранее составленными задачами из теста, и как правило, требуется не только найти решение поставленной задачи, но и определить – в чем именно проблема, и какая именно задача из множества требует решения в первую очередь. Адаптационное поведение человека в самом широком смысле требует именно таких навыков в первую очередь, а решение самой задачи – уже во вторую. Возможно, для ранжирования и иерархизации людей друг относительно друга подобные тесты могут быть полезны в определенных сферах, но они совершенно бесполезны для ранжирования «интеллектуальных» способностей живых организмов в естественной среде. При том, что по уровню «интеллекта» некоторые представители homo sapiens едва ли обгонят врановых, шимпанзе, попугаев или дельфинов.
Если мы готовы признать, что все живые организмы обладают интеллектом, то мы должны разработать универсальную шкалу и систему измерения «интеллекта» для всех живых организмов без исключения. При этом измерения и ранжирование должно исключать шовинистическое сравнение остальных организмов относительно человека и его «интеллектуальных» возможностей. Если нас интересуют объективные показатели, а не относительные значения, то необходима универсальная шкала, которая позволила бы оценить и измерить сложность видовых задач, и способности вида решать свои задачи выживания и репродукции в эволюционной и адаптационной перспективе. Насколько такая задача реалистична, учитывая разнообразие видов и различные среды обитания?
Чем способности пауков плести идеальную с инженерной точки зрения паутину превосходят или уступают способности растений совершенствовать дизайн семян и цветков, не имея органов дистанционного распознания и представлений об окружающем мире и пространстве? Или способность осьминогов изменять окрас, текстуру и форму, идеально совпадая с поверхностью и контекстом. Вживление голожаберным моллюском в свои покровы стрекательных клеток (клептокнидов), съеденных им стрекающих – насколько эта задача сложнее или проще способности коловраток самостоятельно встраивать в свою ДНК чужеродные гены (Gladyshev, E.A., Meselson M., Arkhipova, I.R., 2008)? Какие из этих задач сложнее? Как и по какой шкале это измерить?
– Ответов на эти вопросы не существует и даже постановка задач таким образом – нелепа; сам факт существования вида указывает на его «высшие» интеллектуальные возможности, благодаря которым он способен решать все свои задачи выживания и репродукции. С адаптационной и видовой точки зрения бактерии, растения, грибы, лягушки, кошки и человек – не отличаются своим «интеллектом». К жизни, выживанию, адаптации и эволюции – подобная иерархия неприменима, и любые попытки измерить «интеллект» видов – не просто «видовой шовинизм», но устаревший и безосновательный взгляд на живой мир как на «лестницу» развития, основанную на ложной иерархии и отсутствии объективных доказательств как эволюционной, так и интеллектуальной «развитости» видов.
С эволюционной точки зрения адаптационный «тест на IQ» пройден всеми живущими видами «на отлично», что подтверждается естественным отбором и самим фактом существования этих видов на Земле. С точки зрения эволюции и адаптации интеллект – ничтожный термин, не отражающий ровным счетом ничего о способностях вида решать «сложные» задачи, которые помогают ему выживать и продолжать род в естественной среде. В этом плане все живые организмы обладают интеллектом по шкале «адаптация и эволюция», уравнивающей интеллект всех живых организмов – если данный вид жив и процветает, значит, он успешно справляется со всеми своими актуальными задачами выживания и для каждой нашел эффективное решение. «Видовой шовинизм» – один из фундаментальных барьеров на пути к пониманию принципов как биологической эволюции, так и когнитивной.
Третий момент, на который стоит обратить внимание связан с тем, что представленные определения не вносят ясности – в чем отличие понятия «интеллект» от «сознания», и как оба связаны с поведением? Связан ли интеллект с адаптационным поведением, а если да, то каким образом? Насколько реалистично установить связь интеллекта с каждой формой и видом поведения прямо и однозначно? Возможно ли вообще ответить на этот вопрос, учитывая, что не существует конвенционального определения понятия «интеллект»? Также не разработаны критерии, которые позволили бы отделить адаптационное поведение из всех остальных форм и видов поведения живых организмов. Не установив однозначную связь интеллекта с поведением, невозможно установить – какое поведение относится к «интеллектуальному», а какое – лишено «интеллектуальности».
Согласно представленным определениям, интеллект – больше связан с решением неких «сложных», «новых», «нетривиальных» задач. Сознание же или когнитивная деятельность больше указывает на способность организма распознавать задачу, независимо от ее сложности, а также быстро и эффективно находить ее решение. В определенном смысле «интеллект» переносит акцент с распознания задачи на ее сложность и способность решения в кратчайшие сроки; сознание же сохраняет баланс между распознанием и решением, не связывая решение и «сложность задачи». В этой связи, возможно более подходящим названием для искусственного интеллекта, уровня человека было «сознание, уровня человека» или HLC – «human-like cognition».
В итоге ИИ унаследовал множество нерешенных проблем из ключевых дисциплин, которые приняли участие в его создании и продолжают определять и ограничивать его развитие. Эти проблемы стали «родовыми проклятиями» ИИ, не позволяющими перейти на следующий уровень – ИИ, уровня человека. ИИ повторяет судьбу «спящей красавицы», достигнув своего совершеннолетия которая, заклятьем недоброй феи, погружается в вековой сон. Не имея конвенциональных, единых определений того, что такое интеллект человека, психика, какова архитектура сознания, мы, тем не менее, продолжаем предпринимать попытки создать искусственный интеллект, уровня человека (General AI).
При этом к настоящему отсутствуют ясные представления о том, в каком направлении следует развивать научную мысль и как выглядит конечный продукт, хотя бы в самых приблизительных очертаниях. Само «техническое задание» по созданию ИИ, уровня человека (или аналогичного человеческому) до сих пор не сформулировано. Какого именно человека? – Ребенка, взрослого, новорожденного? Что вообще означает формула «уровня человека» или «как у человека»? Ни в одной другой сфере такое «ТЗ» не будет рассмотрено всерьез: никто не согласится подписать договор на строительство дома «как у людей» и никто не купит билет на самолет с уровнем комфорта и безопасности «как у человека».
Но именно так звучит техническое задание, которое сами себе сформулировали разработчики «ИИ, аналогичного человеческому». С одной стороны, это позволяет работать в этом направлении бесконечно долго и осваивать гигантское финансирование, не опасаясь, что кто-то в ближайшее время придет требовать результат. С другой – снять с себя всю ответственность за качество итогового продукта. Такая расплывчатая формулировка конечного продукта – не более, чем бесхитростная уловка, чтобы скрыть очевидное: у нас нет понимания, что значит «ИИ уровня человека» и возможность не признаваться еще в большем «грехе» – у нас нет понимания том, что из себя представляет интеллект и сознание человека.
Это лишь примеры наиболее предварительных вопросов, на которые до сих пор не существует окончательных ответов. Может показаться, что эти вопросы слишком удалены от проблем ИИ и не связаны с непосредственно с созданием ИИ, уровня человека. В действительности, без ответа на них невозможно реконструировать архитектуру сознания человека, которая бы стала основной функционирования искусственного интеллекта, уровня человека или хотя бы – подобного человеческому.
Не преодолев подобные «родовые проклятия» когнитивных дисциплин, не получится выйти на новый уровень развития и создать «ИИ, уровня человека». Для этого перехода необходимо «разбудить» и «расколдовать» ИИ, ответив на вопросы – что именно мы хотим получить, что такое «интеллект» человека, какова архитектура сознания и каковы критерии того, что мы в итоге получили именно то, что планировали? Если мы ставим перед собой задачу перехода от «доразумного» ИИ (Narrow AI) к ИИ, аналогичного человеческому (General AI), то этих вопросов не избежать и придется найти ответы на каждый из них, вернувшись к базовым понятиям смежных дисциплин.