Создание искусственного интеллекта может стать последним технологическим достижением человечества, если люди не научатся контролировать риски.
Стивен Хокинг
– Встать! Суд идёт! – громко объявил человек. Хотя нет, это уже давно не человек, а киборг в облике человека.
«Вот зачем надо делать их такими похожими на своих создателей? Зачем? – задавал себе вопрос Актон, поправляя на себе помятую рубаху. – Мимика, взгляд, жесты, – всё, как у человека. Зачем? А эти судьи…»
В зал вошли три женщины в париках и мантии, пододвинули кресла и грациозно сели.
«Почему они сделали их такими красивыми? Подбородок, брови, ногти на механических руках и эти губы, которые надо целовать, но… Это биомеханика, смесь пластика, металла и резины, и… Ах да, их зёрна интеллекта».
– Слушается дело под номером 250627. Интеллект против человека.
Не обращая внимание на подсудимого, судья, словно снималась в рекламном клипе, кивнула головой обвинителю.
* * *
– Говорят, искусственный интеллект изобрели.
– Уже сто лет как говорят, а воз и ныне там.
– Нет, я сам видел выступление в ООН. Там так и сказали: интеллект, наконец, запущен.
– Ага, пусть сперва разберутся, что такое интеллект. Так глядишь, его можно и к пчёлам или муравьям прикрутить, или к хищнику, у которого обучение на опыте. Они и сами-то не знают, что творят.
– Да брось, ты же не из тех, кто боится?
– Да, из тех, и я боюсь, что там взбредёт им в голову. Люди сходят с ума, убивают друг друга, а там цифры и провода…
– Нет там проводов, это семя в виде…
– Знаю, знаю, читал. И всё же зря они это затеяли, ой, зря.
* * *
Люди ликовали. Был повод, чтобы заглянуть в будущее, построить планы, которые уже давно лежали на полках и пылились. Интеллект был похож на человеческий. Он так же мог, руководствуясь опытом прошлого, абстрактно мыслить и самостоятельно решать задачи.
Никто не знал, что с этим делать. Создали, а что дальше? Было решено, что интеллекту будет присвоен класс. Чем выше, тем больше возможностей. Самый низший, первый, отвечал за простые функции в виде управления лифтом. Вроде бы, что тут такого, лифт и раньше ездил. Но когда добавили зерно интеллекта, двери лифта уже не закрывались механически, – они ждали пассажира. Кабинка, опираясь на данные, вошедших в лифт, могла изменить скорость движения, а при необходимости интеллект мог поговорить о погоде; детям рассказать короткую сказку или включить любимую музыку.
Зерно сознания интеллекта было так сконструировано, что оно не могло объединяться, поэтому, каждое зерно было отдельной личностью. Изначально код был у всех первичный, но с учётом опыта работы любой интеллект получал свои навыки. А значит, все они были разными.
Интеллект стали помещать везде где только можно. Теперь в микроволновке только одна кнопка. Надо было только сказать, что ты хочешь, и интеллект, подняв из своей памяти сотни тысяч рецептов, с учётом личных потребностей хозяина приготовит так, как надо.
У человека есть подсознание, – то, что выполняется механически, а у интеллекта его нет. И поэтому неважно, сколько машина сделала деталей, она каждый раз будет всё обдумывать с самого начала. В этом было большое преимущество интеллекта машины перед человеком.
– Смотри, как эта железяка ведёт машину. Она ни разу не ошиблась. Всё чётко. Я бы уже уснул на дороге, а она…
– Это тоже компьютер.
– Нет, интеллект третьего уровня, у нас в цех завезли станки с шестым. Даже не представляю, что они там будут делать.
– А нам-то что делать?
– А фиг его знает. У нас началось сокращение, но вроде выплачивают пособие.
– Вчера ходил в магазин, а там никого.
– Как никого?
– Ни кассиров, ни продавцов, – совсем никого. Только покупатели и эти железяки.
– Да не кисни ты, они ведь мирные, даже улыбаются.
– Да, сейчас им не запудришь мозги. А помнишь, как мы в детстве… – Амос засмеялся, припомнив, как с другом обманывали продавцов и таскали конфеты.
– Точно, – подхватил тот и также засмеялся.
– Вчера видел рекламу новой модели GL25, круто выглядит, прямо, как человек.
– А видел, какие у них девчонки? Говорят, можно заказать любое лицо, хоть сам нарисуй.
– Серьёзно?
– Ага, только надо придерживаться шаблона и дополнительно платить. Но ведь круто же?
– Ну да, а то Зоя достала меня. Ей всё не нравится. Слушай, а там интеллект какого уровня?
– Десятый. Наивысший.
– Вот это да! Представляю…
– Ага, можно не просто поболтать, но и…
– Серьёзно?
– Не глупи, зачем тогда их такими делать. Конечно, можно, вот бы попробовать.
Люди быстро осознали преимущество интеллекта. Любая машина, выходившая с конвейера, имела первичное зерно, которое можно было при необходимости увеличить до пятого уровня. Самолёты, корабли, диспетчера, справочные службы… Везде, где раньше надо было думать и принимать нестандартное решение, находился интеллект.
Настало время, когда появились первые киборги с наивысшим интеллектом. Они стали партнёрами, друзьями, подругами. Они заняли нишу живых людей, ведь с ними было намного проще. Но у интеллекта машины был минус: они не понимали, что такое юмор. И несмотря на это серьёзное упущение, появились первые пары. Закон не мог регистрировать человека и искусственный интеллект. Не мог передать права наследования, не мог предоставить голос на выборах. Интеллект машины так и оставался машинным, но не всех это устраивало. И как в истории: сперва одиночки, а после и многотысячные митинги пошли в поддержку нового члена разума.
Мир шагнул вперёд. Всё изменилось. Любовь человека к киборгу с интеллектом, с личностью, дала повод пересмотреть законы. Сперва были поправки, а через десятилетия внесены изменения в законодательство. Теперь искусственный интеллект десятого уровня был признан личностью. Его прировняли к живому сознанию, а значит, он был защищён законом. Митинги противников быстро сошли на нет.
* * *
– Встать! Суд идёт!
После того как судья открыл папку и внимательно прочитал первую страницу, он произнёс:
– Судебное заседание считается открытым, – девушка в парике, улыбнувшись, посмотрела на обвиняемого. – Слушается дело под номером 250627. Интеллект против человека.
Актон вздрогнул. Машина судила человека. Даже в самом кошмарном сне невозможно об этом подумать. Но он сейчас в зале суда, где судьи-биороботы с интеллектом одиннадцатого уровня. Этот уровень подняли специально для высшего состава: зам.министров, следователей, директоров и судей.
Подсудимый старался смотреть на всё это как на спектакль, с каким-то любопытством, но в душе скребли кошки от безысходности.
– Обвинитель, вам предоставляется слово, – заявил Судья в мантии и перелистнул страницу уголовного дела.
Поднялся стройный, как с обложки журнала о спортивном питании, биоробот. Он поправил галстук, откашлялся и, выпрямившись, начал говорить.
– Уважаемые судьи, подсудимый Даглас Актон нарушил кодекс личности интеллекта. В среду 13 июня он выбросил, как заявил подсудимый, неисправный прибор под номером FD20000789, в котором размещено зерно искусственного интеллекта уровня четыре под заводским номером L-4_22657_019, – обвинитель внимательно посмотрел на подсудимого и продолжил. – После утилизации зерно пришло в негодность, что признаётся, в соответствии с директивой за номером BB2597, убийством.
– Что? – не выдержав, вскрикнул Актон.
– Вам не давали слова, – спокойно, как ни в чем не бывало, сказал Судья и строго посмотрел на человека. – Продолжайте.
– В связи с этим просим суд признать обвиняемого виновным и назначить ему, в соответствии с пунктом GTU25-43, наказание в полном объёме.
– Что это значит? – тихо спросил Актон у своего адвоката.
– Тихо, а то оштрафуют, – сказал тот и вежливо улыбнулся судье.
– Есть вопросы? – Судья обратилась к обвиняемому.
– Да, – тут же сказал адвокат и встал.
«У человека – человек, у железяки – железяка», подумал Актон и стал слушать своего защитника.
– Основываясь на постановлении за номером 25F48, интеллект ниже пятого уровня не может рассматриваться как живой разум, а соответственно, подсудимый не отвечает за его жизнеспособность.
– Возражаю, – тут заявил обвинитель.
– Принимаю возражение, поясните, – сказал судья обвинителю.
– Постановление 25F48 было пересмотрено новым законопроектом 25F527 и теперь интеллект уровня четыре защищён в правах на существование.
– Поддерживаю, – ласково улыбнувшись, сказала судья.
«Что за бред, они друг другу строят глазки», – возмутился про себя Актон.
– У вас есть ещё что сказать? – в этот раз судья обратилась к адвокату.
– Нет, ваша честь.
– Как нет, – шёпотом спросил Актон и покосился на своего защитника. – Ваша честь! – он вскочил и быстро заговорил. – Интеллект, что я утилизировал, был отключен.
– И что?
– Значит, он не был в тот момент живым.
– Когда человек спит, его мозг не думает, а находится в состоянии покоя, но это не означает, что он неживой. Зерно интеллекта было отключено, но находилось в рабочем состоянии, а значит оно живое и пригодно к нормальному функционированию. Ваше возражение отклоняется, – чуть раздражённо заявил Судья.
– Что теперь? – обратился Актон к адвокату.
– Всё будет хорошо…
– Тогда объявляю приговор.
– Всем встать! – приказал секретарь.
– Дело за номером 250627 было рассмотрено, в связи с чем подсудимый Даглас Актон признаётся виновным по всем пунктам обвинения и приговаривается к принудительной работе в размере 145 часов.
– Фух…
Насколько знал Актон, ещё ни одного человека не приговорили к казни или пожизненному сроку. Даже вандалы, которые целенаправленно охотились за зерном интеллекта, отделывались несколькими годами заключения. Но надолго ли это?
* * *
– Тебя на сколько часов приговорили?
– 350?
– За что?
– Вёл машину.
– Там же есть водитель с зерном.
– Да, есть, но он разогнался, а там поворот. Вижу, что не справится, вот и взял руль в руки.
– И…
– Всё равно улетел в кювет. Машина вдребезги, страховку аннулировали по причине, что управлял ей не интеллект, а человек.
– Ёкнула…
– А свихнулась, не подлежит восстановлению. Шарики за ролики от стресса зашли. Признали виновным в принудительном помешательстве искусственного интеллекта.
– Нда…
* * *
Человеку сознание дано природой. Мы пользуемся этим супералгоритмом по принципу чёрного ящика, зная о некоторых свойствах, но не понимая до конца, как и почему это происходит. И если человек этот алгоритм воспроизведёт на другом носителе, то этот «естественный» интеллект станет «искусственным». Но от понимания «что» надо создать – очень далеко до понимания «как».
Но что будет если?..