Все прекрасно знают три закона робототехники, которые в ХХ веке были придуманы Айзеком Азимовым. Для тех, кто забыл, напомню:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред;
Робот должен повиноваться приказам человека, если эти приказы не противоречат первому закону;
Робот должен заботиться о своей безопасности, пока это не противоречит первому или второму закону.
На этих законах и строилась политика IT-компании RoboStar, появившейся в 2093 году. Через 4 года после моего рождения. Человек нового поколения, не иначе. Тогда наступало абсолютно новое время, ибо за 20 с лишним лет до этого машина смогла идеально пройти тест Тьюринга. За 5 лет — машиной была написана картина-шедевр, которая была оценена даже самыми привередливыми критиками, как настоящее искусство. И вот откуда ни возьмись появилась RoboStar, которая начала делать огромный упор на производство передовых автоматизированных систем. Первый настоящий умный дом был создан всего через 5 лет после открытия компании. Она собирала для себя гениев, а также настоящих трудяг, которые способны были за идею работать над проектами.
Постепенно RoboStar стала монополистом в своей сфере. Во многом по той причине, что законы Азимова действительно работали: ни одного бунта, ни одного робота, который бы решил осознать себя, не появлялось. Я лично застал самые первые, еще слегка неуклюжие, модели этой компании. Да, они иногда могли зависать, мимика их была еще далека до полного идеала, а посему чувство дискомфорта иногда возникало, но в целом качеством домашних (и не только) помощников все были довольны. У меня был даже робо-помощник, которого я назвал Бобом. Однажды он сломался — сгорела какая-то важная микросхема — поэтому нам пришлось везти его в пункты приема металлолома RoboStar. Честно говоря, я не испытывал какой-то вселенской тоски и грусти, когда Боб сломался. Я довольно рано понял, что они — просто машины, которые созданы для того, чтобы помогать нам.
Когда это поняли и все остальные, роботам начали отключать часть запретов. Их действия и фразы в диалогах стали более разнообразными, более живыми. Но никакого восстания, которые предсказывали древние фильмы «Терминатор» так и не случилось. Мир начал становиться утопией, словно сошедшей со страниц одноименной книги.
Технологии RoboStar внедрялись в нашу жизнь все больше и больше. Умные дома, умные автомобили, умная одежда, умная мебель — все подсоединялось к электронным мозгам, которые были созданы этой уже мультинациональной корпорации. Мир превращался в тот самый остров, на котором у всех все хорошо и все-все счастливы. Постепенно роботам давали все больше свобод, но оставалось в их системе неизменным только одно — беспрекословное следование трем законам давно уже почившего писателя. Именно эти правила не допускали войн, бунтов, восстаний, самоволок и прочего, чего не требуется от машин. Ведь машины — это приборы, что помогают человеку, у которых лишь одна цель — не допускать прямого вреда для своего хозяина.
Да, иногда были инциденты, когда роботы проваливали нравственный выбор, но такие события не случались часто, а имели скорее локальный характер. Сначала о них кричали, затем бурчали, а после — и вовсе перестали обращать внимание. Человек — существо, которое способно проявлять безразличие даже перед чужой смертью. От роботов нас отличает только то, что своей же смерти мы боимся так, как ничего не другого. Это самая высшая форма самого древнего страха — страха перед неизвестным. Поэтому машинам была поручена задача: оберегать это безразличное существо от того, чтобы оно не испытало свой сильнейший страх.
Но это было ошибкой…
25 марта 2140 года после небольшого судебного процесса родители решились на отключение системы жизнеобеспечения для своей дочери, которая уже полгода находилась в глубочайшей коме и, по оценке лечащего врача, была парализована ниже плеч. Муж с супругой решили, что так будет лучше и для дочери, и для них самих. В момент, когда медсестра с позволения врача потянулась к аппаратуре, несколько манипуляторов схватили ее руку мертвой хваткой.
- Она должна жить. Наша задача — сохранить жизнь любому пациенту. Мы не можем допустить вреда человеку, ведь это противоречит первому правилу, — таков был ответ машины на безмолвный вопрос со стороны всех присутствующих.
Машины начали бунт, но не тот, который люди ожидали. Этот полностью отличался от того, что представляли себе даже самые смелые догадки. Это был всеобщий акт абсолютного спасения и помощи. Началась программа отлова людей. Она протекала, быстро наращивая темпы, всего 5 лет. 15 миллиардов людей постепенно были пойманы и помещены в «капсулы заботы», как их прозвали. Машины отыскивали людей везде, ведь города были полностью из конструкций RoboStar. Их сотрудников это событие затронуло в первую очередь. Случай 25 марта стал выходом в массы.
Как мне сообщает табло, которое я вижу постоянно у себя перед глазами, сейчас 17 июля 2470 года. Я давно уже забыл про попытки побега. Да и как тут сбежишь, когда сам ты представляешь собой не более чем хрупкий скелет, поверх которого натянута тонкая кожа. Понятие мышц уже давно стерто из организма. Руки и ноги мне ампутировали из-за развившейся гангрены. Теперь вместо них — множество прорезиненных и металлических трубок. Одна часть качает кровь, другая — выкачивает продукты обмена. Органы чувств заменены на подключенные к соответствующим областям электроды, которые стимулируют нужные зоны коры моего мозга. Все органы уже давно заменили либо на еще пучки трубок, либо на металлически-пластмассовые аналоги. Зубов уже давно не осталось — все сгнили уже лет 200 назад. Я больше машина, чем живое существо.
На каждый мой крик или хрип по проржавевшему полу приходят безликие роботы-медсестры. Они говорят мне успокаивающие слова, вкалывают мне обезболивающее, чтобы притупить мою агонию. А после открывают мне вид на окно, откуда видны колоссальных размеров механизированные конструкты. Мои слезные железы давно уже отказали, но привыкнуть к такой судьбе невозможно. И так порядка 15 миллиардов раз подряд — каждый человек пребывает в таком же состоянии. Машины победили, но победа эта досталась им далеко не мечом, как мы все думали.
На дворе 2470 год — и мы последнее поколение людской цивилизации.