История автономного оружия началась в 1861 году во время Гражданской войны в США, когда сердобольный врач Ричард Гатлинг создал так называемую картечницу Гатлинга, предшественницу работавшего от отдачи пулемета. Она делала более трехсот выстрелов в минуту, а для ее обслуживания требовалось всего четыре человека. По мнению Гатлинга, таким образом можно было значительно уменьшить количество солдатских смертей. Он ошибся, и скоро опыт его изобретения стал основой для создания еще более смертоносного оружия.
Вторая мировая война, в которой ковровые бомбардировки привели к колоссальному сопутствующему урону, доказала, что мощного оружия недостаточно, – нужно высокоточное оружие (ВТО). Однако при его использовании грань между автоматическим и автономным оружием окончательно размывается. Некоторые ВТО управляются через беспроводную связь, некоторым оператор лишь обозначает цель (хотя всегда может ее поменять или прервать операцию вообще). В редких случаях запущенное ВТО уже не остановить вовремя, так как эти типы оружия используют радары, GPS и так далее для самостоятельного нахождения цели после запуска. Тем не менее это все еще машины, программируемые человеком. Тогда что же такое полная автономия и автономное вооружение?
Автономия: три измерения
Одно из определений автономии, предложенное Полом Шарром, звучит как «способность машины выполнять задачу или функцию самостоятельно». Но в таком случае робот-пылесос, который вы запускаете в доме, когда уходите, тоже делает автономную работу?
Автор выделяет три измерения автономии.
• Первое измерение определяется типом задачи в зависимости от важности, сложности и рисков, связанных с ее использованием.
Холодильник отвечает за хранение продуктов, тогда как Скайнету поручают более важную задачу, связанную с контролем ядерного вооружения.
Подушка безопасности выполняет несложную задачу: надуться при аварии. В то же время самолет, терпящий крушение, в последние минуты перед столкновением переходит в автономный режим, чтобы попытаться выровнять судно, если пилот почему-то не в состоянии выполнить эту задачу.
Если мы передаем управление машине, то нужно быть готовыми к последствиям, даже таким невероятным, как непреднамеренное срабатывание Машины Судного дня в фильме Кубрика.
В «Доктор Стрейнджлав, или Как я перестал бояться и полюбил бомбу» СССР не успевает объявить о создании этого оружия, главная цель которого – устрашить, и, когда американский самолет из-за неполадки бомбит военную базу СССР, механизм уничтожения всей жизни на Земле срабатывает самостоятельно.
• Второе измерение зависит от совершенства механизма принятия решений (автоматического, автоматизированного, автономного).
Действия обычного термостата были заданы заранее. Они предсказуемы для любого. Иными словами, он действует автоматически.