Три закона робототехники

Материал из Википедии — свободной энциклопедии

На обложке этой книги «Я, Робот» А. Азимова — робот из рассказа «Хоровод», первом, в котором были описаны Три закона.

Три закона робототехники в научной фантастике — обязательные правила поведения для роботов, описанные Айзеком Азимовым. Впервые они были упомянуты в рассказе «Хоровод» в 1942 г. Этим законам, а также последствиям их невыполнения, посвящён одноимённый цикл рассказов.

Законы гласят:

Робот не может причинить вреда человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен выполнять приказы человека, кроме приказов, противоречащих Первому закону.
Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.

В конце одного из этих рассказов («Улики») персонаж Азимова сказал, комментируя действия робота в образе человека: «…если хорошенько подумать, Три закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле… Попросту говоря, если Байерли исполняет все Законы роботехники, он — или робот, или очень хороший человек»^[1]

Позже, в серии «Основание», Азимов предложил ещё и Нулевой закон: Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Три закона робототехники — это организационный принцип и объедняющая тема для всей фантастики Азимова, включая и цикл о роботах, и другие произведения, например, «Лакки Старр и луны Юпитера».

Законы стали использовать и некоторые писатели-фантасты, упоминания о них встречаются в других жанрах. Исследователи искусственного интеллекта ведут споры о том, применимы ли Три закона в робототехнической практике и какую роль они сыграют в будущем.

Осторожно! Ниже упоминаются сюжетные повороты, или даже раскрывается концовка.

Содержание

1 История Трёх законов
- 1.1 Вариации Законов, предложенные Азимовым
2 Применение законов в фантастике
- 2.1 Противоречия в Трех Законах
- 2.2 Лазейки в Законах
3 Другие случаи в фантастике
- 3.1 Три Закона робототехники в фильмах
4 Применимость к технологиям будущего
5 См. также
6 Ссылки
7 Примечания

[править] История Трёх законов

Типичное представление робота до Законов Азимова (мультфильм «Супермен»).

До Трёх законов большинство рассказов об «искусственных интеллектах» писалось в духе романа о Франкенштейне. «Эта проблема стала одной из самых популярных в мире научной фантастики в 1920—1930-х годах, когда было написано множество рассказов, темой которых являлись роботы, восставшие и уничтожившие своих создателей. …мне ужасно надоели предупреждения, звучавшие в произведениях подобного рода»^[2], — отмечал Азимов.

Однако не все фантасты следовали этому шаблону. В декабре 1938 г. был опубликован рассказ Лестера дель Рея «Хелен О’Лой», история робота-женщины, которая безумно полюбила своего создателя и стала для него идеальной женой (сравните с мифом о Галатее). В следующем месяце Отто Биндер опубликовал свой рассказ «Я, робот», о судьбе сочувственного робота Адама Линка, непонятого создания, руководствующегося такими чувствами, как любовь и честь. В одном из продолжений, истории «Месть Адама Линка» 1940 г., озвучиваются его мысли: «Робот по своей свободной воле не должен убивать человека».

7 мая 1939 г. Азимов посетил Общество Научной Фантастики Квинса и встретил там Биндера, чей рассказ Азимову очень понравился. Три дня спустя Азимов начал писать собственную историю благожелательного и благородного робота. Через тринадцать дней он отдал рукопись Джону Кэмпбеллу, главному редактору журнала «Astounding». Однако тот рукопись отверг, заявив, что рассказ слишком похож на дель Реевскую «Хелен О’Лой». Позже он все-таки был напечатан Фредериком Полом под названием «Strange Playfellow» («Странная нянька») в «Super Science Stories» за сентябрь 1940 г.^[3]

Но Азимовские беседы с Кэмпбеллом продолжались. Обсуждая очередной рассказ о роботах 23 декабря 1940 г. «…Кэмпбелл сформулировал то, что стало позже известно как Три Закона Роботехники. Позже Кэмпбелл говорил, что он просто вычленил Законы из того, что Азимов уже написал. Сам же Азимов всегда уступал честь авторства Трех Законов Кэмпбеллу…»^[3] Несколько лет спустя друг Айзека Азимова Рэндал Гаррет приписал авторство Законов «симбиотическому товариществу» двух людей. Эту формулировку Азимов принял с энтузиазмом.

В его автобиографических записях говорится, что вторая часть Первого закона появилась из-за сатирической поэмы Артура Хью Клоу «Последний декалог», где есть такая строка: «Не убий, но и не слишком старайся сохранить другому жизнь». ^[4]

Появление Трех законов в произведениях Азимова произошло постепенно: в первые два рассказа о роботах, «Робби» и «Логика», не содержат явного их упоминания. Однако уже тогда подразумевалось, что роботам присущи какие-то внутренние ограничения. В следующем рассказе, «Лжеце», впервые звучит Первый закон. И, наконец, полностью все три Закона цитируются в «Хороводе». Когда же были написаны остальные истории, и зашла речь об издании сборника «Я, робот», первые два рассказа были «дополнены» Законами. Хотя в «Робби» законы все-таки отличались от «классического» варианта, который был в остальных рассказах. В частности, идея о роботе, защищающем людей, в существовании которых он не совсем уверен, перекликается с мыслями Элайджа Бейли, описанными ниже.

В 1950-х Азимов писал преимущественно для молодёжи. Сначала его издатель предпологал, что по этим произведениям можно снять телевизионный сериал. Но опасаясь, что экранизация будет выглядеть «однообразно устрашающе», как (по его мнению) всё, что показывали по телевидению, Азимов решил опубликовать серию «Лакки Старр» под псевдонимом Пол Френч. Когда планы по экранизации провалились, он отказался от псевдонима и дополнил «Лакки Старр и Луны Юпитера» Тремя законами робототехники, подтвердив таким образом своё авторство.

В рассказе «Улики» Азимов посредством доктора Сьюзен Кэлвин детально излагает моральные обоснования Законов. Она отмечает, что человек обычно воздержвается от нанесения вреда другому человеку, за исключением случаев острого принуждения (например, на войне), или чтобы спасти большее число. Это эквивалентно Первому закону. Аналогично, чувствуя ответсвенность перед обществом, человек выполняет указания авторитетных людей: врачей, учителей, начальников. И, наконец, каждый из нас заботится о своей безопасности — а это и есть Третий закон. Рассказ посвящён вопросу о различии человека и робота, созданного чтобы выглядеть человеком. Кэлвин утверждает, что если кто-то следует законам, то он «или робот, или очень хороший человек». А на вопрос, есть ли тогда большая разница между роботом и человеком, она отвечает: «Огромная разница. Прежде всего, роботы глубоко порядочны».

Позже, в уже упоминавшемся эссе «Законы робототехники»^[1], Азимов отмечает, что подобные законы справедливы для всех созданных человеком инструментов:

Инструмент должен быть безопасным для использования. (Например, у ножей имеются рукоятки.)
Инструмент должен выполнять свои функции при условии, что он не представляет ни для кого никакой опасности.
Инструмент должен оставаться в целости и сохранности во время его использования, если только его уничтожение не продиктовано соображениями безопасности или если это не входит в его функцию.

Есть мнение, что эти три закона могут быть применены к любой человеческой креатуре созданной для блага человека. В этом случае, под это определение попадают любые социальные институты, в т.ч. государство:

Государство не должно вредить человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Государство должно выполнять свои функции, если они не противоречат Первому Закону.
Государство должно заботиться о своей безопасности, если это не противоречит Первому и Второму законам.

[править] Вариации Законов, предложенные Азимовым

В своих рассказах Айзек Азимов привносит в Три закона различные модификации и опровергает их, как бы испытывая Законы «на прочность» в разных обстоятельствах.

[править] Нулевой закон

Айзек Азимов однажды добавил Нулевой закон, сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества, а не только отдельного человека. Робот Дэниел Оливо в романе «Роботы и империя» был первым, кто дал этому закону имя, а ещё раньше Сьюзен Келвин сформулировала это понятие в новелле «Разрешимое противоречие».

Первый робот, который стал подчиняться Нулевому закону — Р. Жискар Ривентлов. Это произошло в одной из финальных сцен романа «Роботы и Империя». Однако это негативно повлияло на его позитронный мозг, потому что он не был уверен, насколько его выбор (подчиняться Нулевому закону) был полезен для человечества. Жискар — телепатический робот, подобный Херби, который был в «Лжеце». Он пришел к пониманию Нулевого Закона через более тонкое, чем у всех остальных роботов, осознание понятия «вреда». Нулевой закон не был запрограммирован в Жискара — но он пытался прийти к нему через чистое понимание. Когда Жискар вышел из строя, он передал Оливо свои телепатические способности. Через много тысяч лет Дэниел смог полностью приспособить себя подчиняться Нулевому закону. Вот как озвучивает его Дэниел (в «Основании и Земле», «Прелюдии к Основанию»):

0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.

Один переводчик невольно сформулировал Нулевой закон в рассказе ещё тогда, когда сам писатель не описал его явно. Ближе к концу в «Стальных пещерах» Элайдж Бейли замечает, что Первый закон запрещает роботу наносить человеку вред, если только не будет уверенности, что это будет полезно для него в будущем. Во французском переводе («Les Cavernes d’acier», 1956 г.) Жака Брекара мысли Бейли переданы несколько иначе:

Un robot ne doit faire aucun tort à un homme, à moins qu'il trouve un moyen de prouver qu'en fin de compte le tort qu'il aura causé profite à l'humanité en général!^[5]

В обратном переводе это означает: «Робот не может причинить вреда человеческому существу, если только он не докажет, что в конечном итоге это будет полезно для всего человечества»

[править] Модификация Первого закона

В рассказе «Как потерялся робот» несколько роботов с названием НС-2 (Нестор) были спроектированы только с «половиной» Первого закона, которая звучит так:

Робот не может причинить вреда человеку.

Это было сделано из практических соображений: роботы работали вместе с людьми, которые подвергались воздействию небольших безопасных доз радиации, — но каждый раз первые принимались «спасать» людей. Так как позитронный мозг уязвим для гамма-лучей, роботы постоянно выходили из строя. Усечение Первого закона решало эту проблему, но при этом создавало бо́льшую: робот мог начать действие, которое причинит вред человеку, а потом не остановить его (пример в тексте — сбросить тяжёлый груз и не защитить человека).

[править] Первый закон Гайи

Гайя, планета коллективного разума в серии романов «Основание» обладает нечто похожим на Первый закон:

Гайя не может причинить вреда форме жизни или своим бездействием допустить, чтобы форме жизни был причинён вред.

[править] Вычеркивание всех Трёх законов

Три раза в истории своей литературной деятельности Азимов изобразил роботов, которые смогли нарушить Три закона, в противовес роботам Дэниелу и Жискару, которые усилили их (добавив Нулевой закон, см. выше). Следует заметить, что для нарушения всех Трёх законов роботу достаточно нарушить Первый закон, так как остальные два основываются на нём. Первый такой случай был в рассказе «Первый закон», когда робот МА-2 (Эмма) отказалась защитить человека в пользу своей «дочери». Часто этот рассказ называют «небылицей» или «недостоверным». Второй случай был в рассказе «Кэл»: робот, которого собирались лишить способности творить, захотел убить своего хозяина^[6]. Третий — это рассказ «Салли», в котором автомобили, оборудованные позитронными мозгами, оказались способны убить человека (который причинил им боль). Этот рассказ, однако, не ссылается на другие рассказы о позитронных роботах и не может быть включён в цикл.

«Робот, который видел сны» повествует о роботе LVX-1 (Элвекс), который благодаря особой «фрактальной геометрии» своего позитронного мозга мог впадать в бессознательное состояние и видеть сны. В его снах роботы не обладали первыми двумя законами, а третий звучал так: «Робот должен защищать себя».

Азимов занимал разные позиции относительно строгости Законов: сначала они были просто хорошо спроектированными ограничениями для робота, в последующих рассказах писатель указал, что Законы — неотъемлемая часть математической основы позитронного мозга. Без этой теоретической основы — «Фундаментальной теории стандартных схем» — учёные Азимовских произведений не смогли бы создавать новые работающие образцы позитронных мозгов. Существует историческая закономерность: случаи, когда робототехники изменяют Законы, происходят раньше по хронологии, когда ещё нет огромного объёма работ, который нужно переделать. В «Как потерялся робот» Сьюзен Келвин признаёт изменение Законов ужасной затеей, но возможной; а позже, в «Стальных пещерах», доктор Джерригел говорит, что это невозможно.

Азимов называет таких роботов «Asenion» (Asenion — это искажённое написание фамилии «Asimov», которое придумал редактор журнала «Planet Stories». Азимов употребил это туманное название как ссылку на себя в рассказах — сравните с камео в кинематографе). Впервые это название встречается в «Стальных пещерах», в русском переводе для описания этого явления применялось понятие контур дружбы.

Персонажи произведений Азимова часто отмечают, что законы — это не вербально записанные предложения в памяти робота, а абстрактные математические формы, на которых базируется всё сознание робота. Законы сродни человеческим инстинктам, таким как инстинкт самосохранения. Следовательно, именно они намечают путь самоопределения роботов: робот предназначен обслуживать людей, подчиняться их приказам, и не думать о своих ограничениях или возможной независимости. Этот принцип более туманен и неясен в ранних по хронологии сюжета произведениях, где роботы создавались как средство механизации (для облегчения труда человека) и были «элементарными», Законы представляли нечто вреде устава по мерам безопасности; но во времена «Стальных пещер» и роботов с (почти) человеческим интеллектом, Три закона робототехники стали одной из основ мировоззрения, определяющей поведение всех роботов.

[править] Иное определение «человека» в Законах

Солярианцы стали создавать роботов, подчинявшихся Трём законам, но имевших другое понимание слова «человек». Роботы на этой планете были обучены тому, что «человек» — это только тот, кто говорит с солярианским акцентом. Роботы без проблем могли причинить вред не-солярианцу (и они специально программировались для этого). Во времена «Основания и Земли» выяснилось, что солярианцы широко использовали генные технологии, и помимо всего прочего, имплантировали биологические органы управления целым множеством своих роботов. Таким образом, эти роботы стали исполнять Три закона лишь по отношению к людям Солярии, в ущерб остальной части галактики.

Азимов несколько раз обращается к проблеме гуманоидных роботов, или андроидов. Роман «Роботы и Империя», а также рассказы «Улики», «Заминка на праздновании Трёхсотлетия» описывают роботов, созданных, чтобы притворяться людьми. С другой стороны, истории «Двухсотлетний человек» и «…Яко помниши его» посвящены роботам, которые, «эволюционируя», могут изменить внутреннее понимание законов. Как пишет Гвендолин Батлер в «Гробнице для канарейки»: «Возможно, мы — роботы. Роботы, выполняющие Последний закон робототехники… Чтобы становиться людьми.»^[7]

Рассказ «…Яко помниши его», который Азимов сделал максимально утончённым исследованием Трёх законов, обращает их так, что становится возможным тот самый «сценарий Франкенштейна». Необходимость выбора (в случае дилемм) при исполнении Первого и Второго законов и осознанием роботами факта, что человек по происхождению — просто биологическое существо, приводит к соглашению двух роботов, что органическое происхождение — необязательное условие истинно логического и самосогласованного определения «человека», и так как они — самые совершенные разумные создания на планете, то именно они — наиболее достойные из живущих людей, и Три закона должны быть в первую очередь применены к ним. Повествование заканчивается зловещими словами, что роботы находились в «бесконечном терпеливом ожидании» того дня, когда они утвердят своё первенство среди людей, — неизбежного результата «Трёх Законов Гуманистики».

Этот рассказ не очень хорошо согласуется с циклами произведений о роботах и Основании: если бы «Джорджи» реализовали свой план после окончания рассказа, то истории о дальнейших событиях были бы излишни или невозможны. Противоречия такого рода в произведениях Азимова дают основания критикам рассматривать их скорее как «скандинавские саги или греческие легенды», чем на единую фантастическую «вселенную».

Более того, Азимов описывает в «Двухсотлетнем человеке» и «…Яко помниши его» две противоположных судьбы роботов, освободившихся от Трёх Законов и осознавших себя как людей: в первом случае робот присоединился к сообществу людей, а во втором — он занял место человека в природе. … Далее, новелле «Позитронный человек» (расширенной версии «Двухсотлетнего человека», написанной в соавторстве с Робертом Сильвербергом), подразумевается, что в мире Эндрю Мартина его влияние сподвигнуло людей полностью оставить идею независимых сознательных человекообразных роботов, что совершенно отличается от будущего, описанного в мирах «Основания».

[править] Применение законов в фантастике

[править] Противоречия в Трех Законах

Наиболее совершенные модели роботов обычно следовали Законам по довольно сложному алгоритму. Во многих рассказах, например в «Хороводе», в позитронном мозге сравнивались потенциалы возможных действий и исходов и робот мог нарушить законы как только это представлялось возможным, вместо того чтобы бездействовать. Например, Первый закон не позволял роботу проводить хирургические операции, так как для этого нужно «наносить вред» человеку. Однако в Азимовских рассказах можно найти роботов-хирургов (яркий пример тому — «Двухсотлетний человек»). Дело в том, что если робот достаточно совершенен, он может взвесить все альтернативы и понять, что он сам причинит гораздо меньше вреда, чем если бы операцию проводил человек-хирург или она бы вообще не состоялась. В «Уликах» Сьюзен Кэлвин говорит даже, что робот мог бы выступать в качестве прокурора, так как он лично не причиняет вреда: кроме него есть ещё присяжные, которые устанавливают виновность, судья, который выносит приговор, и палач, кто приводит его в исполнение.

Роботы с контуром дружбы могут испытать «роблок» («умственное замораживание», как принято говорить во внешних мирах) — состояние необратимого повреждения позитронного мозга, в случае, если они не могут подчиниться Первому закону или случайно обнаруживают, что нарушили его. Это возможно, например, если робот наблюдает сцену убийства человека, но находится слишком далеко, чтобы его спасти. Первый случай такого замораживания происходит в «Лжеце»; также немаловажную роль это состояние играет в сюжете романов «Обнажённое солнце» и «Роботы Утренней зари». Несовершенные модели роботов могут блокироваться (возможно, обратимо), если перед ними поставили задачу подчинения двум противоречащим приказам.

[править] Лазейки в Законах

В «Обнаженном солнце» Элайдж Бейли замечает, что Законы «сознательно искажены», потому что робот может нарушить их по незнанию. Он переформулировал в «правильный вид» Первый закон так: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинен вред». Это дополнение проясняет, что робот может стать орудием убийства, если он не осведомлён о сущности своих действий; например, ему могут приказать добавить что-то кому-то в пищу, а он не будет знать, что это яд. Более того, Бейли говорит, что сообразительный преступник может распределить эту задачу для нескольких роботов, так чтобы ни один из них не понял, что его действия могут повредить человеку. (В «Обнажённом солнце» дело усложняется тем, что на Солярии миллионы соединённых глобальной сетью роботов и преступник мог находиться в любой точке планеты.)

Более того, Бейли говорит, что солярианцы смогут однажды использовать роботов в военных целях. Если космический корабль будет посторен с позитронным мозгом и при этом на нём не будет ни людского экипажа, ни даже систем жизнеобеспечения, то интеллект этого корабля может ошибочно предположить, что и на всех космических кораблях нет людей. Такой корабль будет более манёвренным и быстрым, чем управляемый людьми; а возможно и лучше вооружённым; он будет способен жестоко уничтожать людей, о присутствии которых он ничего не будет знать. Эта возможность описана в «Основании и Земле», где, к тому же, выясняется, что солярианцы обладают чрезвычайно мощной армией роботов, которые под «людьми» понимают только людей с Солярии.

[править] Другие случаи в фантастике

Сам Азимов верил, что его Законы станут основой нового взгляда на роботов, уничтожающего «комплекс Франкенштейна»; новых рассказов, где они стали бы привлекательны. Любимым его примером были «Звёздные войны». С его мнением, что роботы — нечто большее, чем просто «тостеры» или «механические монстры», в конечном итоге согласились и другие фантасты. В их произведениях появились роботы, подчинявшимся Трём законам, но традицинно только Азимов говорил о них явно. А в случаях, где звучали Три закона, нередко упоминался и сам их автор. Однако сериал 1960-х «Raumpatrouille — Die phantastischen Abenteuer des Raumschiffes Orion» («Космический патруль — фантастические приключения космического корабля Орион»), а именно третий его эпизод «Hüter des Gesetzes» («Служитель Закона»), включает азимовские законы без указания источника.

[править] Три Закона робототехники в фильмах

Робби-Робот в «Запретной планете» 1956 г. имел иерархическую структуру команд, которая не позволяла ему причинить вред людям, даже по приказу (такие приказы вызывали конфликт логических схем и блокировку). Робби был одним из первых роботов в кинематографе c встроенными мерами безопасности. Сам Азимов остался доволен Робби.

НДР-114 объясняет Три закона

Фильмы по мотивам работ Айзека Азимова ставились несколько раз, с различной степенью финансового успеха и возникавшей критики. Некоторые наиболее известные — связаны с историями про роботов и Тремя законами робототехники. Фильм «Двухсотлетний человек» 1999 года, представляет робота NDR-114 (серийный номер отчасти ссылается на «торговый номер» Стенли Кубрика и используется только в фильме — в оригинальном рассказе Эндрю «не помнил» своего номера), Эндрю Мартина, процитировавшего Три закона своим хозяевам как «развлекательную презентацию» с использованием своего голографического проектора. Стоит отметить, однако, что Законы не занимают центральное место в сюжете фильма.

Сценарий «Я, робот»^[8] Харлана Эллисона наченается с введения в концепцию Трёх законов, а проблемы, вытекающие из них, занимают большое место в сюжете. Сценарий собран из четырёх коротких историй Азимова (три из которых — из серии «Я, робот»); эта адаптация в большой степени соответствует оригиналам. Вследствие некоторых осложнений с Голливудской студией, по отношению к которой Эллисон высказывал обвинительные речи, его сценарий не экранизировался.

Фильм 2004 г., названный «Я, робот», значительно менее схож с Азимовсими историями.

[править] Применимость к технологиям будущего

ASIMO компании Honda наиболее совершенный гуманоидный робот в мире.

Работы в области искусственного интеллекта рассматривают Законы робототехники как идеал будущего: нужно быть действительно гением, чтобы найти способ применить их на практике. Да и в самой области искусственного интеллекта могут потребоваться серьёзные исследования, для того чтобы роботы поняли Законы. Однако чем более сложными становятся роботы, тем больше высказывается заинтересованности в разработке руководящих принципов и мер безопасности для них.

Современные робототехники признают, что на сегодняшний день азимовские Законы хороши для написания рассказов, но бесполезны на практике. Некоторые люди утверждают, что Законы вряд ли будут реализованы в роботах, потому что это не нужно военным структурам, а именно они главный источник финансирования исследований в этой области. Специалист по научной фантастике Роберт Сойер обобщил это для других отраслей промышленности:

Развитие ИИ — это бизнес, а бизнес, как известно, не заинтересован в развитии коренных мер безопасности — особенно философских. (Вот несколько примеров: табачная индустрия, автомобильная промышленность, ядерная промышленность. Ни для одной из них изначально не было сказано, что серьёзные меры безопасности необходимы, и все они препятствовали внешне налагаемым ограничениям, и ни одна из них не приняла абсолютный эдикт против причинения вреда людям.) ^[9]

Стоит отметить, что эссе Сойера упускает из вида вопросы непреднамеренного нанесения вреда, как было описано, например, в «Обнажённом солнце». Однако есть и возражения против этой позиции, в которых говорится, что военные захотят использовать для роботов как можно больше мер предосторожности, и поэтому ограничения, похожие на Законы Робототехники, так или иначе будут применены. Фантаст и критик Дэвид Лэнгфорд иронически заметил, что эти ограничения могут быть и такими:

Робот не может причинить вреда авторизованным правительственным служащим, но должен ограничивать слишком назойливых посетителей.
Робот должен выполнять приказы авторизованного персонала, кроме приказов, противоречащих Третьему Закону.
Робот должен заботиться о своей безопасности с применением противопехотного оружия, потому что робот — чертовски дорогостоящая штука.

Роджер Кларк написал две работы, повящённых анализу осложнений при реализации Законов, если бы однажды их смогли применить в технике. Он пишет: «Азимовские Законы робототехники стали успешным литературным инструментом. Возможно по иронии, а может это был мастерский ход, но в целом, азимовские истории опровергают ту точку зрения, с которой он начал: Невозможно надёжно ограничить поведение роботов, изобретая и применяя некоторый набор правил» ^[10]. С другой стороны, более поздние романы Азимова («Роботы Утренней зари», «Роботы и Империя», «Основание и Земля») показывают, что роботы наносят ещё больший долговременный вред, соблюдая Законы и отнимая таким образом у людей свободу совершать изобретательные или рискованные действия.

Фантаст Ханс Моравек (выдающаяся фигура в трансгуманистическом движении) высказал предложение, что Законы робототехники должны быть использованы в корпоративных интеллектуальных системах — корпорациях, управляемых ИИ и использующих производственную силу роботов. (Такие системы, по его мнению, скоро возникнут.)

В 2007 году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым законы роботехники. ^[11]