Хорошо еще, что она догадалась снизить быстродействие его процессора!
– Моделирование, в котором ты участвовал, не опасно для людей, – заявила она. – Ситуации, которые ты моделировал, являются воображаемыми и не имеют отношения к реальным событиям. Почему вчера ты схватил доктора Лентралла и заставил его спрятаться под лавкой?
– Я получил гиперволновое сообщение относительно того, что моему хозяину грозит опасность. Первый Закон требовал от меня, чтобы я защитил его, что я и сделал.
– И сделал великолепно! – Фреда пыталась внушить роботу, что он идеально выполняет требования Первого Закона. – Доложи мне в сжатой форме о статусе твоих систем.
– Мой позитронный мозг функционирует на уровне номинальных параметров, причем – на грани конфликта между Первым Законом и Вторым Законом. Видео – и аудиорецепторы, а также системы коммуникации с внешним миром функционируют нормально. Система памяти функционирует нормально. К моему диагностическому порту подключен прибор тест-контроля модель 2312 производства лаборатории «Ливинг», который постоянно выдает информацию о состоянии моих систем. Приводные механизмы ниже шеи и гиперволновой коммуникатор отключены, поэтому я не способен двигаться и действовать, сохранив лишь способность говорить, видеть, думать и шевелить головой.
– Если не принимать во внимание тех систем, которые отключены намеренно, в остальном способен ли ты функционировать нормально?
– Да, – сказал Кейлор. – Я все помню, если вы это имеете в виду.
Фреда едва удержалась, чтобы не выругаться и сохранить видимость профессионального хладнокровия. Он нарушил ее приказ не говорить ничего по собственной инициативе. Только Первый Закон мог заставить его пойти на это. Кейлор прекрасно понимает, чего от него добиваются, и только что дал понять, что обладает тем, что им нужно. А это значит, что он не позволит им завладеть этим. Они проиграли.
Фреда решила отказаться от сверхосторожной тактики, которую выбрала поначалу, вместо этого – быстро двигаться по направлению к намеченной цели.
– Помнишь ли ты варианты процесса моделирования, которые доктор Лентралл проводил в последнее время, и информацию, на которой они базировались?
– Да, я помню все, – снова повторил Кейлор.
В мозгу Фреды вертелись вопросы, которые она не осмеливалась задать, и ответы, которые она боялась услышать от Кейлора. Подобно опытному шахматисту, который способен предвидеть реакцию соперника на восемь ходов вперед, она была в состоянии почти слово в слово предсказать диалог, который может произойти между ней и роботом.
ВОПРОС: Если ты все помнишь, ты должен помнить и всю информацию, связанную с расчетами доктора Лентралла. Почему вчера вечером, когда доктор Лентралл обнаружил, что его компьютерные файлы исчезли, ты не попытался восстановить хотя бы какую-то часть утраченной информации? Если она окажется потерянной навсегда, карьере и работе твоего хозяина будет нанесен огромный ущерб.
ОТВЕТ: Сделав это, я напомнил бы доктору Лентраллу о том, что я присутствовал во всех случаях, когда он моделировал операцию с кометой Грега, а значит, помню параметры и местонахождение этой кометы. А раскрыть эту информацию я не мог, поскольку это сделало бы возможным перехват кометы и перенацеливание ее на Инферно, что явилось бы угрозой для многих людей. Это соображение перевесило нежелание причинить вред карьере одного человека.
ВОПРОС: Но воздействие кометы оздоровило бы климат планеты, а значит, принесло бы огромную пользу людям; которые придут после нас, сделало бы их жизнь гораздо лучше и приятнее. Почему ты не стал действовать во благо грядущих поколений?
ОТВЕТ: Я не стал действовать таким образом по двум причинам. Во-первых, благодаря своей конструкции я в меньшей степени способен оценивать отдаленные во времени последствия тех или иных предполагаемых действий с точки зрения Трех Законов. И не способен думать о будущем и о гипотетическом благополучии человеческих существ, которые будут жить через десятилетия или даже века. Большинства из них пока еще просто не существует. Во-вторых, вторая составная часть Первого Закона требует от меня всего лишь предотвращать нанесение вреда человеческим существам. В соответствии с ней я не обязан предпринимать каких-либо действий, направленных на то, чтобы приносить человеку пользу, хотя и могу делать это, если сочту нужным. Я должен всего лишь предотвращать грозящую человеку опасность. Требования Первого Закона превалируют над любыми побуждениями произвольного характера.
ВОПРОС: Но если мы не трансформируем климат планеты, многих из людей, живущих сейчас, ждет скорая и мучительная смерть. Лишая нас возможности осуществить план с кометой Грега, ты фактически обрекаешь этих людей на преждевременную гибель. Где находится комета? Я приказываю тебе сообщить нам ее координаты, массу и траекторию движения!
ОТВЕТ: Я не могу сказать вам. Я должен сказать вам. Я не могу сказать вам. Я должен сказать вам…
И, зациклившись на двух этих фразах, робот станет твердить их, покуда не наступит смерть. Она будет вызвана либо обширным конфликтом между Первым и Вторым Законами, в результате которого в его мозгу произойдет коллапс, либо тем, что в качестве последнего средства Кейлор прибегнет к второй составной части Первого Закона. Он не может своим бездействием поставить жизнь людей под угрозу.
Что это означает? С его точки зрения, он представлял собой опасность для людей, даже просто оставаясь в живых и храня в своем мозгу информацию относительно координат кометы. Пока он жив, остается, пусть даже теоретическая, возможность извлечь эту информацию из его памяти. Фреда, конечно, никак не сможет сделать это здесь. Только – в своей лаборатории, располагая необходимым оборудованием и примерно неделей времени. Только так она сумеет преодолеть все предусмотренные создателями робота меры предосторожности и добраться до того, что им нужно.
И Кейлор, без сомнения, все это знает. Стремясь защитить людей от них самих, он сделает все, чтобы вывести свой мозг из строя, сжечь его, уничтожить все, что в нем хранится.
Он может заставить себя умереть.
Если устроить ему прямолинейный и откровенный допрос, какой мысленно представила Фреда, он наверняка умрет – либо из-за неразрешимого конфликта между Законами, либо сознательно покончив с собой. Он уже сейчас находился на волосок от смерти. Наверное, настала пора выпустить пар.
– Я отменяю свой приказ относительно того, что ты не должен ничего говорить по собственной инициативе, – сказала она. – Можешь говорить все, что пожелаешь.
– Всю прошлую ночь я был занят тем, что, используя свою гиперволновую связь и вспоминая все опыты, свидетелем которых являлся, восстанавливал утраченную информацию доктора Лентралла, – разумеется, в тех рамках, в которых это можно было сделать, не нарушая Трех Законов.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108
– Моделирование, в котором ты участвовал, не опасно для людей, – заявила она. – Ситуации, которые ты моделировал, являются воображаемыми и не имеют отношения к реальным событиям. Почему вчера ты схватил доктора Лентралла и заставил его спрятаться под лавкой?
– Я получил гиперволновое сообщение относительно того, что моему хозяину грозит опасность. Первый Закон требовал от меня, чтобы я защитил его, что я и сделал.
– И сделал великолепно! – Фреда пыталась внушить роботу, что он идеально выполняет требования Первого Закона. – Доложи мне в сжатой форме о статусе твоих систем.
– Мой позитронный мозг функционирует на уровне номинальных параметров, причем – на грани конфликта между Первым Законом и Вторым Законом. Видео – и аудиорецепторы, а также системы коммуникации с внешним миром функционируют нормально. Система памяти функционирует нормально. К моему диагностическому порту подключен прибор тест-контроля модель 2312 производства лаборатории «Ливинг», который постоянно выдает информацию о состоянии моих систем. Приводные механизмы ниже шеи и гиперволновой коммуникатор отключены, поэтому я не способен двигаться и действовать, сохранив лишь способность говорить, видеть, думать и шевелить головой.
– Если не принимать во внимание тех систем, которые отключены намеренно, в остальном способен ли ты функционировать нормально?
– Да, – сказал Кейлор. – Я все помню, если вы это имеете в виду.
Фреда едва удержалась, чтобы не выругаться и сохранить видимость профессионального хладнокровия. Он нарушил ее приказ не говорить ничего по собственной инициативе. Только Первый Закон мог заставить его пойти на это. Кейлор прекрасно понимает, чего от него добиваются, и только что дал понять, что обладает тем, что им нужно. А это значит, что он не позволит им завладеть этим. Они проиграли.
Фреда решила отказаться от сверхосторожной тактики, которую выбрала поначалу, вместо этого – быстро двигаться по направлению к намеченной цели.
– Помнишь ли ты варианты процесса моделирования, которые доктор Лентралл проводил в последнее время, и информацию, на которой они базировались?
– Да, я помню все, – снова повторил Кейлор.
В мозгу Фреды вертелись вопросы, которые она не осмеливалась задать, и ответы, которые она боялась услышать от Кейлора. Подобно опытному шахматисту, который способен предвидеть реакцию соперника на восемь ходов вперед, она была в состоянии почти слово в слово предсказать диалог, который может произойти между ней и роботом.
ВОПРОС: Если ты все помнишь, ты должен помнить и всю информацию, связанную с расчетами доктора Лентралла. Почему вчера вечером, когда доктор Лентралл обнаружил, что его компьютерные файлы исчезли, ты не попытался восстановить хотя бы какую-то часть утраченной информации? Если она окажется потерянной навсегда, карьере и работе твоего хозяина будет нанесен огромный ущерб.
ОТВЕТ: Сделав это, я напомнил бы доктору Лентраллу о том, что я присутствовал во всех случаях, когда он моделировал операцию с кометой Грега, а значит, помню параметры и местонахождение этой кометы. А раскрыть эту информацию я не мог, поскольку это сделало бы возможным перехват кометы и перенацеливание ее на Инферно, что явилось бы угрозой для многих людей. Это соображение перевесило нежелание причинить вред карьере одного человека.
ВОПРОС: Но воздействие кометы оздоровило бы климат планеты, а значит, принесло бы огромную пользу людям; которые придут после нас, сделало бы их жизнь гораздо лучше и приятнее. Почему ты не стал действовать во благо грядущих поколений?
ОТВЕТ: Я не стал действовать таким образом по двум причинам. Во-первых, благодаря своей конструкции я в меньшей степени способен оценивать отдаленные во времени последствия тех или иных предполагаемых действий с точки зрения Трех Законов. И не способен думать о будущем и о гипотетическом благополучии человеческих существ, которые будут жить через десятилетия или даже века. Большинства из них пока еще просто не существует. Во-вторых, вторая составная часть Первого Закона требует от меня всего лишь предотвращать нанесение вреда человеческим существам. В соответствии с ней я не обязан предпринимать каких-либо действий, направленных на то, чтобы приносить человеку пользу, хотя и могу делать это, если сочту нужным. Я должен всего лишь предотвращать грозящую человеку опасность. Требования Первого Закона превалируют над любыми побуждениями произвольного характера.
ВОПРОС: Но если мы не трансформируем климат планеты, многих из людей, живущих сейчас, ждет скорая и мучительная смерть. Лишая нас возможности осуществить план с кометой Грега, ты фактически обрекаешь этих людей на преждевременную гибель. Где находится комета? Я приказываю тебе сообщить нам ее координаты, массу и траекторию движения!
ОТВЕТ: Я не могу сказать вам. Я должен сказать вам. Я не могу сказать вам. Я должен сказать вам…
И, зациклившись на двух этих фразах, робот станет твердить их, покуда не наступит смерть. Она будет вызвана либо обширным конфликтом между Первым и Вторым Законами, в результате которого в его мозгу произойдет коллапс, либо тем, что в качестве последнего средства Кейлор прибегнет к второй составной части Первого Закона. Он не может своим бездействием поставить жизнь людей под угрозу.
Что это означает? С его точки зрения, он представлял собой опасность для людей, даже просто оставаясь в живых и храня в своем мозгу информацию относительно координат кометы. Пока он жив, остается, пусть даже теоретическая, возможность извлечь эту информацию из его памяти. Фреда, конечно, никак не сможет сделать это здесь. Только – в своей лаборатории, располагая необходимым оборудованием и примерно неделей времени. Только так она сумеет преодолеть все предусмотренные создателями робота меры предосторожности и добраться до того, что им нужно.
И Кейлор, без сомнения, все это знает. Стремясь защитить людей от них самих, он сделает все, чтобы вывести свой мозг из строя, сжечь его, уничтожить все, что в нем хранится.
Он может заставить себя умереть.
Если устроить ему прямолинейный и откровенный допрос, какой мысленно представила Фреда, он наверняка умрет – либо из-за неразрешимого конфликта между Законами, либо сознательно покончив с собой. Он уже сейчас находился на волосок от смерти. Наверное, настала пора выпустить пар.
– Я отменяю свой приказ относительно того, что ты не должен ничего говорить по собственной инициативе, – сказала она. – Можешь говорить все, что пожелаешь.
– Всю прошлую ночь я был занят тем, что, используя свою гиперволновую связь и вспоминая все опыты, свидетелем которых являлся, восстанавливал утраченную информацию доктора Лентралла, – разумеется, в тех рамках, в которых это можно было сделать, не нарушая Трех Законов.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108