Читать «Клетка для орхидей» онлайн - страница 48

— Какое поразительное чувство испытываешь, сталкиваясь с этими темными, чуждыми Нам силами!

— Вовсе они не темные, — возразил Ал. — Я даже склонен думать, что разгадать их довольно просто, стоит лишь найти к ним ключик. Не то чтобы мы тогда поняли их и их технику, но смысл их поведения. Я, во всяком случае, считаю… — Он понизил голос, а потом умолк совсем.

— Ты хочешь сказать, что они подчиняются простым предписаниям — вроде классических законов для роботов? — Рене процитировал: — «Первое: Робот обязан защищать человека и устранять любую угрозу жизни и здоровью человека. Второе: Он обязан подчиняться человеку. Третье: Он обязан следить, чтобы не был поврежден сам. Четвертое: Он обязан при всех обстоятельствах вести себя так, чтобы окружающей его среде был нанесен наименьший ущерб».

— По правде говоря, я думал о другом, — ответил Ал. — Мне трудно выразить это словами. Я думаю, то, что мы видим, еще не все. Что за этим скрывается еще нечто не обнаруженное нами… — Было видно, как ему трудно оставить эту малоплодотворную тропу размышлений. — Но в любом случае законы должны работать. Я убежден, что автоматы, построенные давно, и те, что будут построены, должны подчиняться таким правилам. У того, кто в состоянии конструировать и строить такие машины, должно хватить разума позаботиться о том, чтобы они не причинили ему вреда. Но именно тут-то и возникает масса вопросов. Что происходит, когда вымирают существа, построившие роботов? Способны ли роботы произвольно менять свои программы? И еще, как выглядят основные законы поведения роботов? У обитателей этой планеты могла быть другая шкала ценностей, отличная от нашей. Например, они могли четвертый закон из нашей схемы поставить между первым и вторым.

— Вряд ли, — усомнился Рене, — ведь они, как мы видим, уничтожили всех животных.

— Допустим, — сказал Ал, не желая обсуждать этот вопрос. — Но ведь у них, в конце концов, могла существовать куда более сложная схема законов, нежели у нас. Но это, думается мне, отнюдь не решает вопроса, ибо в принципе при разработке роботов-автоматов и у них не могло быть другой цели, кроме той, чтобы автоматы защищали своих изобретателей, повиновались им, не разрушали себя и не допускали разрушений в окружающей среде. И тут я снова сталкиваюсь с проблемой: в какой степени мы сами отличаемся от разумных существ этой планеты? Или сформулируем иначе: относится ли механизм-робот к нам как к своим хозяевам? Есть и еще одна лежащая на поверхности возможность: не считает ли он нас тоже роботами, своими коллегами, так сказать?

Рене возбужденно прищелкнул пальцами.

— Действительно! Скорее всего так оно и есть!

— Вот-вот, — кивнул Ал. — Они провели над нами опыты. Но какими они обладают средствами, чтобы отличить живые существа от роботов? В том, что мы либо живые существа, либо роботы, они, очевидно, убедились — по нашей разумной реакции на их тесты. Но каков их конечный вывод? Здешнего языка мы не знаем. Приказывать им не можем. И главное, мы и внешне отличаемся от их хозяев!