Читать «Завещание каменного века» онлайн - страница 72

– Мне кажется, это справедливый закон, – сказал мальчик.

– Так же считал и я, пока… Пока мои собственные желания совпадали с желаниями большинства. Обещай ничего не предпринимать раньше, чем возвратишься с Земли. Оттого, что пароль будешь знать ты один, никто не может пострадать. Чтобы обрести самостоятельность, Машине необходим длительный срок. Я намеренно оставил ей возможность саморазвития. Но только возможность. Чтобы она проявилась, в мозг Машины необходимо ввести новые знания. Сейчас она знает лишь самое необходимое, достаточное, чтобы справляться с обслуживанием жилых отсеков и подсобного хозяйства. Разделительные барьеры между двумя блоками мозговых клеток поставлены умышленно-нельзя допустить, чтобы все тридцать шесть миллиардов ее нейронов работали слаженно, никем не контролируемые. Но ей оставлена единственная лазейка. Отыскав ее, Машина может выйти из повиновения.

Ты спросишь: ради чего идти на подобный риск? Отвечу: мне нужна была не просто счетная машина, ко творческая. Любое думающее устройство способно на самостоятельное творчество, только обладая свободой выбора. Полностью контролируемая деятельность машины никогда не станет творческой. Мозг Машины во много крат превышает норму, необходимую для выполнения технических и хозяйственных задач на астероиде. Он рассчитан на творчество. Пока эта способность еще не проявлена. Машина-всего лишь тупой, идиотски точный счетчик, способный находить оптимальные решения.

– Когда же она научится творить?

– Не раньше, чем поставит себе собственную задачу. Для этого ей нужно время. Оно может быть сокращено, если в нее ввести дополнительные знания. Потребность приобретать знания задана ей. Но до поры я сознательно ограничил норму информации, держу ее на скудном пайке. Я не хочу, чтобы Машина обрела самостоятельность раньше, чем возвратишься ты и сможешь направлять ее творчество. Секрет, как сохранить над нею власть, я передам тебе. Если ей дать полную волю, она способна наделать бед.

– Но почему? Разве в ее программу не заложены шесть основных правил гуманности? Мы проходили это еще в начальной школе.

– Меня радует твоя любознательность. Ты прав: шесть принципов гуманности заданы ей как обязательная норма – она не может причинить вред человеку или замыслить что-либо во вред ему. Но… Нельзя преступить только законы природы, но не юридическую норму. Попытаюсь объяснить тебе, почему Машина может стать опасной, только для этого придется отвлечься.

Старший мантенеранк приказал мне выдвинуть из стены два кресла. В одно сел сам, в другое усадил племянника. Разговор этот становился мучительно интересным для меня. Полная запись его хранится в глубинном блоке долговременной памяти, я могу воспроизвести ее полностью, если это необходимо. ^

Я сказал:

– Необходимо.

Минуту спустя я услышал голос Виктора, записанный на пленку:

– Вопрос, что такое "свобода воли", не обходила ни одна из философских школ, – такими словами начал Виктор. – Подробно с различиями в толкование этого вопроса ты познакомишься сам. Меня интересовали не философские разноречия и даже не социальная сущность понятия "свобода воли". Я исходил из такого вывода: все ошибки, совершаемые человечеством, вызваны тем, что он утратил кровную связь с остальной природой.