Читать «Побочный эффект» онлайн - страница 8

И вот эти рудокопы стали долбить ломами валы, а те потом приноровились обманывать рудокопов. Валы каким-то чудом меняют цвет и принимают вид грунта. Они оплели собой корабль с шестью рудокопами, заперли их и тем самым обезвредили.

— А как ты думаешь, не нарочно ли они сбросили двух роботов с обрыва?

— Нет, то была просто предсмертная судорога вала, ничего больше. Ульдструг причинил, должно быть, ему страшную боль. Это существо могло погибнуть просто от боли.

Гирин резко повернулся и встал.

— Смотри, как мы странно ошиблись, — сказал он в напряженном раздумье. — Сперва мы бесчувственных роботов посчитали за чувствующие существа, и, наоборот, существо, способное чувствовать боль, мы сочли бесчувственным. Скажи, а не заблуждаемся ли мы насчет Ульдструга?

— Ты о чем?

— Что он действительно что-то чувствовал, что он не был бесчувственной куклой.

— Не понимаю тебя. Ведь теория автоматов доказала…

— А я нисколько не хуже тебя в ней разбираюсь…

— Очень может быть. Но ею доказано, что нет контролируемого эффекта, который бы демонстрировал рaзницу в поведении человека и автомата.

— Вот именно! А я говорю о неконтролируемом эффекте. Допустим, Ульдструг кричал от боли. Но откуда мне знать, что он действительно тогда чувствовал боль? Я могу в это верить. Но проверить, что он способен чувствовать настоящую боль, — это принципиально невозможно.

— Хорошо. Но тогда никакие вообще действия еще не доказывают существования внутреннего мира.

— Именно это я и говорю.

— Но тогда позволь тебя спросить, ты веришь, что я — Зенин Всеволод Иванович — испытываю чувства?

— Это другое дело!

— Почему же?

— Потому что здесь важно, кроме твоего поведении, просто то, что у тебя тоже были отец и мать, что ты часть человечества. Вообще, что ты существо такое же как я (а про себя я знаю, что испытываю чувства). Но что Ульдструг что-то чувствовал, в этом, я даже очень вправе сомневаться, хотя говорил с ним как с равным. И заметь, между прочим, что конструкторы Ульдструга никогда даже и не стремились к тому, чтобы он что-то чувствовал. Совершенно непонятно, как к этому подступиться. Они стремились к другому, чтобы Ульдструг функционально сходствовал с человеком. Например, чтоб он остроумно беседовал. Если при этом в нем вправду возникает мир ощущений (чего я не стану догматически отрицать), то это побочный эффект. Эффект, конструкторами не предусмотренный. Ты понимаешь? Кукле с закрывающимися глазами ведь не непременно хочется спать, когда под действием грузиков у нее закрываются глаза?

— Но, может быть, мир ощущений обязательно возникает во всякой сложной кибернетической системе?

— Рад от тебя это услышать! Ты сейчас занял по этому вопросу некоторую точку зрения. А обычно по нему никакой вообще точки зрения не занимают. Самая обычная и несокрушимая здесь позиция — это всепобеждающее отсутствие какой бы то ни было позиции! И очень возможно, что ты прав. Но тут есть трудности. Представь, что некоторая система должна почувствовать зубную боль. А мы построим ей изоморфную систему из людей. То есть пусть каждый человек выполняет ту же функцию, что и простейший элемент системы, скажем транзистор. Расставим этих людей на огромном стадионе и спросим себя: кто же чувствует зубную боль, если у всех у них здоровые зубы?