Читать «Конфликт, которого можно избежать» онлайн - страница 16

— Вы не можете быть уверены в этом! Это только догадка!

— Эта догадка основана на опыте общения с роботами в течение целой жизни. Вы должны признать, что это правда, Стивен.

— Но что же тогда я упустил? Машины всегда правы, и предпосылки, на которых они основаны, тоже. С этим мы согласились. Теперь вы говорите, что им нельзя не подчиняться. Тогда в чем же дело?

— Вы сами ответили на ваш вопрос. Никакого дела просто нет! Попытайтесь представить себе Машину, Стивен. Это робот, и он следует Первому закону. Но Машины работают не на благо какого-то одного человека, а на благо всего человечества, поэтому Первый закон звучит для них так: «Машина не может принести вреда человечеству или своим бездействием допустить, чтобы ему был причинен вред».

Вот так, Стивен. Что же может причинить вред человечеству? Прежде всего неравномерное распределение производственных мощностей, не так ли?

— Да, допустим.

— А что в будущем может с наибольшей вероятностью привести к неравномерному распределению промышленности? Скажите-ка, Стивен?

— Я думаю, — нехотя проговорил Байерли, — уничтожение Машин.

— И я так считаю, и так считают Машины. Таким образом, их первой заботой является забота о себе, ради нашего благополучия. Поэтому они исподволь подкапываются под то, что может повредить им. Это не «Общество за Человечество», которое вроде бы борется за уничтожение Машин. Это другая сторона медали. Вернее, сами Машины слегка раскачивают нашу лодку — совсем тихонько, но достаточно для того, чтобы обезвредить тех, чьи действия могут причинить вред Человечеству.

Поэтому Врасаяна теряет свою фабрику и получает другую работу там, где он не сможет причинить вреда — ему вред почти не причинен, он продолжает получать достаточно, чтобы обеспечить себе безбедное существование, потому что Машина не может причинить мало-мальски значительного вреда человеку, да и то исключительно ради блага других людей. «Консолидейтед Циннабар» теряет контроль над Альмаденскими копями. Вильяфранка больше не главный инженер важнейшего проекта. А директора «Уорлд Стил» постепенно теряют свое влияние на производство — и потеряют его.

— Но вы же не знаете всего этого на самом деле, — настаивал Байерли. — Как мы можем полагаться на ваши догадки?

— Вы должны. Помните, что ответила вам Машина, когда вы задали ей вопрос? Ответ гласил: «Этот вопрос не требует разъяснений». Машина не сказала, что это невозможно объяснить или что она не может сформулировать объяснение. Она просто не допускала никаких объяснений. Иными словами, человечеству вредно было бы знать объяснение, поэтому нам остается только гадать, что оно может из себя представлять.

— Но каким же образом может повредить нам объяснение? Предположим, что вы правы, Сьюзен.

— Стивен, если я права, значит, Машина старается для нашего будущего, не только отвечая прямо на поставленные вопросы, но и вообще принимая во внимание положение, создавшееся в мире и человеческую психологию. А знание этого может сделать людей несчастными или ущемить нашу гордость. Машина не может, не должна приносить нам несчастье.