Читать «Мої роботи» онлайн - страница 2

Три закони були логічними й звучали цілком розумно. Насамперед, коли я почав писати оповідання про своїх роботів, я подумав, що треба потурбуватися про безпеку людини. Більш того, я чудово розумів, що навіть не намагаючись свідомо нанести людині шкоду, своєю бездіяльністю робот може спричинити для неї лихо. Я ніяк не міг забути цинічного твору Артура Хью Клоу «Останній декалог», в якому десять заповідей переписані в сатирічному стилі Макіавеллі. Найчастіше цитується така: «Не вбий, але й не надто намагайся зберегти іншому життя».

Саме з цієї причини я наполягав на тому, що Перший закон (безпека) має складатися з двох позицій:

1. Робот не може нанести шкоду людині або своєю бездіяльністю допустити, щоб людині була нанесена шкода.

Потурбувавшися про безпеку, ми вирішили перейти до Другого закону (служба). Природньо, слідуючи необхідності виконувати накази людей, робот не має забувати про їхню безпеку. Тобто, Другий закон каже:

2. Робот має підкорюватися усім наказам, які віддає людина, окрім тих випадків, коли ці накази суперечать Першому закону.

І, нарешті, нам був потрібний третій закон (обережність). Робот — коштовна машина, тобто, необхідно її берегти. Але не на шкоду безпеці та службі людині. Отже, Третій закон виглядає наступним чином:

3. Робот має піклуватися про свою безпеку у тій мірі, в якій це не протирічить Першому та Другому законам.

Зрозуміло, ці закони сформульовані в словах, що є певною мірою недосконалістю. В позитронному мозку вони уособлені в складних математичних формулах (в яких я нічого не розумію). Одначе навіть при цьому вони доволі двозначні. Що вважати за шкоду для людини? Чи має робот підкорюватись наказам, які віддає йому дитина, чи божевільний, чи людина з поганими намірами? Чи має він віддати своє вартісне й корисне існування, аби попередити незначну шкоду, яка може бути завдана не дуже важливій людині? Що є «незначна» і що є «не дуже важлива»?

На думку автора, ця двозначність не є недоробкою Трьох законів. Якби Три закони були ідеальними і не викликали жодних сумнівів, чи могли б ми написати наші оповідання? Саме в хитромудрих закутках сумнівів і лежать сюжети, яке стають підвалинами — вже вибачте за каламбур — «Міста роботів».

Я не намагався втілити в слова Три закони в своєму оповідання «Брехун», який з‘явився в травні 1941 року. Одначе в наступному оповіданні «Хоровод», що з‘явилося в березні 1942 року, я приділив їм найприскіпливішу увагу. В цьому числі на сьомому рядку сторінки сто, один з героїв каже: «Тепер слухай. Розпочнемо з Трьох основних законів роботехніки — трьох правил, які міцно вкорінені в позитронному мозку», і далі я їх цитую. Наскільки мені відомо, це перша поява в пресі слова «роботехніка», яке я вигадав.