Читать «Загрижен за човечеството» онлайн - страница 2

— И не постъпиха ли правилно?

— Според мен — не. С това свое действие те подсилиха Франкенщайновия комплекс — страхът, че изкуственият човек ще се обърне срещу своя създател. Хората се страхуват, че роботите ще ги подменят.

— Вие самият не се ли страхувате от такова нещо?

— Аз съм много начетен и просветен. Докато са в сила Трите закона на роботиката, ние сме в безопасност. Роботите могат да бъдат наши партньори във великата ни борба с природните закони.

— Но след като Трите закона вече два века доказват своята ефективност, откъде идва недоверието към тях?

— От суеверието, разбира се — отговори Харимън, като зачеса гневно посивялата си коса. — За съжаление, съществуват и някои усложнения, които служат като храна за нашите противници.

— И те засягат Трите закона?

— Да, по-специално Втория. С Третия закон няма проблеми. Той е универсален. Роботът винаги ще жертва своето съществуване в името на което и да е човешко същество.

— Разбира се — потвърди Джордж Десет.

— Малко по-незадоволителен е Първият закон. Винаги може да изникне ситуация, при която роботът трябва да избира между действие А и действие Б. Двете действия може да се изключват взаимно или да причинят нараняване на човек. Роботът трябва много бързо да прецени кое от двете ще доведе до по-малка загуба. Позитронните пътища в мозъка му не могат лесно да извършат селекцията. Ако действие А ще нарани талантлив, млад художник, а действие Б — петима старци, кое от двете ще избере?

— Действие А — отговори Джордж Десет. — По-добре да се нарани един, отколкото петима.

— Прав си. Роботите са програмирани да взимат решения. Да очакваш хуманоидът да прецени качества като талант, ум, значение за обществото, изглежда непрактично. Това ще отложи изпълнението на заповедта до степен на ефективно изключване. Затова решава според числеността. За щастие, можем да сведем такива случаи до минимум. Остава Вторият закон.

— Законът за подчинението?

— Да. Необходимостта от подчинение е постоянна. Роботът може да съществува двадесет години, без да му се наложи да нарани човек или себе си. През цялото това време обаче трябва да изпълнява команди. Но чии?

— Тези на човека.

— На всеки човек? Как да прецениш дали е загрижен за благото на хората?

Тук Джордж се поколеба.

— Използвах цитат от Библията — побърза да го успокои Харимън. — Няма значение. Кому да се подчини роботът? На дете, на идиот, на престъпник, или на обикновен човек, който не е експерт и не знае последствията от своята заповед. Ами ако двама дадат противоречащи заповеди, коя да изпълни роботът?

— За двеста години не бяха ли решени тези проблеми? — попита Джордж Десет.

— Не — отговори Харимън, клатейки яростно глава. — Бяхме спирани от факта, че с роботите се борави единствено в открито космическо пространство. С тях манипулираха специалисти. Там нямаше деца, идиоти, престъпници, или други невежи. Въпреки това, поради недомислие, бяха допуснати някои щети. На Земята обаче роботите трябва да преценяват. За това настояват антироботистите и са прави.