Читать «Проектът "Кракен"» онлайн - страница 175

-      Изоставане? Като изоставане в ядрената надпревара? - попита Мелиса.

-Да.

Форд я погледна. Лицето ѝ бе пребледняло.

-      Подробностите около предложението ни са в тази папка. Моля, вземете я и си помислете. Молим ви само да не го обсъждате с никого.

Тя побутна папката.

-      Отговорът ми е не.

-      Отказвате? - попита президентът. - Но вие дори не погледнахте предложението!

Мелиса стана от стола.

-      Не е необходимо. Нямате представа за какво става въпрос. Както аз нямах представа, когато създавах Дороти за НАСА.

-      Какво искате да кажете? - попита президентът.

Тя огледа всички присъстващи.

-      Създаването на истински изкуствен интелект - на мощен изкуствен интелект - прилича на създаването на човешки разум. Дори само в това има нещо дълбоко неморално. А да се използва този разум за военни нужди, за убийства... Не! Прекалено опасно е да създадете оръжия, които сами да решават кого да убият, оръжия, заредени със софтуер, който ги учи да убиват, който ги кара да искат да убиват. Никога няма да можем да контролираме подобен изкуствен интелект. Както не можахме да контролираме и Дороти. Това е равносилно на отварянето на кутията на Пандора. При ядрените ракети поне има един пръст - пръст на човек, - който трябва да натисне копчето.

-      Подобно твърдение е абсурдно - възрази генерал Донъли. - Всички системи с изкуствен интелект, които разработим, ще се намират под пълен човешки контрол.

-      Така ли мислите? Това е защото никога не сте срещали Дороти.