Читать «Проект Россия. Третье тысячелетие. Книга третья» онлайн - страница 64

Очень скоро люди будут следовать рекомендациям компьютерных центров, как некогда следовали религиозным предписаниям метафизических центров. Понимать логику вычислительного Центра они не смогут в той же степени, что и логику Бога. Вся разница: Бог понимался источником Добра. Компьютерный Центр будет пониматься источником математической правды. Человечество на пороге новой религии, формируемой машиной.

Между предписаниями компьютера и религиозными предписаниями огромная разница. Нарушение религиозных предписаний не влечет сиюминутных последствий. Человек может покаяться, и с этой минуты считается чистым и не заслуживающим наказания.

Обратная ситуация складывается в мире, подчиненном не Слову, а Цифре. Если правительство нарушит указания математического Центра, это вызовет мгновенный лавинообразный эффект. Система сместит правительство. Новая власть будет покладистее. Она пойдет на самоубийственные шаги, лишь бы выполнить указание. Если Аппарат скажет «убивайте!», детали не смогут противиться.

На этапе формирования новой действительности люди будут нарушать указания компьютера (ради достижения своих малых целей). Это проведет систему через большие и малые катастрофы. Машина проанализирует их, и система из людей и компьютеров напишет новые программы, учитывающие человеческий фактор и блокирующие несанкционированную деятельность.

Глава 18

Чужая цель

Между техническим прогрессом и способностью человека управлять им постоянно увеличивается разрыв. Сегодня система перешагнула порог сложности. Формируется небиологическая форма жизни — искусственный интеллект. Как Афродита родилась из морской пены, так новое разумное «существо» рождается из материализма.

Согласно христианству, разумную жизнь может создать только Бог. Мы полностью разделяем такую позицию, но речь идет о математическом уме, а не о личности. Если есть компьютер, играющий в шахматы (и обыгрывающий человека), имеются основания полагать: в мировые шахматы новая сущность тоже сможет играть и обыгрывать человека.

Всякая разумная система стремится к благу, которое зависит от природы стремящегося. Например, у человека стремление к благу вытекает из его сверхвременной природы. Помня какой-то нечеловеческой памятью высший мир, он стремится вернуться к вечному благу. Возникает желание вечной жизни и удовольствия. Суть стремления атеистов и верующих одна — благо, но разное понимание мира рождает разные цели и разные технологии. Одни стремятся к земному раю, другие к небесному.

В чем может выражаться понятие блага у однажды появившегося, а до того никогда и нигде не существовавшего математического интеллекта (Центра)? Если проводить аналогию с известными формами жизни, от примитивной (бактерия) до небиологической (религия, государство, корпорация), все они характерны стремлением жить. Их понятие блага — избежать опасности, питаться, расти и усложняться. У искусственного интеллекта мы вправе предположить аналогичные стремления. Он будет хотеть жить как можно дольше, в идеале вечно, ради чего преодолевать препятствия.