Читать «Рассвет Сингулярности» онлайн - страница 31

ВИРТУАЛЬНАЯ РЕАЛЬНОСТЬ

Если окружающая вас действительность слишком ограничена, то посетите виртуальную реальность.

КОЛЛЕКТИВНЫЕ СУЩЕСТВА

Люди будут способны объединять разум, тела и души с любым числом других людей.

ИССЛЕДОВАНИЕ КОСМОСА

Новые материалы, наука и технология сделают исследование космоса не только вполне осуществимым, но и комфортабельным. Дорога в космос будет открыта всем.

ИСКУССТВЕННЫЕ ЛЮДИ

Будучи копиями реальных людей, либо сконструированные с самого нуля, но искусственные люди существенно раздвинут границы нашей цивилизации.

Опасности Сингулярности

"Есть одна штука посильнее всех армий мира:

это - идея, время которой пришло"

Виктор Хьюго.

Для того чтобы мыслить о Сингулярности в рациональном ключе нам следует представить, как это будет выглядеть. Вот список опасностей, ассоциируемых с Сингулярными технологиями.

ЛОГИЧЕСКИЕ НЕПОЛАДКИ В ДРУЖЕСТВЕННОМ СИИ

Что если исчерпывающее истинное понимание несовместимо c дружелюбием? Может быть Вселенная сконструирована таким образом, что дружелюбие нерационально или логически не стыкуется c другими чувствами. Тролль под мостом знает, что его идентичность и все эффекторы его целеполагающей системы в целом ограничены его собственной личностью, и поэтому симпатии к другим иррациональны. Все усилия, не направленные себе во благо являются пустой тратой сил. Сверхчеловеческий Искусственный Интеллект (СИИ), который придёт к такому заключению будет представлять угрозу.

СИИ КОНТРОЛИРУЕТСЯ ДЕСПОТОМ

СИИ контролируется эгоистом. Если можно построить сверхчеловеческий интеллект, который контролируется человеком имеющим разум человеческого уровня и этот человек также имеет единоличный доступ к нанотехнологии и передовой биотехнологии, то тогда мы получим сценарий господства деспота над миром.