Читать «Последнее изобретение человечества» онлайн - страница 146
Джеймс Баррат
На этот вопрос Грейнджер отвечает: «Неужели Хелен Келлер была менее человеком, чем вы? Или парализованный человек? Неужели мы не можем вообразить себе интеллект с совершенно иными способностями, со зрением, датчиками прикосновения и микрофонами для слуха? Конечно, у него будут несколько иные представления о
Наконец, вполне возможно, что для рождения интеллекта ученым необходимо смоделировать еще и эмоциональный орган. В принятии решений эмоции зачастую играют более серьезную роль, чем разум; то, кто мы есть, и то, как мы думаем, в значительной степени определяется гормонами, которые возбуждают и успокаивают нас. Если мы и правда хотим смоделировать человеческий интеллект, разве эндокринная система не должна быть частью архитектуры? Не исключено, что интеллект требует полноценных человеческих ощущений. Первичные ощущения, или субъективное качество обитания в теле и жизни в состоянии постоянной сенсорной обратной связи, могут оказаться необходимыми для интеллекта человеческого уровня. Несмотря на аргументы Грейнджера, исследования показали, что люди, парализованные в результате травмы, испытывают эмоциональное омертвение. Можно ли создать эмоциональную машину без тела, а если нет, то неужели такую важную часть человеческого интеллекта никогда не удастся реализовать?
Разумеется — и я буду говорить об этом в последних главах, — мои опасения сводятся к тому, что на пути создания ИИ с интеллектом, подобным человеческому, исследователи создадут вместо этого нечто чуждое, сложное и неуправляемое
ГЛАВА 14
Конец эры человечества?
Рассуждение очень простое. Мы начинаем с завода, самолета, биологической лаборатории или другой среды со множеством компонентов… Затем нам нужно два или более отказа компонентов, которые взаимодействуют друг с другом каким-то неожиданным образом… Эта тенденция к взаимодействию — характеристика системы, а не часть оператора; назовем это «интерактивной сложностью» системы.
Чарльз Перроу. Нормальные аварии
Я предсказываю, что всего через несколько лет нас ждет серьезная катастрофа, вызванная автономной компьютерной системой, самостоятельно принимающей решения.
