Читать «Рациональность: От ИИ до Зомби» онлайн - страница 623
Элиезер Шломо Юдковски
Другая эвристика — слушать свои чувства. Если ваши заключения совершенно вам не нравятся, то, возможно, вы потеряли когнитивный иммунитет к чему-то опасному.
Так ли очевидно «очевидное»?
Представьте себе комментарий на Less Wrong — проницательный, вежливый, понятный — в общем, прекрасный во всех отношениях. А теперь представьте себе тот же комментарий, но только предваряемый словами «Общеизвестно, что». Казалось бы, это не меняет сути дела, но на деле единственное слово меняет комментарий к худшему в той степени, которую я не берусь определить.
Будь я настроен недоброжелательно, я мог бы свести описанный эффект к частному случаю ошибки, связанной с (English). Подразумеваемое умозаключение выглядит примерно так: «Я нахожу такое-то суждение очевидным. Следовательно, это суждение будет очевидным для всех». Трудность состоит в том, что оценка суждения как очевидного или вероятного — только (English).
Клеймо «очевидности» идей связано с другой проблемой: «очевидное», скорее всего, не будет сказано вслух. Я не знаю, насколько универсально это утверждение, но точно могу сказать, что когда я проговариванию то, что мне кажется очевидным, я боюсь. Я боюсь, хотя пренебрежение этими опасениями не обязательно вызовет шквал презрительных комментариев. (Именно поэтому, на самом деле, я и пишу эту статью).
Перефразируя Элизиера, это вовсе не была «молния инсайта».
Я поднимаю вопрос об «очевидном», поскольку предлагаю сообществу ввести ряд норм:
Не бойтесь говорить что-то только потому, что оно «очевидно». Что-то вроде этого всегда говорили учителя: глупых вопросов не существует.
Не снабжайте классные идеи оговоркой «это общеизвестно, но все же стоит сказать, что…».
Не «минусуйте» без раздумий комментарий потому, что он сообщает нечто «очевидное». Не избегайте «очевидных» идей.
Не называйте идею очевидной, так, будто очевидность — ее неотъемлемое свойство. Может быть, в какой-то ситуации назвать нечто «очевидным» — это самый точный способ высказать то, что вы думаете, однако довольно трудно сделать это так, чтобы не выглядеть высокомерным. (Подозреваю, что на самом деле это одна из причин, по которой мы в таких ситуациях избегаем «я» и выбираем безличные формы: «это очевидно» или «общеизвестно, что…»).
Я не утверждаю, что предложенные нормы безусловно хороши, но полагаю, что их осуществление уменьшит количество мыслей, которые нельзя думать и слов, которые нельзя произносить.
Сегодня влияние наблюдателя на объект и результат наблюдения общеизвестно и кажется простой и логичной идеей, до которой может додуматься всякий, однако чтобы сформулировать этот принцип и его следствия, понадобилось создать и усвоить теорию относительности. Идеи, которая время спустя кажутся простыми и логичными, далеко не всегда очевидны в момент их рождения (Прим. перев.).
Table of Contents
Ложные убеждения
Замечая замешательство
Загадочные ответы
