Снижение когнитивных предубеждений - Cognitive bias mitigation

Для более широкого освещения этой темы см. Сглаживание.

Снижение когнитивных предубеждений предотвращение и уменьшение негативных последствий когнитивные предубеждения - бессознательное автоматическое влияние на человеческие суждения и принятие решений, которое достоверно приводит к ошибкам в рассуждении.

Отсутствуют последовательные, всеобъемлющие теории смягчения когнитивных предубеждений. В этой статье описываются инструменты, методы, предложения и другие инициативы по устранению искажений в академических и профессиональных дисциплинах, связанные с эффективностью человеческого мышления, связанные с концепцией смягчения когнитивных предубеждений; большинство адресатов смягчения последствий неявно, а не явно.

Давняя дискуссия о принятии решений людьми связана с развитием теории и практики уменьшения предвзятости. Эта дискуссия контрастирует с рациональный экономический агент стандарт принятия решений по сравнению со стандартом, основанным на социальных потребностях и мотивациях человека. В дебатах также противопоставляются методы, используемые для анализа и прогнозирования принятия решений человеком, то есть формальный анализ с упором на интеллектуальные способности по сравнению с эвристика подчеркивание эмоциональных состояний. В этой статье определены элементы, относящиеся к этой дискуссии.

Контекст

Большой объем доказательств[1][2][3][4][5][6][7][8][9][10] установил, что определяющая характеристика когнитивные предубеждения заключается в том, что они проявляются автоматически и бессознательно в широком диапазоне человеческих рассуждений, поэтому даже те, кто осведомлен о существовании феномена, не могут обнаружить, не говоря уже о смягчении, их проявление только посредством осознания.

Реальные эффекты когнитивной предвзятости

Есть несколько исследований, прямо связывающих когнитивные искажения с реальными инцидентами с крайне негативными последствиями. Примеры:

  • Одно исследование[11] явно сосредоточены на когнитивной предвзятости как на потенциальном источнике события уровня бедствия; В этом исследовании изучались причины гибели нескольких членов двух экспедиционных групп на Гора Эверест два дня подряд в 1996 году. Это исследование пришло к выводу, что в горах «играли роль» несколько когнитивных предубеждений, наряду с другими человеческими факторами. Это был случай, когда хорошо обученные, опытные люди нарушали свои собственные правила, очевидно, под влиянием эффект самоуверенности, то ошибка невозвратных затрат, то эвристика доступности и, возможно, другие когнитивные искажения. Пять человек, в том числе оба руководителя экспедиции, погибли, несмотря на явные предупреждения на брифингах до и во время восхождения на Эверест. Помимо ошибок лидеров, большинство членов команд, хотя и признавали ошибочные суждения своего лидера, не настаивали на соблюдении установленных правил восхождения.
  • В 2010 году MarketBeat изучать,[12] Немецкие исследователи изучили роль определенных когнитивные предубеждения Возможно, они столкнулись с глобальным финансовым кризисом, начавшимся в 2007 году. Они пришли к выводу, что уровень знаний биржевых аналитиков и трейдеров сделал их чрезвычайно устойчивыми к сигналам, которые не соответствовали их убеждениям в сохранении статус-кво. В тисках сильных Подтверждение смещения усилены эффектом самоуверенности и предубеждение статус-кво, они, по-видимому, не могли видеть сигналы финансового краха, даже после того, как они стали очевидны для неспециалистов.
  • По аналогии, Канеман, Нобелевский лауреат по экономике, сообщает[13] В рецензируемом исследовании показано, что опытные финансовые менеджеры работают «не лучше, чем случайно», в основном из-за факторов, аналогичных описанным в исследовании выше, которые он назвал «иллюзией навыков».

Проведены многочисленные расследования инцидентов, устанавливающих, что человеческая ошибка была центральной для крайне негативных потенциальных или реальных результатов в реальном мире, в которых проявление когнитивные предубеждения является вероятным компонентом. Примеры:

  • 'Гимли Планер 'Инцидент,[14] в котором 23 июля 1983 года на рейсе Air Canada из Монреаля в Эдмонтон закончилось топливо на высоте 41 000 футов над Манитобой из-за ошибки измерения при дозаправке, результат позже был определен как результат ряда непроверенных предположений, сделанных наземным персоналом. Без питания для управления радио, радаром или другими средствами навигации и только ручного управления поверхностями управления самолетом летному экипажу удалось обнаружить заброшенную взлетно-посадочную полосу канадских ВВС недалеко от Гимли, Манитоба. Без мощности двигателя и только с ручным торможением колес пилот положил самолет вместе с 61 пассажирами и экипажем и благополучно остановил его. Такой результат был результатом умения (пилот имел опыт полета на планере) и удачи (второй пилот просто случайно знал о взлетно-посадочной полосе); никто не погиб, повреждения самолета были скромными, и были хорошо осведомленные выжившие, чтобы сообщить об изменениях в процедурах заправки во всех канадских аэропортах.
  • Утрата Марсианский климатический орбитальный аппарат,[15] который 23 сентября 1999 г. "столкнулся с Марсом на слишком малой высоте" и был утерян. НАСА описал системную причину этого несчастного случая как организационный сбой, при этом конкретная, ближайшая причина заключалась в непроверенных предположениях команд миссии относительно сочетания метрика и Обычные единицы США используется в разных системах на корабле. В этой ситуации можно вообразить множество когнитивных искажений: Подтверждение смещения, предвзятость в ретроспективе, эффект самоуверенности, смещение доступности и даже мета-смещение слепое пятно смещения.
  • В Салливан Майн Инцидент[16] от 18 мая 2006 г., в котором два специалиста по горным работам и два фельдшера на закрытой шахте Салливан в Британской Колумбии, Канада, все специально обученные мерам безопасности, погибли, не сумев понять опасную для жизни ситуацию, которая в ретроспективе была очевидна. Первому, кто сдался, не удалось точно различить аноксический окружающая среда на дне отстойника внутри помещения для отбора проб, доступ к которому осуществляется по лестнице. После первого смертельного случая трое других сотрудников, обученные опасным операционным ситуациям, один за другим погибли точно таким же образом, каждый, очевидно, не учитывал доказательства судьбы предыдущих жертв. Одной силы искажения подтверждения было бы достаточно, чтобы объяснить, почему это произошло, но, вероятно, проявились и другие когнитивные искажения.
  • В Лондонская служба скорой помощи Неудачи, в котором несколько сбоев системы автоматизированного диспетчеризации (CAD) привели к задержкам обслуживания, не отвечающим техническим требованиям, и сообщениям о смертельных случаях, связанных с этими задержками. Системный сбой в 1992 году был особенно значительным: задержки обслуживания до 11 часов привели к примерно 30 ненужным смертельным случаям в дополнение к сотням отложенных медицинских процедур.[17] Этот инцидент является одним из примеров того, как крупные проекты разработки компьютерных систем демонстрируют серьезные недостатки в планировании, проектировании, выполнении, тестировании, развертывании и обслуживании.[18][19]
  • Атул Гаванде, опытный специалист в области медицины, рассказывает[20] результаты инициативы в крупной больнице США, в которой тестовый прогон показал, что врачи пропустили хотя бы один из пяти шагов в 1/3 определенных хирургических случаев, после чего медсестрам было дано право и ответственность ловить врачей, пропускающих какие-либо шаги в простом контрольном списке, направленные на сокращение инфекций центральной линии. В последующий 15-месячный период уровень инфицирования снизился с 11% до 0%, удалось избежать 8 смертей и сэкономить около 2 миллионов долларов на предотвращаемых расходах.
  • Другие примеры негативных результатов на уровне бедствия в результате человеческой ошибки, возможно, включая множественные когнитивные искажения: Три Майл Айленд ядерный расплав, потеря Спейс Шаттл Челленджер, то Чернобыль пожар ядерного реактора, крушение Иран Эйр пассажирский самолет, неэффективный ответ на ураган Катрина погодные события и многое другое.

Каждый из на сегодняшний день известно около 100 когнитивных искажений может также привести к негативным последствиям в нашей повседневной жизни, хотя и редко так серьезно, как в приведенных выше примерах. Иллюстративный выбор, приведенный в нескольких исследованиях:[1][2][3][4][5][6][7][8][9][10]

  • Подтверждение смещения, тенденция искать только ту информацию, которая поддерживает предубеждения, и игнорировать ту, которая не соответствует. Например, слышать только одну сторону политических дебатов или не принимать свидетельства того, что работа стала ненужной.
  • Эффект обрамления, тенденция реагировать на то, как информация оформлена, за пределами ее фактического содержания. Например, отказ от операции, когда ему сказали, что у него частота неудач 10%, тогда как можно было бы выбрать операцию, если бы ему сказали, что у него 90% успеха, или отказавшись от пожертвования органов в рамках продления водительских прав, когда по умолчанию нет'.
  • Смещение привязки, тенденция производить оценку, близкую к количеству реплик, которое могло или не могло быть предложено намеренно. Например, составление предложения на основе предпочтений менеджера или согласование цены покупки дома на основе начальной суммы, предложенной агентом по недвижимости, а не объективной оценки стоимости.
  • Заблуждение игрока (он же систематическая ошибка невозвратных затрат ), неспособность пересмотреть свои ожидания исходя из текущей ситуации. Например, отказ платить снова за покупку взамен утерянного билета на желаемое развлечение или отказ от продажи значительных длинных позиций на быстро падающем рынке.
  • Эвристика репрезентативности, тенденция судить о чем-либо как о принадлежащем к классу на основе нескольких характерных характеристик без учета базовых показателей этих характеристик. Например, вера в то, что человек не станет алкоголиком, потому что ему не хватает некоторых характеристик алкогольного стереотипа, или что у него более высокая вероятность выиграть в лотерею, потому что он покупает билеты у того же продавца, что и несколько известных крупных победителей.
  • эффект ореола, тенденция приписывать человеку непроверенные способности на основе наблюдаемых способностей. Например, верить утверждениям оскароносного актера относительно добычи атлантических тюленей или предполагать, что высокий красивый мужчина умен и добр.
  • Предвзятость в ретроспективе, тенденция оценивать свои предыдущие решения как более эффективные, чем они были. Например, «вспоминая» предсказание о том, что Ванкувер проиграет Кубок Стэнли 2011 года, или «вспоминая» об определении ближайшей причины Великой рецессии 2007 года.
  • Эвристика доступности, тенденция оценивать, что то, что легко запомнить, более вероятно, чем то, что нет. Например, предположить, что информационная встреча по муниципальному планированию будет скучной, потому что последняя такая встреча, на которой вы присутствовали (по другой теме), была такой, или, не веря обещанию вашего члена парламента бороться за равенство женщин, потому что он не показал вплоть до сбора средств на продажу домашней выпечки для него.
  • Эффект победившего, склонность делать или верить в то, что другие делают или верят. Например, голосование за политического кандидата, потому что ваш отец неизменно голосовал за партию этого кандидата, или не возражать против преследований хулигана, потому что остальные ваши сверстники этого не делают.

На свидание

Все большее количество академических и профессиональных дисциплин определяет средства смягчения когнитивных предубеждений. Далее следует характеристика предположений, теорий, методов и результатов в дисциплинах, связанных с эффективностью человеческого мышления, которые правдоподобно связаны с теорией и / или практикой смягчения когнитивных предубеждений. В большинстве случаев это основано на явной ссылке на когнитивные предубеждения или их смягчение, в других случаях о неустановленной, но самоочевидной применимости. Эта характеристика организована в соответствии с принципами, отражающими историческую сегментацию дисциплин, хотя на практике наблюдается значительное совпадение.

Теория принятия решений

Теория принятия решений, дисциплина, уходящая корнями в неоклассическую экономика, явно ориентирована на человеческое мышление, суждение, выбор и принятие решений, в первую очередь в «одноразовых играх» между двумя агентами с точной информацией или без нее. Теоретическая основа теории принятия решений предполагает, что все лица, принимающие решения, рациональные агенты пытаясь максимизировать экономические ожидаемое значение / полезность своего выбора, и для этого они используют формальные аналитические методы, такие как математика, вероятность, статистика и логика при ограниченных когнитивных ресурсах.[21][22][23]

Нормативная, или предписывающая, теория принятия решений занимается тем, что люди должен делать, учитывая цель максимизировать ожидаемую ценность / полезность; В этом подходе нет явного представления в моделях практикующих бессознательных факторов, таких как когнитивные предубеждения, т.е. все факторы считаются параметрами сознательного выбора для всех агентов. Практики склонны рассматривать отклонения от действий рационального агента как «ошибки иррациональности», подразумевая, что смягчение когнитивных предубеждений может быть достигнуто только теми, кто принимает решения, становясь более похожими на рациональных агентов, хотя никаких явных мер для достижения этого не предлагается.

Позитивная или описательная теория принятия решений занимается тем, что люди фактически делать; Практики склонны признавать постоянное существование «иррационального» поведения, и хотя некоторые упоминают человеческую мотивацию и предубеждения как возможные факторы, способствующие такому поведению, эти факторы не отражаются в их моделях. Практики склонны рассматривать отклонения от действий рационального агента как свидетельство важных, но еще не понятых переменных, принимаемых при принятии решений, и пока не имеют явного или неявного вклада в теорию и практику смягчения когнитивных предубеждений.

Теория игры

Теория игры, дисциплина с корнями в экономике и системная динамика, представляет собой метод изучения принятия стратегических решений в ситуациях, включающих многоэтапное взаимодействие с несколькими агентами с точной информацией или без нее. Как и в случае теории решений, теоретическая основа теории игр предполагает, что все лица, принимающие решения, являются рациональными агентами, пытающимися максимизировать экономическую ожидаемую ценность / полезность своего выбора, и что для достижения этого они используют формальные аналитические методы, такие как математика, вероятность, статистика и т. Д. и логика при ограниченных когнитивных ресурсах.[24][25][26][27]

Одно из основных различий между теорией принятия решений и теорией игр - понятие «равновесия», ситуации, в которой все агенты соглашаются относительно стратегии, потому что любое отклонение от этой стратегии наказывает отклоняющегося агента. Несмотря на аналитические доказательства существования по крайней мере одного равновесия в широком диапазоне сценариев, прогнозы теории игр, как и прогнозы теории принятия решений, часто не совпадают с реальным выбором человека.[28] Как и в случае с теорией принятия решений, практики склонны рассматривать такие отклонения как «иррациональные» и вместо того, чтобы пытаться моделировать такое поведение, косвенно считают, что смягчение когнитивных предубеждений может быть достигнуто только в том случае, если лица, принимающие решения, становятся более похожими на рациональных агентов.

Во всем спектре моделей теории игр есть много таких, которые не гарантируют существования равновесия, то есть есть конфликтные ситуации, в которых нет набора стратегий агентов, которые, по мнению всех агентов, соответствуют их интересам. Однако даже когда существует теоретическое равновесие, т.е. когда оптимальные стратегии принятия решений доступны для всех агентов, лица, принимающие решения в реальной жизни, часто их не находят; на самом деле они иногда даже не пытаются их найти, предполагая, что некоторые агенты не всегда «рациональны». Теория игр, похоже, не допускает никаких агентов, кроме рациональных.

Поведенческая экономика

В отличие от неоклассической экономики и теории принятия решений, поведенческая экономика и связанное поле, поведенческие финансы, подробно рассмотреть влияние социальных, когнитивных и эмоциональных факторов на экономические решения людей. Эти дисциплины сочетают в себе идеи психология и неоклассицизм экономика для достижения этой цели.[29][30][31]

Теория перспектив[32] был одним из первых источников вдохновения для этой дисциплины, и получил дальнейшее развитие у практикующих. Это одна из самых ранних экономических теорий, которые открыто признают понятие когнитивной предвзятости, хотя сама модель учитывает лишь некоторые из них, в том числе неприятие потерь, смещение якоря и регулировки, эффект вклада, и, возможно, другие. В формальной теории перспектив смягчения когнитивных предубеждений не упоминается, и нет свидетельств рецензируемой работы по смягчению когнитивных предубеждений в других областях этой дисциплины.

Тем не мение, Даниэль Канеман и другие авторы недавних статей в деловых и отраслевых журналах, в которых рассматривается понятие смягчения когнитивных предубеждений в ограниченной форме.[33] В этих статьях утверждается, что смягчение когнитивных предубеждений необходимо, и предлагаются общие предложения о том, как этого добиться, хотя руководство ограничивается лишь несколькими когнитивными предубеждениями и не является самоочевидным для других.

Нейроэкономика

Нейроэкономика это дисциплина, ставшая возможной благодаря достижениям в технологиях визуализации активности мозга. Эта дисциплина объединяет некоторые идеи экспериментальная экономика, поведенческая экономика, наука о мышлении и социальная наука в попытке лучше понять нейронную основу принятия решений человеком.

фМРТ эксперименты предполагают, что лимбическая система постоянно участвует в разрешении ситуаций экономического принятия, которые эмоциональная валентность Из этого следует вывод, что эта часть человеческого мозга участвует в создании отклонений от рационального выбора агентов, отмеченных при принятии эмоционально значимых экономических решений. Практики этой дисциплины продемонстрировали корреляцию между активностью мозга в этой части мозга и разведка активность и активация нейронов оказывают измеримое и последовательное влияние на принятие решений.[34][35][36][37][38] Эти результаты следует рассматривать как умозрительные и предварительные, но они, тем не менее, предполагают возможность идентификации в реальном времени состояний мозга, связанных с проявлением когнитивного смещения, и возможность целенаправленного вмешательства на нейронном уровне для достижения смягчения когнитивного смещения.

Когнитивная психология

Несколько направлений исследований в этой дисциплине примечательны своей возможной актуальностью для теории смягчения когнитивных предубеждений.

Один из подходов к смягчению последствий, первоначально предложенный Даниэль Канеман и Амос Тверски, расширенный другими и применяемый в реальных жизненных ситуациях, прогнозирование эталонного класса. Этот подход включает три шага: имея в виду конкретный проект, определите количество прошлых проектов, которые разделяют большое количество элементов с исследуемым проектом; для этой группы проектов установить вероятностное распределение прогнозируемого параметра; и сравните конкретный проект с группой аналогичных проектов, чтобы установить наиболее вероятное значение выбранного параметра для конкретного проекта. Этот простой сформулированный метод маскирует потенциальную сложность применения в реальных проектах: несколько проектов характеризуются одним параметром; множественные параметры экспоненциально усложняют процесс; сбор достаточных данных для построения надежных распределений вероятностей проблематичен; и результаты проекта редко бывают однозначными, а их отчеты часто искажаются интересами заинтересованных сторон. Тем не менее, этот подход имеет достоинства как часть протокола смягчения когнитивных предубеждений, когда процесс применяется с максимальным усердием, в ситуациях, когда доступны достоверные данные и можно ожидать сотрудничества всех заинтересованных сторон.

Концепция, основанная на рассмотрении реального механизма человеческого мышления, ограниченная рациональность может способствовать значительному прогрессу в смягчении когнитивных предубеждений. Первоначально задумано Герберт А. Саймон[39] в 1960-х годах и привело к концепции удовлетворительный в отличие от оптимизации, эта идея нашла экспериментальное выражение в работе Герд Гигеренцер и другие. Одно направление работы Гигеренцера привело к «быстрому и экономному» построению механизма человеческого мышления.[40] который был сосредоточен на главенстве «узнавания» в принятии решений, подкрепленном эвристикой разрешения связей, работающей в среде с низким уровнем когнитивных ресурсов. В серии объективных тестов модели, основанные на этом подходе, превзошли модели, основанные на рациональных агентах. максимизация их полезности с использованием формальных аналитических методов. Одним из вкладов этого подхода в теорию и практику смягчения когнитивных предубеждений является то, что он направлен на смягчение последствий без явного нацеливания на индивидуальные когнитивные предубеждения и фокусируется на самом механизме рассуждения, чтобы избежать проявления когнитивных предубеждений.

Интенсивное ситуационное обучение способно предоставить людям то, что кажется смягчением когнитивных предубеждений при принятии решений, но сводится к фиксированной стратегии выбора единственной наилучшей реакции на распознаваемые ситуации, независимо от «шума» в окружающей среде. Исследования и анекдоты, опубликованные в популярных СМИ[13][20][41][42] Когда капитаны пожарных, командиры воинских взводов и другие люди делают правильные, поспешные суждения под крайним давлением, можно предположить, что эти ответы, вероятно, не поддаются обобщению и могут способствовать теории и практике смягчения когнитивных предубеждений только общей идеей интенсивного обучения в конкретной предметной области.

Точно так же подготовка на уровне экспертов по таким основополагающим дисциплинам, как математика, статистика, вероятность, логика и т. Д., Может быть полезна для смягчения когнитивных предубеждений, когда ожидаемый уровень производительности отражает такие формальные аналитические методы. Однако исследование профессионалов в области программного обеспечения[43] предполагает, что для задачи оценки программных проектов, несмотря на сильный аналитический аспект этой задачи, стандарты эффективности, ориентированные на социальный контекст рабочего места, были гораздо более доминирующими, чем формальные аналитические методы. Этот вывод, если его можно обобщить на другие задачи и дисциплины, обесценил бы потенциал обучения на уровне экспертов как подхода к смягчению когнитивных предубеждений и мог бы внести узкую, но важную идею в теорию и практику смягчения когнитивных предубеждений.

Лабораторные эксперименты, в которых устранение когнитивных искажений является явной целью, редки. Одно исследование 1980 года[44] исследовал понятие сокращения предвзятость оптимизма путем демонстрации испытуемым результатов других испытуемых из задачи на рассуждение, в результате чего их последующее принятие решений было несколько искажено.

Недавнее исследование Morewedge и его коллег (2015) обнаружило доказательства общих форм устранения смещения. В двух лонгитюдных экспериментах методы обучения сглаживанию смещения с использованием интерактивных игр, которые вызвали шесть когнитивных искажений (привязка, слепая точка смещения, смещение подтверждения, фундаментальная ошибка атрибуции, смещение проекции и репрезентативность), дали участникам индивидуальную обратную связь, стратегии смягчения последствий и практику. в немедленном сокращении комиссии за предубеждения более чем на 30% и в долгосрочном (задержка от 2 до 3 месяцев) сокращении более чем на 20%. Обучающие видео тоже были эффективными, но менее эффективными, чем игры.[45]

Эволюционная психология

Эта дисциплина явно бросает вызов распространенному мнению, что люди являются рациональными агентами, максимизирующими ожидаемую ценность / полезность, используя для этого формальные аналитические методы. Практики, такие как Космидес, Туби, Хэзелтон, Конфер и другие полагают, что когнитивные искажения правильнее называть когнитивной эвристикой, и их следует рассматривать как набор когнитивных сокращений.[46][47][48][49] выбраны под давлением эволюции и, таким образом, являются особенностями, а не недостатками, как предполагается в преобладающей точке зрения. Теоретических моделей и анализов, подтверждающих эту точку зрения, предостаточно.[50] Эта точка зрения предполагает, что отрицательные результаты рассуждений возникают в первую очередь потому, что проблемы рассуждения, с которыми сталкиваются современные люди, и социальный и политический контекст, в котором они представлены, требуют от нашего древнего `` эвристического инструментария '', который в лучшем случае создает путаницу в отношении того, какие эвристики применять. в данной ситуации и в худшем случае порождают то, что приверженцы распространенной точки зрения называют «ошибками рассуждения».

В том же духе, Мерсье и Спербер описать теорию[51] за Подтверждение смещения и, возможно, другие когнитивные предубеждения, что является радикальным отходом от преобладающего мнения, согласно которому человеческое мышление предназначено для помощи отдельным экономическим решениям. Их точка зрения предполагает, что он развился как социальный феномен и что целью была аргументация, то есть убедить других и быть осторожными, когда другие пытаются убедить нас. Еще слишком рано говорить о том, применима ли эта идея в более общем смысле к другим когнитивным искажениям, но точка зрения, поддерживающая теорию, может быть полезна при построении теории и практики смягчения когнитивных искажений.

Наблюдается сближение эволюционная психология и концепция нашего механизма рассуждений, разделенного (приблизительно) на «Систему 1» и «Систему 2».[13][46] С этой точки зрения Система 1 - это `` первая линия '' когнитивной обработки всех восприятий, включая внутренне генерируемые `` псевдо-восприятия '', которые автоматически, подсознательно и почти мгновенно производят эмоционально валентные суждения об их вероятном влиянии на благополучие человека. . Напротив, Система 2 отвечает за «исполнительный контроль», принимая суждения Системы 1 в качестве рекомендаций, делая прогнозы на будущее с помощью разведка, их актуализации, а затем выбрать, какие рекомендации, если таковые имеются, действовать. С этой точки зрения Система 2 медлительна, простодушна и ленива, обычно не выполняет рекомендаций Системы 1 и отменяет их только при интенсивном обучении этому или когда может возникнуть когнитивный диссонанс. С этой точки зрения, наш «эвристический инструментарий» в основном находится в Системе 1, что соответствует представлению о том, что когнитивные искажения являются бессознательными, автоматическими и очень трудно обнаружить и преодолеть. Практики эволюционной психологии подчеркивают, что наш эвристический инструментарий, несмотря на очевидное обилие приписываемых ему `` ошибок рассуждения '', на самом деле работает исключительно хорошо, учитывая скорость, с которой он должен действовать, диапазон выносимых суждений и связанные с этим ставки. Представление Системы 1/2 о механизме мышления человека, по-видимому, имеет эмпирическую достоверность (см. Неврология, далее, а эмпирические и теоретические аргументы против см. [52][53][54]) и, таким образом, может способствовать теории и практике смягчения когнитивных предубеждений.

Неврология

Неврология предлагает эмпирическую поддержку концепции разделения механизма рассуждений человека на Систему 1 и Систему 2, как описано выше, на основе экспериментов по визуализации активности мозга с использованием фМРТ технологии. Хотя это понятие должно оставаться спекулятивным до тех пор, пока не будет проведена дальнейшая работа, оно, по-видимому, является продуктивной основой для разработки вариантов построения теории и практики смягчения когнитивных предубеждений.[55][56]

Антропология

Антропологи представили общепринятые сценарии[57][58][59][60][61] о том, как жили наши прародители и что было важным в их жизни. Эти сценарии социальной, политической и экономической организации не являются единообразными на протяжении истории или географии, но существует определенная степень стабильности на протяжении всей истории. Палеолит эпоха, и Голоцен особенно. Это, наряду с выводами в Эволюционная психология и Неврология выше, предполагает, что наша когнитивная эвристика наиболее эффективна при работе в социальной, политической и экономической среде, наиболее близкой к палеолиту / голоцену. Если это правда, то одним из возможных средств достижения хотя бы некоторого смягчения когнитивных предубеждений является имитация, насколько это возможно, социальных, политических и экономических сценариев палеолита / голоцена при выполнении логической задачи, которая может вызвать негативные эффекты когнитивной предвзятости.

Техника надежности человека

Ряд парадигм, методов и инструментов повышения надежности работы человека[20][62][63][64][65][66] были разработаны в рамках дисциплины инженерия надежности человека. Несмотря на то, что определенное внимание уделяется самому механизму человеческого мышления, доминирующий подход состоит в том, чтобы предвидеть проблемные ситуации, ограничивать человеческие операции посредством процедурных мандатов и направлять человеческие решения с помощью фиксированных протоколов реакции, специфичных для рассматриваемой области. Хотя этот подход может дать эффективные ответы на критические ситуации в условиях стресса, задействованные протоколы должны рассматриваться как имеющие ограниченную обобщаемость за пределами области, для которой они были разработаны, что подразумевает, что решения в этой дисциплине могут обеспечить только общие основы теории и практики. смягчения когнитивных предубеждений.

Машинное обучение

Машинное обучение, филиал искусственный интеллект, был использован для исследования человеческого обучения и принятия решений.[67]

Одним из методов, особенно применимых для смягчения когнитивных предубеждений, является: обучение нейронной сети и выбор выбора, подход, вдохновленный воображаемой структурой и функцией актуальных биологические нейронные сети в человеческий мозг. Многослойная кросс-связанная структура сбора и распространения сигналов, типичная для нейронная сеть Модели, в которых весовые коэффициенты определяют вклад сигналов в каждое соединение, позволяют очень маленьким моделям выполнять довольно сложные задачи принятия решений с высокой точностью.

В принципе, такие модели способны моделировать процесс принятия решений, учитывающий потребности и мотивации человека в социальных контекстах, и предлагать их учет в теории и практике смягчения когнитивных предубеждений. Проблемы реализации этого потенциала: накопление значительного количества подходящих «обучающих наборов» реального мира для нейросетевой части таких моделей; описание реальных ситуаций и результатов принятия решений, чтобы эффективно управлять моделями; и отсутствие прямого отображения внутренней структуры нейронной сети на компоненты механизма человеческого мышления.

Программная инженерия

Эта дисциплина, хотя и не сосредоточена на улучшении результатов человеческого мышления как конечной цели, является той, в которой необходимость такого улучшения была явно признана.[18][19] хотя термин «смягчение когнитивных предубеждений» используется не повсеместно.

Одно исследование[68] определяет конкретные шаги по противодействию эффектам Подтверждение смещения на определенных этапах жизненного цикла разработки программного обеспечения.

Другое исследование[43] делает шаг в сторону от сосредоточения внимания на когнитивных предубеждениях и описывает структуру для определения "Норм деятельности", критериев, по которым результаты рассуждений оцениваются как правильные или неправильные, чтобы определить, когда требуется смягчение когнитивных предубеждений, чтобы направить идентификацию предубеждений, которые могут быть «в игре» в реальной ситуации и впоследствии предписывать меры по их снижению. Это исследование относится к широкой исследовательской программе, направленной на развитие теории и практики смягчения когнитивных предубеждений.

Другой

Другие инициативы, направленные непосредственно на теорию и практику смягчения когнитивных предубеждений, могут существовать в рамках других дисциплин под другими названиями, нежели используемые здесь.

Смотрите также

Рекомендации

  1. ^ а б Ариэли, Д. (2008). Предсказуемо иррационально: скрытые силы, определяющие наши решения, Харпер Коллинз.
  2. ^ а б Epley, N .; Гилович, Т. (2006). «Эвристика привязки и корректировки: почему корректировок недостаточно». Психологическая наука. 17 (4): 311–318. Дои:10.1111 / j.1467-9280.2006.01704.x. PMID  16623688. S2CID  10279390.
  3. ^ а б Гигеренцер, Г. (2006). «Ограниченный и рациональный». Современные дебаты в когнитивной науке. Р. Дж. Стейнтон, Blackwell Publishing: 115–133.
  4. ^ а б Гилович, Т. (1991). Откуда мы знаем, что не так: ошибочность человеческого разума в повседневной жизни. Нью-Йорк, Нью-Йорк, Свободная пресса.
  5. ^ а б Hammond, J. S .; Keeney, R.L .; и другие. (2006). «Скрытые ловушки в принятии решений». Harvard Business Review. 84 (1): 118–126.
  6. ^ а б Haselton, M. G., D. Nettie, et al. (2005). Эволюция когнитивных предубеждений. Справочник по эволюционной психологии. Д. М. Бусс. Хобокен, Вили: 724–746.
  7. ^ а б Генрих; и другие. (2010). «Рынки, религия, размер сообщества и эволюция справедливости и наказания». Наука. 327 (5972): 1480–1484. Bibcode:2010Sci ... 327.1480H. CiteSeerX  10.1.1.714.7830. Дои:10.1126 / science.1182238. PMID  20299588. S2CID  4803905.
  8. ^ а б Лерхер, Дж. (2009). Как мы решаем. Нью-Йорк, штат Нью-Йорк, Houghton Mifflin Harcourt.
  9. ^ а б Нозик, Р. (1993). Природа рациональности. Юинг, штат Нью-Джерси, Princeton University Press.
  10. ^ а б Шактер, Д. Л. (1999). «Семь грехов памяти: выводы из психологии и когнитивной нейробиологии». Американский психолог. 54 (3): 182–203. Дои:10.1037 / 0003-066x.54.3.182. PMID  10199218.
  11. ^ Роберто, М.А. (2002). «Уроки Эвереста: взаимодействие когнитивных предубеждений, психологического состояния, безопасности и сложности системы». California Management Review (2002) 45 (1): 136–158.
  12. ^ Knauff, M .; Budeck, C .; Wolf, A. G .; Гамбург, К. (2010). «Нелогичность биржевых маклеров: психологические эксперименты по влиянию предубеждений и предубеждений на логические рассуждения в торговле акциями». PLOS ONE. 5 (10): e13483. Bibcode:2010PLoSO ... 513483K. Дои:10.1371 / journal.pone.0013483. ЧВК  2956684. PMID  20976157.
  13. ^ а б c Канеман, Д. (2011). Думая, быстро и медленно, Doubleday Canada.
  14. ^ ID = 19830723-0 (1983). «Отчет об аварии планера Гимли». Сеть авиационной безопасности http://aviation-safety.net
  15. ^ Стивенсон, Артур Дж .; LaPiana, Lia S .; Mulville, Daniel R .; Рутледж, Питер Дж .; Бауэр, Франк Х .; Фольта, Дэвид; Dukeman, Greg A .; Сакхейм, Роберт и др. (1999-11-10). «Отчет Совета по расследованию ошибок орбитального орбитального аппарата Марса по фазе I». Национальное управление по воздуху и космосу.
  16. ^ Министерство энергетики, шахт и нефтяных ресурсов Британской Колумбии: Отчет об аварии на шахте Салливан, 17 мая 2006 г.
  17. ^ Бейнон-Дэвис, П., "Сбой информационных систем: пример проекта LASCAD", Европейский журнал информационных систем, 1995.
  18. ^ а б Манн, К. С. (2002). «Почему программное обеспечение такое плохое». Обзор технологий, Массачусетский технологический институт, июль 2002 г.
  19. ^ а б Стейси, Вт .; Макмиллан Дж. (1995). «Когнитивный уклон в разработке программного обеспечения». Коммуникации ACM. 38 (6): 57–63. Дои:10.1145/203241.203256. S2CID  1505473.
  20. ^ а б c Гаванде, А. (2010). Манифест контрольного списка: Как все исправить. Нью-Йорк, Нью-Йорк, Метрополитен Букс.
  21. ^ Kahneman, D .; Талер Р. (2006). «Максимизация полезности и опытная полезность». Журнал экономических перспектив. 20 (1): 221–234. Дои:10.1257/089533006776526076.
  22. ^ Frey, B .; Штутцер, А. (2002). «Чему экономисты могут научиться из исследования счастья?» (PDF). Журнал экономической литературы. 40 (2): 402–35. Дои:10.1257/002205102320161320. S2CID  13967611.
  23. ^ Канеман, Д. (2000). «Опытная полезность и объективное счастье: подход, основанный на моментах». Глава 37 в: Д. Канеман и А. Тверски (ред.) «Выбор, ценности и рамки». Нью-Йорк: Издательство Кембриджского университета и Фонд Рассела Сейджа, 1999.
  24. ^ Бинмор, К. (2007). «Очень краткое введение в теорию игр». Издательство Оксфордского университета.
  25. ^ Камерер, К. Ф., Хо Т.-Х., Чонг, Ж.-К. (2002). «Теория когнитивной иерархии одноразовых игр и экспериментального анализа». Четвертое, Ежеквартальный журнал экономики ".
  26. ^ Бросета, Б., Коста-Гомес, М., Кроуфорд, В. (2000). «Познание и поведение в играх нормальной формы: экспериментальное исследование». Департамент экономики Калифорнийского университета в Сан-Диего, постоянная ссылка: http://www.escholarship.org/uc/item/0fp8278k.
  27. ^ Майерсон, Р. Б. (1991). «Теория игр: анализ конфликта». Издательство Гарвардского университета.
  28. ^ Райт Дж. Р., Лейтон-Браун, К., Поведенческие теоретико-игровые модели: байесовская основа для анализа параметров, появится в материалах 11-й Международной конференции по автономным агентам и многоагентным системам (AAMAS 2012), (8 страниц), 2012.
  29. ^ Frey, B .; Штутцер, А. (2002). «Чему экономисты могут научиться из исследования счастья?» (PDF). Журнал экономической литературы. 40 (2): 402–35. Дои:10.1257/002205102320161320. S2CID  13967611.
  30. ^ Канеман, Д. "Карты ограниченной рациональности: психология для поведенческой экономики". American Economic Review (декабрь 2003 г.): 1449–1475.
  31. ^ Муллайнатан, Сендхил и Ричард Талер. «Поведенческая экономика». Рабочий документ Департамента экономики Массачусетского технологического института 00-27. (Сентябрь 2000 г.).
  32. ^ Kahneman, D .; Тверски, А. (1979). «Теория перспективы: анализ принятия решений в условиях риска». Econometrica. 47 (2): 263–291. CiteSeerX  10.1.1.407.1910. Дои:10.2307/1914185. JSTOR  1914185.
  33. ^ Канеман, Д., Ловалло, Д., Сибони, О. (2011). «Прежде чем вы примете это важное решение». Harvard Business Review, июнь 2011 г.
  34. ^ Левенштейн, Джордж; Рик, Скотт; Коэн, Джонатан Д. (январь 2008 г.). «Нейроэкономика». Ежегодный обзор психологии. 59 (1): 647–672. Дои:10.1146 / annurev.psych.59.103006.093710. PMID  17883335.
  35. ^ Рустичини, А (2009). «Нейроэкономика: что мы обнаружили и что искать?». Текущее мнение в нейробиологии. 19 (6): 672–677. Дои:10.1016 / j.conb.2009.09.012. PMID  19896360. S2CID  2281817.
  36. ^ Padoa-Schioppa, C .; Асад, Дж. (2007). «Представление экономической ценности в орбитофронтальной коре инвариантно для изменений меню». Обзоры природы Неврология. 11 (1): 95–102. Дои:10.1038 / nn2020. ЧВК  2646102. PMID  18066060.
  37. ^ Спренг, Р. Н., Мар, Р. А., Ким, А. С. Н. (2008). Общая нейронная основа автобиографической памяти, поиска, навигации, теории разума и режима по умолчанию: количественный метаанализ. Журнал когнитивной нейробиологии (Epub перед печатью) (2010).
  38. ^ Jamison, J .; Вегенер, Дж. (2010). «Множественность Я в интертемпоральном выборе». Журнал экономической психологии. 31 (5): 832–839. Дои:10.1016 / j.joep.2010.03.004.
  39. ^ Саймон, Х.А. (1991). «Ограниченная рациональность и организационное обучение». Организационная наука. 2 (1): 125–134. Дои:10.1287 / orsc.2.1.125.
  40. ^ Gigerenzer, G .; Гольдштейн, Д. Г. (1996). «Рассуждая о быстром и экономном пути: модели ограниченной рациональности». Психологический обзор. 103 (4): 650–669. CiteSeerX  10.1.1.174.4404. Дои:10.1037 / 0033-295x.103.4.650. PMID  8888650.
  41. ^ Гладуэлл, М. (2006). Blink: сила мышления без мышления. Нью-Йорк, Нью-Йорк, Литтл, Браун и компания.
  42. ^ Шермер, М. (2010). Рецензия на книгу Пола Тагарда «Мозг и смысл жизни». Скептический журнал. Альтадена, Калифорния, Общество скептиков. 16: 60–61.
  43. ^ а б Конрой, П., Крухтен, П. (2012). «Нормы производительности: подход к сокращению количества доработок при разработке программного обеспечения», которое будет опубликовано в IEEE Xplore re 2012 Canadian Conference on Electrical and Computing Engineering.
  44. ^ Вайнштейн, Н. Д. (1980). «Нереалистичный оптимизм по поводу будущих событий жизни». Департамент экологии человека и социальных наук, Колледж Кука, Рутгерс, Государственный университет ". Журнал личности и социальной психологии. 39 (5): 806–820. CiteSeerX  10.1.1.535.9244. Дои:10.1037/0022-3514.39.5.806.
  45. ^ Morewedge, C.K .; Юн, H .; Scopelliti, I .; Symborski, C.W .; Korris, J. H .; Кассам, К.С. (13 августа 2015 г.). «Решения, снижающие предвзятость: улучшенное принятие решений с помощью одного обучающего вмешательства» (PDF). Политические идеи из поведенческих наук и наук о мозге. 2 (1): 129–140. Дои:10.1177/2372732215600886. S2CID  4848978.
  46. ^ а б Космидес, Л., Туби, Дж. «Эволюционная психология: учебник». в http://www.psych.ucsb.edu/research/cep/primer.html В архиве 2009-02-28 в Wayback Machine."
  47. ^ Haselton, M.G .; Bryant, G.A .; Wilke, A .; Фредерик, Д. А .; Гальперин, А .; Frankenhuis, W. E .; Мур, Т. (2009). «Адаптивная рациональность: эволюционная перспектива когнитивных предубеждений». Социальное познание. 27 (5): 733–763. CiteSeerX  10.1.1.220.6198. Дои:10.1521 / soco.2009.27.5.733.
  48. ^ Haselton, M. G., D. Nettie, et al. (2005). «Эволюция когнитивных предубеждений». Справочник по эволюционной психологии. Д. М. Бусс. Хобокен, Вили: 724–746.
  49. ^ Конференция; и другие. (2010). «Эволюционная психология: противоречия, вопросы, перспективы и ограничения». Американский психолог. 65 (2): 110–126. CiteSeerX  10.1.1.601.8691. Дои:10.1037 / a0018413. PMID  20141266.
  50. ^ Чудек, М .; Генрих, Дж. (2011). «Коэволюция культуры и генов, психология норм и появление просоциальности человека». Тенденции в когнитивных науках. 15 (5): 218–226. Дои:10.1016 / j.tics.2011.03.003. PMID  21482176. S2CID  16710885.
  51. ^ Mercier, H .; Спербер, Д. (2011). «Аргументативная теория». Поведенческие науки и науки о мозге. 34 (2): 57–74. Дои:10.1017 / с0140525x10000968. PMID  21447233.
  52. '^ Эванс, Дж. Б. Т. (2006). Двойные системные теории познания: некоторые вопросы. Материалы ежегодного собрания Общества когнитивных наук », 28(28). https://cloudfront.escholarship.org/dist/prd/content/qt76d4d629/qt76d4d629.pdf
  53. ^ Garcia-Marques, L .; Феррейра, М. Б. (2011). «Друзья и враги построения теории в психологической науке: расплывчатые дихотомии, единые теории познания и новый экспериментализм». Перспективы психологической науки. 6 (2): 192–201. Дои:10.1177/1745691611400239. PMID  26162138. S2CID  118743.
  54. ^ Фидлер, К. и Хюттер, М. (2014). Пределы автоматизма. Дж. Шерман, Б. Гавронски и Ю. Троп (ред.), Двойные процессы в социальной психологии (стр. 497-513). Нью-Йорк: Guilford Publications, Inc. https://www.researchgate.net/profile/Mandy_Huetter/publication/308789747_The_limits_of_automaticity/links/58ad4fd24585155ae77aefac/The-limits-of-automaticity.pdf
  55. ^ Дамасио, А. (2010). Я приходит в голову: конструирование сознательного мозга. Нью-Йорк, Нью-Йорк, Пантеон.
  56. ^ Changeux, J.-P. P., A. Damasio и др., Eds. (2007). Нейробиология человеческих ценностей (исследования и перспективы в неврологии). Гейдельберг, Германия, Шпрингер.
  57. ^ Эмбер, К. Р. (1978). Мифы об охотниках-собирателях, Университет Питтсбурга о системе высшего образования Содружества, 17 (4), стр. 439–448.
  58. ^ Габоу, С. Л. (1977). «Структура популяции и скорость эволюции мозга гоминид». Журнал эволюции человека. 6 (7): 643–665. Дои:10.1016 / с0047-2484 (77) 80136-х.
  59. ^ Гамильтон, М. Дж .; Milne, B.T .; Уокер, Р.С.; Burger, O .; Браун, Дж. (2007). «Сложная структура социальных сетей охотников-собирателей». Труды Королевского общества B. 2007 (274): 2195–2203. Дои:10.1098 / rspb.2007.0564. ЧВК  2706200. PMID  17609186.
  60. ^ Kuhn, S.L .; Стинер, М. К. (2006). «Что делать матери? Разделение труда среди неандертальцев и современных людей в Евразии». Современная антропология. 47 (6): 953–981. Дои:10.1086/507197.
  61. ^ Марлоу, Ф. В. (2005). «Охотники-собиратели и эволюция человека». Эволюционная антропология: проблемы, новости и обзоры. 14 (2): 54–67. Дои:10.1002 / evan.20046.
  62. ^ Гертман Д., Блэкман Х., Марбл Дж., Байерс Дж. И Смит К. (2005). Метод анализа надежности человека в SPAR-H.
  63. ^ Холльнагель, Э. (1998). Когнитивная надежность и метод анализа ошибок: CREAM. Эльзевир.
  64. ^ Roth, E. et al. (1994). Эмпирическое исследование работы оператора в смоделированных когнитивных ситуациях. NUREG / CR-6208, Научно-технический центр Westinghouse. Отчет подготовлен для Комиссии по ядерному регулированию.
  65. ^ Вигманн Д. и Шаппелл С. (2003). Подход к анализу авиационных происшествий на основе человеческой ошибки: система анализа и классификации человеческих факторов .. Ashgate.
  66. ^ Уилсон, Дж. Р. (1993). SHEAN (упрощенный код анализа человеческих ошибок) и автоматизированный THERP. Номер технического отчета Министерства энергетики США WINCO – 11908.
  67. ^ Саттон, Р. С., Барто, А. Г. (1998). Коллекция электронных книг MIT CogNet; MITCogNet 1998, Адаптивные вычисления и машинное обучение, ISBN  978-0-262-19398-6.
  68. ^ Калики, Г., Бенер, А., Арсиан, Б. (2010). «Анализ влияния корпоративной культуры, образования и опыта на уровни предвзятости подтверждения разработчиков и тестировщиков программного обеспечения». 32-я Международная конференция ADM / IEEE по программной инженерии - ICSE 2010 Volume 2: pp 187-190.

внешняя ссылка