Вся правда о когнитивных искажениях +111


AliExpress RU&CIS

Всё чаще на Хабре можно встретить выражения типа «типичная ошибка выжившего» или «эффект Даннинга-Крюгера в действии». Предполагается, что авторы таких высказываний достаточно компетентны, чтобы позволять себе подобного рода суждения. Но так ли это? В этой статье мы попробуем копнуть парочку когнитивных искажений чуть глубже, чем они рассматриваются в википедии.


Введение


Взаимодействуя с окружающим миром, наш мозг строит его упрощённую модель, состоящую из образов/символов и связей между ними. Под когнитивными искажениями понимается несоответствие модели реальному миру, либо же сильно усложняющие с ним взаимодействие.

Иллюзия нормы / общественного мнения


Сама формулировка «искажения» предполагает, что есть некоторая норма, идеальная форма мышления, являющая оптимальной во всех случаях жизни; и как правило нормой считается мнение, стандарты или мировосприятие большинства. Однако на самом же деле большинство придерживается не «правильного» или «нормального» — а того, что легче усваивается или перенимается. Сами же идеи всегда генерируются меньшинством – что хорошо прослеживается у СМИ, когда газеты/журналы/новости пишутся единицами, а читаются и просматриваются – миллионами.

Эффект Даннинга — Крюгера


Многие, когда узнают об эффекте Даннинга — Крюгера, испытывают чувство близкое к прозрению – ну наконец-то стало всё понятно! Все люди вокруг глупые, потому что себя переоценивают, а они соответственно такие умные, потому себя недооценивают. Вторичным эффектом от подобного знания является нестерпимое желание выискивать этот эффект у всех окружающих, попутно обвиняя их в этом же при каждом удобном случае.

Человек же образованный не найдёт в эффекте Даннинга–Крюгера ничего нового —ведь это наблюдение старо как мир и встречалось у множества древних мыслителей:

избранные цитаты
  • Лао-цзы: «Знающий не говорит, говорящий не знает»;
  • Конфуций: «Истинное знание — в том, чтобы знать пределы своего невежества»;
  • Сократ: «Я знаю, что ничего не знаю»;
  • Чарльз Дарвин: «Уверенность чаще порождается невежеством, нежели знанием»

и т.д.

Да и сами Даннинг и Крюгер на научное открытие не претендовали и ставили своей целью лишь экспериментальную проверку в соответствии со строгим научным подходом. Но как обычно, все всё поняли не так.

Чтобы извлечь действительно что-то полезное из знания Даннинга-Крюгера, нужно рассматривать не сам эффект, а его следствия, например:

  • знание об эффекте Даннинга — Крюгера никак не освобождает от его влияния;
  • нельзя адекватно сравнить свой уровень компетентности с чужим; можно лишь сравнивать чужой с чужим;
  • существование эффекта Даннинга — Крюгера не означает невозможности его отсутствия, и люди, адекватно оценивающие уровень своей квалификации, вполне себе могут существовать.

Иллюзия выбора и свобода воли


Когда перед нами встаёт выбор между чем-либо, то интуитивно кажется, что один из вариантов выбора – правильный, а другой – нет. В то время как возможны и другие варианты:

  • оба варианта правильные;
  • оба варианты неправильные;
  • оба варианта приведут к одному и тому же;
  • вариантов выбора обычно вообще больше, чем два – ведь всегда есть вариант не осуществлять выбор вообще, либо взять и то, и другое.

И несмотря на свою кажущуюся банальность – идея бинарного выбора настолько популярна в культуре, что мы её не замечаем и воспринимаем как должное. Моральные терзания в стиле «Быть или не быть?», «Тварь я дрожащая или право имею?», «пойти учиться в институт или в армию?», «машину купить русскую или иномарку?» не вызывают обычно ни недоумения, ни отторжения.

Отдельным вопросом можно рассмотреть, является ли побуждение осуществления выбора выражением свободы воли или же навязанную обществом модель поведения посредством рекламы и прочих инструментов воздействия.

Во власти культа карго


Можно долго потешаться над наивными туземцами с их соломенными самолётами, которыми они пытаются привлечь настоящие самолёты с провизией. Очевидно, что туземцы не осознают своей глупости – из-за отсутствия полноты картины и ограниченного когнитивного аппарата, позволяющие эту самую глупость осознать.

Но поскольку культ карго существует только потому, что его носители его не осознают – не менее вероятно, что и мы сами находимся во власти культа карго, но также этого не осознаём. Возможно (но это неточно), что к нему относятся такие традиции как обряд бракосочетания с тамадой и интересными конкурсами, шампанское на новый год, покупка автомобиля в кредит или личной недвижимости в ипотеку до конца жизни…

Предпосылки культа карго просты – скопировать внешнее всегда проще, чем внутреннее; и справедливости ради нужно заметить, что это не обязательно и плохо – немало интересных вещей появились путём оригинального наполнения общеизвестных форм. В частности, искусство в целом является культом карго – однако ценности ему от этого совсем не убавляет.

Ошибка выжившего


Систематическая ошибка выжившего лидирует среди неправильно понимаемых когнитивных искажений и часто понимается как обоснование нерелевантности опыта выживших вообще. Истории с самолётами и дельфинами достаточно известны, поэтому здесь мы рассмотрим другую ситуацию:

3 человека ушли в лес, вернулся один. Вы спросите его, как он выжил — и он расскажет, как ел кору, жевал траву, пил из ручья и всё такое прочее. Так вот, в концепции «ошибки выжившего» всё это не имеет значения. Имеет значение, что тот не делал — не дразнил медведя, не лез в осиное гнездо, не ел подозрительные грибы и растения.

Но из этого вовсе не следует, что опыт выжившего не имеет ценности — просто он односторонний, вот что важно осознавать. И причина этой одностороннести в том, что проще узнать то, что делал выживший, чем то, чего он не делал. И сам человек при описании своего опыта также склонен фокусироваться именно на сделанном, поскольку возможное количество несделанного всегда стремится к бесконечности.

Более того — те двое, что не вернулись, может и не умерли. Может, они шли, шли и пришли в страну чудес, где и решили остаться навсегда. Детей нарожали, демократию построили…

Ошибка выжившего перекликается с другой идеей: «Победа – это отсутствие поражения». Для выживания фокусировка устремлений на «как не проиграть (не умереть)» может быть более важной, чем «как выиграть (как выжить)».

Типичный пример некорректного упоминания ошибки выжившего – это биография британского политика Уинстона Черчилля, который пил, курил, ел жирную пищу – и всё равно дожил до 90 лет. Однако мы понимаем, что до 90 лет он дожил именно благодаря своему здоровью, а вовсе не отсутствию каких-то других факторов с неочевидным побочным эффектом, которые было в норме у других людей того времени.

Полезно также помнить, что ошибка выжившего не просто ошибка, а «систематическая ошибка выжившего», то есть обобщающая многократный опыт многих людей. Потому и единичные случаи в неё априори не входят.

Интересно также, что ошибка выжившего явно конфликтует с бритвой Оккама, которая является одним из столпов научного знания. Если бритва Оккама говорит «не приумножай сущностей сверх необходимого», то ошибка выжившего – наоборот, «ищи сущности сверх необходимого, и именно в этих сущностях будет являться истинное знание». Из чего заодно следует, что чисто научный подход к познанию мира вовсе не является гарантией релевантности и также может приводить к когнитивным искажениям.

Иллюзия ума


Подавляющее большинство сторонников лунного заговора среди моих знакомых обладают высшим техническим образованием. Как же так получается, что технически грамотные специалисты умудряются верить в теории заговора? Всё очень просто – они все считают себя умными, потому что у них есть образование. А раз умные – то и любой результат своей умственной деятельности принимают за правильный – вне зависимости от его реальной ценности.

Именно в этом главная проблема людей, считающих себя чересчур умными – они не способны критически оценивать свои умозаключения и отделять действительно ценные результаты от очевидного абсурда.

Вообще, людям нравится чувствовать себя умными на фоне глупых. Очень привлекательное чувство, которому сложно противостоять – но за это есть своя цена. «Самые большие глупости делаются с самым умным выражением лица» © сказал какой-то не факт что умный человек.

Склонность технически образованных людей превозносить значение технического знания также легко увидеть по их отношению к гуманитариям:

классика жанра
  • Гуманитарии, не обижайтесь на шутки технарей о вас – они такие же люди, только умнее.
  • Одна девушка хотела выйти замуж по расчёту, но не смогла – она гуманитарий.
  • Неважно, технарь ты или гуманитарий. Важно, что не гуманитарий.


При этом, что характерно, под гуманитарием понимается человек с отсутствием технического образования – а вовсе не с наличием гуманитарного образования, что было бы логичнее. О существовании людей, имеющих как техническое, так и гуманитарное образование и тем самым в противостояние «физики vs. лирики» никак не вписывающихся – так и вообще практически никто не подозревает. Поэтому чистые технари и живут в мире, где руководство – сплошь идиоты, гуманитарные науки – сплошь бессмысленное словоблудие, и склонны постоянно выискивать смыслы и злые умыслы там, где их нет и быть не может.

Собственно, иллюстрация к статье и демонстрирует ограниченность такого подхода – если наличие ума делает человека несчастным, то не такой он значит и умный. По-настоящему умный человек найдёт способ применить свой ум себе на пользу, и уж тем более не будет тратить свою умственную энергию на деструктивные размышления.

Иллюзия знания


С другой стороны, свободный доступ к информации в современном мире приводит к ощущению того, что мы обладаем или можем обладать знанием по любой интересующей нас теме. Однако в большинстве своём эти знания – не больше чем иллюзия, потому что их невозможно применить на практике, и относятся скорее к мировоззрению, чем к знаниям как таковым. Если вы знаете язык программирования, но не можете на нём написать хотя бы тетрис – это иллюзия. Если вы знаете теорию вероятностей, но не можете ею стабильно зарабатывать на бирже – это иллюзия. Если вы знаете квантовую физику, но не можете построить лазер – это иллюзия. Если вы знаете психологию, но не можете с её помощью занять наиболее комфортное положение в обществе – это иллюзия.

Вера, наука и знание


Очень часто веру в бога противопоставляют науке. На самом деле различия у них несколько в другом.

Вера – это не просто отсутствие научного знания. Вера – это невозможность (или нежелание) проверить свои убеждения. А раз невозможно проверить и определить истинно истинную веру – значит, есть возможность выбрать. Всё это неизбежно приводит к тому, что люди верят именно в то, во что им хочется верить.

Также существуют товарищи, продвигающие идею того, что знание – это тоже форма веры. Типа, что если он не может проверить лично значение атомной массы водорода – из этого следует, что он должен принимать это знание на веру, то есть верить в то, что написано в учебнике по физике.

Конечно же это не так и является лишь следствием наивного понимания науки как объясняющей устройство мира. Нет. Наука строит модели реального мира с некоторой точностью и обладающих предсказательными свойствами. При этом отдельно взятый элемент знания существует не сам по себе, а в жёсткой связи со всем остальным, и изменение одного элемента повлияет на всю систему в целом (равно как и наоборот).

Поэтому, если кто-то не может лично проверить значение атомной массы водорода – это не значит, что он вынужден принимать его на веру. Это значит, что это значение ни на что не влияет в некоторой конкретно взятой модели. А вот если будет влиять – тогда оно скажется на работоспособности устройства, построенного по этой модели, которое попросту «не взлетит».

Тем не менее вера в науку действительно существует, но несколько в другом контексте – когда наука воспринимается как некое абстрактное понятие замещающее собой роль всемогущего и всё знающего божества.

Наиболее часто такое отношение проявляется в том, что если наука чего-то не знает или не имеет научно оформленных исследований какого-либо явления – то этого «чего-то» попросту не существует, и оно является лишь плодом воображения его наблюдателя. Наиболее ярко это проявляется в отношении к нетрадиционным методам лечения, когда любой положительный исход такого лечения оценивается либо как случайный фактор, либо как ошибочная интерпретация («после не значит вследствие»). И часто только потому, что в нём не участвовали технические устройства и фарм. препараты ведущих мировых производителей. В то время как действие некоторых других входящих в состав растений веществ (которые здесь не будем упоминать во избежание конфликтов с контролирующими органами) признаётся достаточно ощутимым для их законодательного запрещения.

Демагогия 80-го уровня


В любой дискуссии рано или поздно появляется человек, который внезапно начинает видеть вокруг себя демагогов и, ведомый исключительно благими побуждениями, начинает всех причастных в этом обвинять. Тут он видит ложную дихотомию, там он видит подмену общего частным, заявляя «личный опыт не аргумент», здесь он наблюдает доведение до абсурда. Естественно, что все эти приёмы он обнаружил не сам, а прочитал в древнем манускрипте под названием «правила демагога» — и оттого, в частности, этих приёмов знает довольно ограниченное количество.

Что же тут не так?

Прежде всего, обвинение в использовании демагогических приёмов – это тоже самый что ни на есть настоящий демагогический приём, переводящий обсуждение на личности, и который обычно в древних манускриптах не упоминается. Среди прочих он выделяется тем, что кто его раньше озвучил – тот обычно и победил – вне зависимости от того, насколько был прав/корректен/адекватен оппонент.

С другой стороны, демагогическим приём является не потому что он «плохой», а потому что является инструментом демагога. А демагог, вопреки обывательским представлениям – вовсе не тот человек, который любит много говорить ни о чём. Демагог – это человек, преследующий личные цели и продвигающий в массы идеи, помогающие эти цели достигать. Это может быть политик, социальный деятель, непосредственный руководитель и даже член семьи. И именно в этом принципиальное различие между демагогом и человеком, искренне отстаивающим свои заблуждения – демагогу вовсе не обязательно верить и считать правильным то, что он сам убедительно доказывает.

Хотите поискать демагогические приёмы – ищите их в реальной жизни, а не в интернетах. Уверены, что владеете демагогическим знанием – попробуйте использовать их на практике – например, чтобы убедить начальника поднять вам зарплату или переубедить сторонника политика «Н» в сторонника политика «П». Внезапно может оказаться, что значимость демагогических приёмов сильно переоценена и использовать их на продвижение собственных идей не так уж и просто.

Заключение


Здесь были рассмотрены далеко не все, а лишь некоторые из самых популярных паттернов мышления. В частности, не рассмотрен паттерн «после значит вследствие» в силу его очевидной простоты – хотя и там есть за что зацепиться, поскольку его логическая инверсия «после не значит вследствие» также не обязательно будет истиной в отдельно конкретно взятом случае. И разумеется, что автор статьи также не свободен от всех рассмотренных искажений и наверняка наделал кучу логических (и не только) ошибок — а возможно даже и демагогическими приёмами не побрезговал. Что же, хабр ценен своими комментариями – обязательно напишите, где, в чём и почему автор был не прав – и возможно, этим вы сделаете мир чуточку лучше.




Комментарии (119):