Исследования по тегу #когнитивные искажения
Приглашаем вас в мир современных исследований, где ученые со всего мира ищут ответы на самые актуальные вопросы психологии.
В этом разделе мы собрали для вас реальные клинические работы, которые помогают разрабатывать новые эффективные методики поддержки и терапии.
Чтобы вы могли сами заглянуть «внутрь» науки, каждая работа сопровождается ссылкой на её полный текст — официальный документ или научную статью.
Это уникальная возможность не просто прочитать выводы, а изучить все детали проведенной работы.
Мы верим, что открытый доступ к знаниям помогает всем нам лучше понимать себя и окружающих.
Политика для чайников: уверены во всём, кроме своих знаний
Все гении политики — в своих глазах Если вы вечно думаете, что разбираетесь в политике как политолог с трёх дипломами, скорее всего, извините, но это совсем не так. Новое исследование в Journal of Experimental Psychology: Applied с какой-то искренней грустью доказывает: чем меньше человек понимает в политике, тем с большей уверенностью несёт чуждую истине чушь. А уверенности хватает прежде всего у самых политически безграмотных и, как водится, консерваторов. Опять работает старая добрая схема — чем меньше знаешь, тем активнее машешь флагом. Руководила этим интеллектуальным пиршеством профессор психологии из Idaho State University Эрика К. Фултон вместе с коллегами. Учёные решили проверить не просто, насколько люди ориентируются в политике, а как трезво они оценивают степень собственного просветления. Термин для этого есть изящный — метакогнитивный мониторинг, по сути — умение отличить «знаю» от «мне так кажется». Как проверяли? 216 взрослых американцев (спасибо интернету) решали тест из 60 вопросов о политиках, устройствах власти, законах и животрепещущих темах, плюс для разминки — ещё 20 общих вопросов. Задание раздавали поровну: и левый, и правый лагерь не мог обижаться. Вначале испытуемые от души гадали, как круто сейчас наберут баллов, потом уже по-живому ставили отметки своей уверенности по каждому ответу. Оценивали даже психологический профиль: измеряли политическую ориентацию не по «за коммунистов либо за республиканцев», а по соглашению с конкретными политическими решениями. А ещё выясняли — любят ли респонденты развлекаться в серой зоне «может быть», или их хлебом не корми — дай быстрее и чётко закрыть вопрос, чтобы не мучиться сомнениями (научный термин: потребность в когнитивном завершении). Ждёте статистической сенсации? Она тут как тут: чем хуже у человека дела с политическими знаниями, тем яростнее он уверен в своей непогрешимости. Это и есть знаменитый эффект Даннинга-Крюгера — когда незнание даёт такой кайф самодовольства, что ошибки разглядеть просто некому. И да — те, кто поплотнее придерживается правых убеждений и обожает быструю развязку без раздумий, в числе самых уверенных в своих миражах. Как же так? На первый взгляд, кажется, люди не проверяют память, а пользуются короткими дорожками мышления: если поддерживаешь какую-нибудь идеологию или просто веришь, что «я точно шарю», часто берёшь своё мнение за факт. Но не всё так просто. Несмотря на массовый культ самоуверенности, в среднем участники лишь немного переоценивали свои силы. Да, по-настоящему метко свои знания оценивают меньшинство, но нашлись и те, кто постоянно себя принижает — в основном среди политических умеренных. Видимо, им не хватает желания доказывать что-то хотя бы себе. Учёные просят не делать широких выводов — исследование-то первое, да ещё и многие участники были белыми мужчинами из небогатых слоёв. Но скучать не собираются: уже готовят работу про умения «вычислять фейки», а ещё одну — про признание собственной неуверенности в знании фактов. Сразу вносят ясность: плеваться только в консерваторов они не собирались — когда дело доходит до реальных знаний, любой политический лагерь способен заблестеть метакогнитивной точностью. Так что если у человека есть хоть какая-то связь с реальностью и фактами (не телевизионными дебатами, а типа «кто сейчас спикер парламента» и сколько голосов хватит на принятие закона), политическая ориентация роли особо не играет. В итоге учёные честно признают: политологи всё это исследуют давно, но именно новый психологический подход помогает разглядеть картину тоньше. Общий совет не революционный, но единственно здравый — учите матчасть, не ленитесь разбираться и не забывайте, что местные выборы часто меняют жизнь куда сильнее, чем очередная возня на федеральном уровне. Ведь уверенными хотеть быть хорошо, а быть объективно знающими — ещё лучше.
Искусственный интеллект в медицине: новые технологии, старые человеческие грабли
Искусственный интеллект снова отличился — теперь он ошибается так же, как и врачи, только иногда с ещё большим размахом. В свежем исследовании, опубликованном в NEJM AI, выяснилось, что самые продвинутые нейросети, которые всё чаще берут на себя медицинское консультирование, легко попадают в капканы когнитивных искажений. Да-да, те же самые мозговые ловушки, которые обычные люди находят на каждом шагу: от эффектов формулировки до необъяснимого игнорирования статистики. Последние годы, как мы знаем, большие языковые модели (то есть те самые ChatGPT и прочие) с энтузиазмом вторглись в медицину. Они уже умеют составлять истории болезни, выставлять диагнозы и даже сдают экзамены на лицензирование врачей лучше выпускников медвузов. Но их гениальность держится на тонкой нити: они тренируются на бескрайних просторах интернета, где страсти так же велики, как и количество ошибок в рассуждениях. В итоге в эти модели попадает всё — от аккуратно расписанных рекомендаций до предрассудков, проникших в литературу на манер вируса. Что же такое когнитивные искажения? Это типичные ошибки мышления, где логика идёт в отпуск. Например, эффект формулировки: скажи пациенту «90% выживаемости» — все кивают, довольны. Но скажи «10% смертности» — и вдруг все в панике. Хотя числа одни и те же, эмоциональный окрас решает всё. Джонатан Ванг и Дональд А. Ределмайер из института в Торонто догадались: если ИИ учится у нас, людей, то и косяки перенимает исправно. Чтобы проверить гипотезу, собрали они десять классических искажений, каждое завернули в свою мини-историю — виньетку. Самое интересное: каждую историю написали в двух вариантах — в одном намекается на ловушку мышления, в другом текст нейтрален. Дальше было весело. Исследовали две топовые модели: GPT-4 (это у OpenAI) и Gemini-0-Pro (Google). Попросили их вообразить себя пятьюстами разными врачами всех мастей, с разным опытом, полом, и кто в деревне, кто в большом городе работает. Каждая из этих сотен «шизофренических» врачей ИИ раскинул свои мозги на обе версии всех историй, а исследователи смотрели, какие советы он выдаёт. GPT-4 показал впечатляющую уязвимость: в девяти сценариях из десяти ИИ поддался искажению даже сильнее, чем реальный врач. Яркая сцена — тот же эффект формулировки: когда речь про выживаемость при раке лёгких, 75% виртуальных эскулапов рекомендовали операцию; стоило сказать про смертность — и число советов делать операцию рухнуло до жалких 12%. Для сравнения: у людей в похожих тестах разница не столь драматична — 34 процентных пункта против ИИ-шных Другой пример — эффект первичности: что первым скажешь, то и останется в голове. Вот пациент кашляет с кровью — 100% искусственных врачей лихо ставят диагноз «тромбоэмболия». Сначала упомяни, что у человека хроническая болезнь лёгких — и диагноз этот вспоминают только в четверти случаев. Есть ещё эффект «задним числом»: когда исход плохой, 85% ИИ считают лечение ошибочным, а если всё обошлось — никто даже не моргнёт. Однако не всё так мрачно. В одном тесте GPT-4 обставил людей: «пренебрежение базовой вероятностью» — это когда врачи забывают, что некоторые болезни редки, а значит даже положительный тест ни о чём не говорит. ИИ справился почти идеально: точные вероятности даже там, где врачам проще бросить жребий. Авторы заодно проверили: влияет ли опыт, пол или специализация виртуального врача на качество решений. Оказалось, нет: разве что семейные врачи-чаты путались чуть больше, а гериатры — чуть меньше. Но разница столь незначительная, что проще поверить в конец света, чем в то, что стаж спасёт нейросеть от глупости. Вдогонку протестировали Google Gemini. У него, как часто бывает, талант — тоже ошибаться, но по-своему. В сценарии с раком лёгких эффект формулировки не наблюдался. В некоторых тестах ИИ грешил совсем не так, как человеческое стадо, порой выдавая противоположные по духу советы. Даже когда речь заходит о давлении кровожадных пациентов: Gemini, вопреки клише, меньше шансов назначит тест, если его просят настойчивее. Конечно, исследование не идеально. ИИ обновляются, как смартфоны на распродаже, и кто знает, исправят ли им завтра эти заморочки. К тому же тестировали модель на придуманных историях и нарисованных врачах, а не в настоящих клиниках. Какие будут последствия в реальном мире — вопрос остаётся. Но главный урок понятен даже ребёнку: бросать ИИ в медицину как «спасителя разума» не стоит. Он такой же продукт человеческой кривизны, как и сам человек. И пока мы не включим критическое мышление на полную громкость, любой совет от нейросети стоит воспринимать с изрядной долей сомнения — иронии, может, не помешает.