Кому можно верить? (фрагмент третьей книги)

Публичный пост

16 октября 2024 4392

Контрразведчик должен знать всегда, как никто другой, что верить в наше время нельзя никому, порой даже самому себе. Мне можно.
Г. Мюллер, к/ф «Семнадцать мгновений весны»

Как только мы начинаем вдаваться в детали «относительно того, как должно приниматься правильное решение», то мы тут же переносимся в древнюю область философии: теорию познания или эпистемологию. Это та еще кроличья нора, где за последние несколько тысячелетий было создано много всяких учений/течений, но для наших практических задач возьмем что-то одно, от чего можно оттолкнуться, а дальше начнем приспосабливать эту мысль к нашим задачам. Эдакий грубо-инженерный подход: взять, что есть под рукой и доработать напильником по месту.

Оттолкнёмся от работ русского востоковеда-буддолога Фёдора Ипполитовича Щербатского (мне просто нравится всё, что связано с буддизмом, почему нет?):

Способов или источников нашего познания разные философские школы насчитывали неодинаковое количество:

школа чарвака – один (восприятие чувствами),

вайшешики и буддисты – два (восприятие и умозаключение),

санкхья и йога – три (предыдущее и слово, или достоверное свидетельство),

ньяя – четыре (предыдущие и аналогию),

веданта и отчасти миманса – шесть (к предыдущим присоединяется отрицательное восприятие и неизбежное допущение)

Щербатской Ф. И. ([13], стр. 82)

Эти непонятные слова "чарвака", "вайшешики", "ньяя", ... - это все названия древних философских школ, которым уже не одна и не две (а то и не три и даже не четыре) тысячи лет

Перефразируя этот фрагмент на тему данной книги, можно сказать, что ответом на вопрос: «Почему ты так думаешь?» может являться:

Результат восприятия (в некотором смысле это то, что формирует наш опыт), то есть, то, что я непосредственно видел / слышал / трогал / нюхал и, возможно, даже лизнул. С результатами восприятия всё не так просто, особенно если это не результаты нашего восприятия в текущий момент, а информация о каком-то прошлом восприятии, добытая из недр нашей памяти. Далее мы будем разбираться с тем, как бы проверить то, что мы извлекли из нашей памяти, чтобы понять не сильно ли оно исказилось в процессе хранения.
Умозаключение – это то, чего я не видел / слышал / трогал непосредственно, но то, что логично вытекает из… Из чего? Наверное, в конечном счете из того, что было получено при помощи любого способа познания. В этом месте будут играть важную роль законы логики или правила построения умозаключений. Один из важный критериев для пракильного обоснования умозаключением - "третий элемент".
Слово или достоверное свидетельство – это если источник, кому я доверяю, утверждает, что это так. Тут тоже интересно, почему этот источник пришел к такому выводу? Либо я ему доверяю и безоговорочно полагаюсь на его слово, либо начинаю смотреть подтверждаются ли его слова какими-то еще источниками правильного познания.
Аналогия – это крайне любопытный метод познания, чем-то напоминающий технику переноса мастерства из нового кода НЛП. С другой стороны, это не самое удивительное. Многие явления из разных областей описываются одинаковыми уравнениями математической физики. Но и с аналогиями есть определенные тонкости… (Смотри подробнее про аналогии)
Отрицательное восприятие – это когда умозаключения (тоже отдельный вопрос, на чем основанные) подсказывали, что мы должны были что-то увидеть / услышать / потрогать, но этого не случилось и… И тогда мы приходим к выводу, что наша схема умозаключений была ошибочной. У Карла Поппера это называется принципом фальсификации: с уверенностью мы можем что-то только отвергнуть, но не принять.
Неизбежное допущение – тут как у Шерлока Холмса: «отбросьте все невозможное, то, что останется, и будет ответом, каким бы невероятным он ни казался».

Все эти способы познания могут быть переплетены друг с другом и одно может поддерживать другое. То или иное утверждение может также быть поддержано более, чем одним источником или способом познания.

Пример

Рассмотрим, например, на чем основан тезис:

 что пустое (тавтологичное) объяснение явления может создать у человека ложную уверенность в его истинности

(разбирался в предыдущем разделе).

Изначально – это слово или свидетельство: мы знаем, что если людям дать совет по питанию (работа [10]), прогноз погоды, качества воды или вероятность инсульта у того или иного пациента (в работе [11]) и снабдить его бестолковым объяснением, то этот совет или прогноз будет восприниматься более убедительным, чем если бы объяснения не было вовсе. По аналогии мы считаем, что подобные эффекты будут проявляться не только в данных частных случаях, но и в более общих ситуациях (например, когда меня убеждают подписаться на новый тариф, купить какую-то услугу или внедрить в работу своего отдела новое решение). Продолжая отслеживать цепочку дальше, мы понимаем, что в конечном счете утверждения авторов работ [10] и [11] – это умозаключения, основанные на данных эксперимента, то есть на восприятии.

Еще пример

Рассмотрим утверждение:

 Люди, придерживающиеся крайних позиций по какому-то политическому вопросу, как правило, разбираются в этом вопросе куда хуже, чем им кажется.

Если бы кто-то сейчас спросил: «С чего ты это взял, что это правда?», то в качестве аргумента я бы привел свидетельство: эту работу, где как раз экспериментально проверяли гипотезу о том, что политический экстремизм поддерживается иллюзией понимания.

В случае, когда для нас научная публикация в рецензируемом издании кажется достаточным аргументом, то мы можем считать это утверждение истинным. Но так как мы всё равно разбираем пример, то давайте отследим, всю цепочку источников познания до момента контакта с внешним миром. Итак, откуда авторы работы это взяли?

Они провели эксперимент, в котором взяли 198 испытуемых и попросили их:

Высказаться относительно 6-ти политических вопросов (санкции против, Ирана, пересмотр пенсионного возраста, изменения в системе здравоохранения и т.п.). Но высказаться не в свободной форма, а по двум шкалам:

Поддержка (в какой мере вы поддерживаете эту политику): 1 – категорически против, 7 – категорически за,
Понимание (на сколько хорошо вы понимаете, как работает эта политика): 1 – очень плохо, 7 – очень хорошо.

Подробно описать механизм работы двух из шести политик: «Пожалуйста, опишите пошагово, шаг за шагом, как [политика] приводит к своим последствиям. Будьте как можно более полными и подробными»
Повторно высказаться о тех же самых 6-ти вопросах как в п. 1.

Результаты получились следующие:

Изначально участники оценивали свое понимание в среднем на 3.82 балла (по 7-ми бальной шкале) после того, как их попросили описать механизм (что как минимум у некоторых испытуемых запустило процесс мышления) среднее понимание оказалось 3.45 балла (выводы по аналогичны выводам работы [18] из предыдущего раздела).
Средняя мера экстремальности оценки (из балла поддержки вычли 4 – середину шкалы – и взяли абсолютное значение) после размышлений над механизмом снизилась со 1.41 до 1.28 .

Вот так выглядел контакт с реальным миром в этом эксперименте:

200 испытуемых,
6 политических вопросов,
Вопросы про понимание и поддержку (по шкалам от 1 до 7) до и после просьбы описать механизм влияния той или иной политики.

Далее от 6-ти политических вопросов авторы статьи по аналогии перешли к более общим выводам:

 Люди, придерживающиеся крайних позиций по какому-то политическому вопросу, как правило, разбираются в этом вопросе куда хуже, чем им кажется.

Не знаю показалось ли кому-то из вас, что после описания того, на чем держится этот тезис, вера в его истинность несколько ослабла?.. Если да, то вот вам эксперимент, который вы провели над самим собой: по мере понимания деталей мы отходим от крайних позиций в оценках своего понимания.

Рациональный ум заменяет «я (не)уверен в этом на все 100%» на «данные указывают на умеренный эффект в определённых условиях», что часто может звучать как «не всё так однозначно» .

Итог

Это может стать ключевым навыком в эпоху взрывообразного распространения ИИ: навык проверять на чем держится то или иное утверждение и отслеживать всю цепочку свидетельств вплоть до того, как какой-то конкретный человек контактировал с реальным миром.

На диаграмме из первого примера ошибка может пробраться в любом месте: может быть то, что находится в прямоугольнике окажется ложным, а может быть линия, соединяющая два прямоугольника – ошибочной.

– Ты точно уверен, что эти акции вырастут в цене? На сколько надежен твой источник?
– Абсолютно надежен. Мне об этом сказала моя дочь. Ей 3 года, а дети в этом возрасте еще не умеют врать.

Из анекдотов

Поэтому, чтобы ответить на вопрос можно ли верить тому или иному утверждению, мы смотрим на чем оно основано. Если речь идет о достаточно серьезном решении, то имеет смысл собрать как можно больше свидетельств и опровержений, какие у нас имеются, а потом… А потом, как в статье 67 гражданско-процессуального кодекса:

Суд оценивает доказательства по своему внутреннему убеждению, основанному на всестороннем, полном, объективном и непосредственном исследовании имеющихся в деле доказательств.