Научись думать — помешай эволюции!

 Публичный пост
5 мая 2025  2002

Эволюция, логика и метод проб и ошибок

Прислал тут Рустам ссылку на книгу и поделился мыслью:

человек эволюционировал не для того, чтобы ломать голову над силлогизмами и прочими логическими задачками, а чтобы убеждать других относительно своих аргументов, и оборонять свои убеждения от вмешательства со стороны.

Интересно... Давайте подумаем...

Предположим, что человеки были созданы, как способ найти “ответ на главный вопрос жизни, вселенной и вообще” (кто не читал Дугласа Адамса - рекомендую).

К решению этой задачи можно было бы подойти двумя путями. Первый - это создать из человеков сверх-интеллектуальную машину, которая умеет думать в терминах причин и следствий, анализировать всё вокруг и дедуктивным методом вычислять всё, что нужно.

Но, что-то мне подсказывает, по такому пути не пошли потому что:

  1. Задачи реального мира зависят от огромного числа параметров, и это потребовало каких-то не эпических вычислительных мощностей,
  2. Точные значения большинства параметров - неизвестны (здесь будет уместна отсылка к Генри Ниву: “Истинного значения нет ни для чего на свете“), а если и известны, то…
  3. …решение скорее всего будет неустойчивым по отношению к значениям этих параметров.

Неустойчивость означает, что даже мизерная ошибка в исходных данных приводит к огромной ошибке в результате.

Телефонный звонок:
— Алло, это квартира Сидорова Ивана Петровича?
— Нет, это квартира Каца Абрама Самуиловича.
— Извините, это 22-38-89?
— Нет, это 22-38-88.
— Надо же! В шестом знаке ошибка, а такой эффект...

Из анекдотов

В моей позапрошлой жизни, когда я занимался наукой, в случае, когда не получалось решить задачу аналитически (то есть, практически всегда), мы прибегали к численному моделированию.

Ближайшим аналогом численного моделирования для эволюции был бы метод проб и ошибок. Это и есть тот второй путь, который (судя по всему) и выбрала эволюция.

Ты берешь много человеков, заставляешь их делать что-то совершенно разное и громко всем об этом кричать. А дальше просто слушаешь тех, кто выжил и дал потомство. Если нужна более высокая точность, то ты смотришь на идеи, которые пережили несколько поколений человеков. И не надо заморачиваться со всеми этими логиками!

Но для реализации такого подхода важно, чтобы:

  • Человеки “приклеивались” к своим идеям (даже дурацким и ложным) и следовали им до конца. Если вдруг эволюции потребуются другие идеи, то для этого у нее есть другие человеки. Видимо, для этого и нужен “Эффект установки” (Einstellung effect - вот классическая работа с его описанием, и вообще много работ есть на эту тему)
  • Человеки умели убеждать других человеков в ценности и истинности своих идей (неазвисимо от их ценности и истинности) и уже сообща были способны работать над сложными задачами (тестировать сложные гипотезы), где одному человеку не справиться. А это как раз мысль, которую в меня вкинул Рустам.

А если все так, то бонусом мысль - оценить прав ли человек или нет, можно просто посмотрев на то, как долго он живет со своими убеждениями…

❝ Ты провел в лягушатнике всего пару минут, а я плаваю в океане с акулами двадцать лет. ❞

Из к/ф “Джентельмены”

55 комментариев 👇

Слоган интересный конечно :)

У меня ещё вариант:

  • Научись думать, но эволюции будет пофиг. Научись убеждать и эволюция посмотрит на тебя. Убеди всех и стань эволюцией.
  Развернуть 1 комментарий

@cowabunga, На самом деле не пофиг эволюции на то умеешь ты думать или нет. Я тут нарочно оставил это пространство для идей и интерпретаций :-)

  Развернуть 1 комментарий

@cartmendum,

не пофиг эволюции на то умеешь ты думать или нет

Абсолютно пофиг.

Во-первых она не субъект. У неё нет ни цели, ни способа что-то там про что-то думать. Это просто название процесса выживания самых приспособленных.

Во-вторых внутри человеческих сообществ классическая дарвиновская эволюция не работает. Она работает в природе, а отдельные индивиды живут не в Природе, а в Культуре, порожденной сообществом.

  Развернуть 1 комментарий
k.n.subochev ИТ руководитель широкого профиля 6 мая 2025

Мне кажется "думать" за эволюцию неблагодарное дело в принципе. У неё же нет направления и цели. Мы де все вместе разбирали что наше восприятие мира и способность мыслить ровно такие, чтобы вид выживал. Снизилось давление - потупели. Стало выгоднее для размножения потупеть - потупели. И плюс огромное распределение вариантов стратегий. Дольше всех по времени наверное в более-менее неизменном виде живёт способ мышления даосских отшельников. Но боюсь их стратегия не выигрышна если её начнут придерживаться все. В принципе с размножением и пропитанием будут проблемы. Но как паразитирующая на остальном обществе вполне себе. Они, вроде, даже не особо хотят убеждать других в своих идеях - наоборот чинят как можно препон для этого. А в целом правота - как следствие эволюционной успешности - очень сколький критерий - вот успешный человек размножившийся физически и распространили свои идеи, миг - и его грохнул со всей семьёй конкуренты, оболгали последователи и все. Уже он "не прав"?

  Развернуть 1 комментарий
k.n.subochev ИТ руководитель широкого профиля 6 мая 2025

И я похоже понял как помешать эволюции научившись думать - додуматься что весь мир тлен - осознанно перестать размножаться и убедить весь мир в этом путем создания сверх комфортных условий. Но боюсь на какой то итерации начнётся потупление и эволюция возьмёт верх снова :)

  Развернуть 1 комментарий

осознанно перестать размножаться и убедить весь мир в этом путем создания сверх комфортных условий

...распространения гомосятины, провозглашения индивидуальных прав и свобод всевысшей ценностью (пох на всех, ты же уникальный и жизнь она твоя)

Но боюсь на какой то итерации начнётся потупление и эволюция возьмёт верх снова :)

Такое ощущение, что местами ровно так и происходит, да.

  Развернуть 1 комментарий

Спасибо.
Напоминание про эффект замкнутого по циклу мышления помогает заметить короткую кривую вариантов планирования.

  Развернуть 1 комментарий

А если все так, то бонусом мысль - оценить прав ли человек или нет, можно просто посмотрев на то, как долго он живет со своими убеждениями…

Что значит прав?

  Развернуть 1 комментарий

Что значит прав?

Подловил :-)

Нет "прав" / "не прав", есть "помогает адаптироваться" / "не помогает адаптироваться". Что значит "адаптироваться"? Значит - выживать.

Чтобы понять, помогают ли человеку его убеждения выживать - посмотри на то живой ли он. Тавтология...

Ты же об этом? ;-)

  Развернуть 1 комментарий

Если убеждения человека соответствуют окружающему контексту, то он выживет, потому что...

  • основой действий человека выступают его убеждения
  • человек будет действовать в соответствии с окружающим контекстом раз убеждения этому контексту соответствуют
  • действия не в соответствии с окружающим контекстом могут привести к смерти (исключению из контекста)
  Развернуть 1 комментарий
Егор Администратор 6 мая 2025

Мне кажется тезис сам по себе странный.
Человек ни для того, ни для другого не эволюционировал направленно.
Если для выживания нужны силлогизмы и логические задачки, то будут люди с таким типом мышления.
Если нужно качать навык убеждения, будут люди и с таким типом мышления. Если тут вообще можно про "тип мышления" говорить.
Это просто разные стратегии по достижению одной цели.
При этом они друг другу не противоречат.

  Развернуть 1 комментарий

Это просто разные стратегии по достижению одной цели.

Какой цели? ;-)

  Развернуть 1 комментарий

@cartmendum, пытаемся помешать эволюции через думание) Для меня эта цель формулируется как - Выживание вида через постоянную адаптацию к окружающей среде.

Здесь правда нужно сделать несколько допущений.

  1. Адаптация идет постоянно и никогда не прерывается.
  2. Адаптация не имеет механизма отката до предыдущей версии.

Утрированный пример: Мы отказались от жабр для адаптации к жизни на суше. Мы не можем взять и внезапно вернуть себе жабры который были в предыдущей версии.
На каком то этапе адаптации человека к среде появилось мышление, как успешная стратегию выживания. Оно позволяет приспосабливаться к новым условиям меняя поведение одной особи, а не отращивая себе новые органы или менять внешний вид всей популяции. (Где-то здесь пробежала мысль про интериоризацию Выготоского, но я ее не догнал)
Мышление как адаптация закрепилась и откатиться до версии человека без мышления мы уже не можем. Дальше у нас есть варианты только пытаться развивать эту стратегию. И здесь появляются и логическое мышление, и способность убеждать как частные случаи мышления. Ох...эволюционные биологи меня бы наверно сейчас закидали тухлыми овощами.

Можно сделать зарисовку.

Эволюция раздает способы выживания видам:

  • Слоны...вот вам сила, большие размеры и еще один хвост вместо носа, а то остальные обидятся.
  • Тигры...вот вам когти, сила, хищничество и тельняшка. Зачем? У приматов спросите, когда день ВДВ будет.
  • Лошади...вам выносливость, копыта и бег. Нет, еще один хвост уже у слонов.
  • Приматы...ну...кому-то из вас придется быть умным. Больше вариантов не осталось. Да это неприятно. Нет, отказаться уже нельзя. Я бекапы не делаю. Берите не выделывайтесь. И противопоставленный большой палец до кучи возьмите. Он кроме енотов все равно никому не нужен.
  Развернуть 1 комментарий

@Kolin, Мне кажется в этом утверждении ошибка "Мышление как адаптация закрепилась и откатиться до версии человека без мышления мы уже не можем." - мышление энергозатратно, большой головной мозг сложен и нужен только если его наличие влияет на отбор - иначе, если эта штука будет применяться даже только для количества ништяков у конкретного индивида ( а мы понимаем, что даже это не так), а не выживание его потомков - она точно будет редуцирована - как хвост какой-нибудь. Нафиг мучаться с этим мышлением - если и без него хорошо размножаться? Ну и нельзя же отдельные признаки вырывать из общего процесса - есть мнение, что в целом неандертальцы поумнее были хомо сапиенсов - но как и все "умники" не любили кучковаться. И их просто "вытеснили" толпы туповатых сапиенсов.

  Развернуть 1 комментарий

@knsubochev, с тем, что вырывать из общего процесса согласен. Но ради упрощения приходится.
По поводу энергозатратности не соглашусь. В рамках адаптации нет понятия энергозатратно. Там двоичная система: дает преимущество при выживании или не дает.
Как пример - Полет. Пипец как энергозатратно, еще и весь организм под пролет перестраивается.
Минус одна рабочая пара рабочих конечностей, ускоренный обмен веществ, тонкие кости, перья, за которыми нужно следить постоянно, грудные мышцы невероятного объема, которые потребляют много энергии, и очень большие легкие, чтобы это все обеспечивать кислородом.
Куча минусов, большие энергозатраты, но работает же.
Про неандертальцев гипотезы есть, это да, но мышление и "ум" это разные сущности. Не очень понимаю как их корректно можно сравнить.
И для закрепления в популяции "мышление" может быть очень простым. Формата: удобную палку можно не подбирать, а сделать самому. Этот уровень мышления уже даст преимущество, и может закрепится.
А из отсутствия неандертальцев вокруг, можно сделать вывод, что могли быть умными, но их "ум" не дал им преимуществ для выживания. Или у них был какой-то другой баг в стратегии выживания...здесь вообще можно много нафантазировать.

  Развернуть 1 комментарий

При этом они друг другу не противоречат.

Конечно нет. Поэтому логика и риторика долгое время идут нога в ногу...

  Развернуть 1 комментарий
Ильин Александр Философ-любитель 7 мая 2025

Вкину немного духоты в эту ленту, но она кажется важной:

"человек эволюционировал не для того, чтобы..."

Во-первых, человек, таким каким мы его знаем, не эволюционировал в том смысле, в котором мы употребляем слово "эволюционировать".

Во-вторых, можно подумать, что кто-то вообще "эволюционирует для чего-то" - это противоречит самой сути эволюции.

Корректнее сказать:

"Дали потомство только те люди, которые успешно убеждали других чтобы не менять своих убеждений."

Но тут проблема - виживание одного человека не имеет смысла. В реальности выживают и эволюционируют только человеческие сообщества.

Поэтому фразу надо еще изменить:

"Сохранились только те сообщества, в которых люди успешно убеждали других чтобы не менять своих убеждений"

Но что это за люди такие? И если таких много, то как это вообще работает? Один убедил всех в своём бреде и в итоге сообщество выжило? По-моему сомнительно.

И что это за сообщество такое, где других так легко убедить в бреде? Козёл и стадо баранов? Если это самый эффективный вид сообщества, то почему мы тут все за демократию топим всё время? Одни нестыковки...

Кстати, в самом определении бреда есть ссылка на коррекцию:

Бред (лат. dēlīrium) часто определяют как расстройство содержания мышления с возникновением не соответствующих действительности болезненных представлений, рассуждений и выводов, в которых больной полностью, непоколебимо убеждён и которые не поддаются коррекции.

Насколько успешны люди, которые находятся в бреде, мы знаем. Живут они может и долго, но в специальных условиях, которые им обеспечило то самое общество, которое эволюционировало настолько, что эволюция не работает даже на сумасшедших.

Поэтому фразу надо еще изменить:

"Сохранились только те сообщества, в которых люди легко меняли свои убеждения, если кто-то высказывал идеи, адекватно отражающие реальное положение дел"

Вот это уже больше похоже на реальность: сообщества выживают потому что:
1. люди постоянно ищут идеи, которые точнее всего отражают реальность...
2. ... поэтому люди любят слушать чужие идеи...
3. ...потому что готовы сменить свои идеи, если другие будут лучше отражать реальность...
4. ... поэтому оказалось, что логичная аргументация работает...
5. ... потому что она отражает реальное положение дел.

Поэтому исходная фраза Рустама, мягко говоря, заставляет думать о существе процесса очень криво. И из-за этого логичные выводы из этой посылки получаются совершенно оторванными от жизни - будто люди изначально не любят думать, а любят кричать как воробьи на ветках "я прав! я прав! я прав!".


Хотел дать маленький комментарий, но опят простыня... простити...

  Развернуть 1 комментарий

Вот это уже больше похоже на реальность: сообщества выживают потому что:

  1. люди постоянно ищут идеи, которые точнее всего отражают реальность...

Ну нет же... Не нужна для выживания точная картина реальности. Вообще не нужна.

Целая книга была у Бо Лотто "Преломление. Наука видеть иначе". Там в самом начале более-менее адекватная аргументация этой позиции есть.

Если кратко, то нам нужно компенсировать ошибку и шум в наблюдениях. Поэтому мы свои детекторы опасности загрубляем и решаем не задачу "видеть все точно", а задачу "не допустить грубых ошибок".

У него же был пример: "Лучше я ошибусь, приняв палку за змею, чем приняв змею за палку". А у в условиях шума надо быть готовым к ошибкам и неполной информации об окружающем мире.

  Развернуть 1 комментарий

@cartmendum, "точнее" в смысле "адекватнее"

  Развернуть 1 комментарий

@cartmendum,

Не нужна для выживания точная картина реальности. Вообще не нужна.

Люди безумные силы и ресурсы тратят чтобы планировать точнее, чтобы понимать чётче, чтобы рассуждать точнее, чтобы стрелять точнее, чтобы судить о других точнее, чтобы считать точнее, чтобы оценивать сроки точнее... А тут вдруг "вообще не нужна" и аргумент в том, что кто-то целую книгу написал на эту тему.

Точность в целом - это один из главных преоритетов вообще в нашем мире.

Попробуй построить хотя бы какую-нибудь простенькую глобальную распределенную систему и сразу окажется, что данные разъезжаются, если точно не синхронизировать их по каким-то общим часам. Точность - это всё. У каждого на руке часы, трекер, канбаны и напоминания...

И тут вдруг "вообще не нужна"... Ну где логика?

  Развернуть 1 комментарий
  1. ...потому что готовы сменить свои идеи, если другие будут лучше отражать реальность...

А эксперименты говорят об обратном... Например, вот классическая работа о том, как тяжело меняется первое убеждение.

  Развернуть 1 комментарий

@cartmendum, в топку эксперименты :)

Включаем простую формальную логику, смотрим вокруг себя и видим, что люди добрее и толковее, чем нам хочется думать.

Менять свои убеждения люди не хотят потому что это всю жизнь надо перестраивать. Это дорого очень. Но если число фактов большое или авторитет большой у того, кто говорит - меняют еще как. Могут зигу кидать все вместе, а могут вольтаж поднять до 300 Вольт, когда человек в белом халате говорит "Можно".

Все эти исследования - это не аргумент, а лишь иллюстрация и повод задуматься, я уже писал об этом.

Главное это модель человека и его психики - если её нет, то не ясно какие эксперименты толковые, а какие - бред.

Самый лучший эксперимент может через 17 лет оказаться упражнением в фотошопе. Вот месяц назад так оказалось - 17 лет исследований болезни Альцгеймера коту под хвост.

  Развернуть 1 комментарий

Вот месяц назад так оказалось - 17 лет исследований болезни Альцгеймера коту под хвост.

А детали есть?

  Развернуть 1 комментарий

@cartmendum,

А эксперименты говорят об обратном...

Модель атома Эйнштейна-Резерфорда опровергли на точнейшем эксперименте. Резерфорд расстроился, а Эйнштейн сказал "Подождем. Наша модель лучше объясняет".

Через два года перемерили и оказалось, что в эксперименте была ошибка. Модель подтвердилась.

Менделеев после открытия таблицы самовольно переставил один из элементов, который выбивался из общей логики - перемерили и оказалось, что атомный вес был посчитан неверно.

Эксперименты ничего не доказывают. Это лишь иллюстрация и способ проверить Гипотезу. Если гипотезы нет, то от экспериментов нет толку.

  Развернуть 1 комментарий

в топку эксперименты :)

Неть, я так не могу. И то и другое надо. Логика - хорошо, но эксперимент дает хоть какую-то надежду на то, что ты в суждениях не заблудился. А мы блудимся...

  Развернуть 1 комментарий

@cartmendum, всё так. Но это потому что у тебя пока модели нет. После определенной критической массы экспериментов и размышлений у тебя появится идея того как это всё вообще устроено. Потом гипотезу сформулируешь - и тут же увидишь, что часть экспериментов выбивается из общей логики. Не лезут в модель.

В общем, не "я так не могу", а скорее "я пока так не могу".

  Развернуть 1 комментарий

@cartmendum, вот тут я частично описал как это просиходит:
https://vk.com/@-217490755-ideya-rozhdenie

  Развернуть 1 комментарий

@cartmendum, тот же Константин Анохин в лекциях (кажется тут) не раз говорил, что у них сейчас фактов экспериментов - как у дурака фантиков. Они уже их все прочитать не могут.

Но у них нет гипотезы, которая бы дала объяснение этим всем фактам. Но все думают, что надо просто больше эксперментов богу экспериментов.

А это не так.

Надо подняться над экспериментами, над фактами, отвязаться от них, забыть про них и попытаться придумать общую теорию. В этом и парадокс научного поиска.

Короче, эксперименты, к сожалению, это слабое утешение. Но это, конечно, лучше, чем ничего. И уж точно лучше "мнений".

Но не надо их переоценивать.

  Развернуть 1 комментарий
  1. ... поэтому оказалось, что логичная аргументация работает...

Правда, красноречие (пусть даже, содержащее логические ошибки) местами работает даже лучше...

Тот же Чалдини об этом или Чайкен...

  Развернуть 1 комментарий

@cartmendum, это мимикрия. Это последствие того, что человек, который реально понял (то есть у которого есть модель) говорит уверенно и доходчиво.

Красноречие - это способ показаться понявшим.

  Развернуть 1 комментарий

И из-за этого логичные выводы из этой посылки получаются совершенно оторванными от жизни - будто люди изначально не любят думать, а любят кричать как воробьи на ветках "я прав! я прав! я прав!".

Ага, всё так :-)

  Развернуть 1 комментарий
Ильин Александр Философ-любитель 7 мая 2025

Задачи реального мира зависят от огромного числа параметров, и это потребовало каких-то не эпических вычислительных мощностей

Вовсе не таких больших при одном условии - что построена модель реального мира. В этом случае происходит очень большая экономия вычислительных ресурсов.

Вот так мы и живем: весь наш мир это по сути своей "модель мира", просто она на 99.9% совпадает с реальным миром в тех точках, которые критичны для нашего выживания.

И есть еще один лайфхак - "прогноз". Модель не реагирует на внешний мир, а реагирует на ошибку прогноза того, что во внешнем мире будет происходить. А "разница" всегда меньше, чем вся картинка. То есть мы все живем как бы "на секунду вперед", как бы всё время в ближайшем будущем.

Если что-то идет не так, если наш прогноз ошибочен, то Модель привлекает наше внимание к этому, собирает информацию, перестраивается и предлагает новый прогноз. В этом и есть путь "проб и ошибок".

Так и живем...

  Развернуть 1 комментарий

Вовсе не таких больших при одном условии - что построена модель реального мира.

Ну да. А что такое "модель" - это когда ты отбрасываешь неважные параметры, оставляя важные. А какие параметры важные? А те, которые помогают достичь цели. Без конкретной цели важны все параметры.

  Развернуть 1 комментарий

@cartmendum, всё так. Цель у любого живого организма есть всегда и она проста как пять копеек - выжить.

Параметр "уровень радиации" не важен - вот у нас его в модели и нет.

  Развернуть 1 комментарий

И есть еще один лайфхак - "прогноз". Модель не реагирует на внешний мир, а реагирует на ошибку прогноза того, что во внешнем мире будет происходить.

А вот это, кстати, интересно... Важный момент.

А есть еще кто-то из умных, кто так думает и писал об этом или эксперимент который это бы как-то показывал?

  Развернуть 1 комментарий

@cartmendum, Пётр Анохин, Анил Сет "Быть собой" , Джеф Хокинз "Об интеллекте", Майкл Грациано "Новая теория сознания" (или что-то такое), Александр Каплан буквально об этом говорит (https://youtube.com/shorts/SwhFSSxounQ?si=ZlaLSySLnmU2nRmN).

  Развернуть 1 комментарий

@cartmendum, Хокинс в новой книге на это делает особенный упор и говорит, что это ключевой, основной функционал кортикальной колонки.

Точнее он даже прямо утверждает, что модели хранятся в колонках и каждая стоит прогноз того, что ожидается в будущем, а потом голосованием выбираются наиболее соответствующие сенсорному паттерну предсказания .... и активация "внимания" уже работает именно по принципу отклонения от этого выбранного прогноза.

  Развернуть 1 комментарий

@knsubochev, именно так. Я к тем же выводам пришел по поводу внимания.

  Развернуть 1 комментарий