Сократ, книги и страх искусственного интеллекта
В каком-то диалоге про ИИ и все такое всплыл аргумент типа:
Что вы всего боитесь? Вон Сократ тоже критиковал книги и ничего. Что нам теперь - книги запрещать?
Здесь мы тоже имеем ситуацию, когда в качестве контраргумента к причинно-следственной связи приводится аналогия:
Если вам кажется уместным такой контраргумент, то почему вы считаете, что ситуацию с Сократом и с ИИ можно сравнивать? Потому что и там, и там буквы? А можно ли тогда сказать, что:
"Алкоголь не вызывает зависимости, вон я помидоры ел и не привык"
Например, на основании того, что и то и другое через рот входит.
То, что Сократ критиковал письменность, не опровержением связи, что «ИИ приведет к чему-то плохому» и уж тем более не является доказательством, что «и с ИИ всё будет нормально».
Давайте разберем эту аналогию. Вы же помните, что с аналогиями и метафорами в аргументации надо быть очень осторожным (статья раз, статья два). И начнем с того, что…
Сократ оказался прав!
Обратимся к исходникам. В современном мире мало кто так делает, как будто можно просто упомянуть известное имя, и дальше любая дичь будет звучать более убедительной. Но мы с вами на это не купимся, правда?
Скорее всего, мнение что Сократ был против письменности, пошло из диалога с Федром, где Сократ говорил:
Вот ты, отец букв, по родительской любви, приписал им противное тому, что они могут. Ведь это, ослабляя заботливость о памятовании, произведет в душах учеников забывчивость; потому что, полагаясь на внешнее письмо, изображенное чужими знаками, они не будут вспоминать впечатлений внутренно — сами в себе. Значит, ты изобрел средство не для памятования, а для напоминания. Да и мудрость ученики приобретут у тебя не истинную, а кажущуюся; потому что многого наслушавшись и ничего не изучая, будут представлять себя многознайками и, как мнимые мудрецы, вместо истинных, останутся большею частью невеждами и людьми в обществе несносными.
И тут сразу два момента.
Момент первый: про память
Да, книги ухудшили память. Как и калькуляторы ухудшили способности устного счета. Сократ оказался прав в этом прогнозе. Но:
Значит, ты изобрел средство не для памятования, а для напоминания
Напоминания... То есть, способности восстановить в памяти то, что из нее выпало. Не крепко удерживать то, что туда попало, а легче восстановить, когда (а не если) оно оттуда выпадет.
Не важно, как сильно ты бьешь, важно какой держишь удар. Так побеждают! Рокки Бальбоа
Ценой ухудшения памяти мы получили средство для хранения, накоплений и дальнейшей обработки знаний.
А ещё, очень похоже, что Сократ не учел следствий второго и высшего порядков. Да книги ухудшили память одного человека, но расширили память человечества, как целого. И дали возможность передавать мысли и от человека к человеку и во времени. Собственно, если бы Платон этот диалог не записал, кто знает, в каком бы виде он до нас дошел, если бы вообще дошел.
Так же текст дал возможность мыслить. Мышление письмом, например. Показывать другому человеку ход своих мыслей, чтобы он мог покритиковать не только конечный результат, но и путь, по которому до этой мысли человек дошел.
В общем, ухудшение памяти произошло, но это было не единственное следствие изобретения букв.
Момент второй: про многознаек
мудрость ученики приобретут у тебя не истинную, а кажущуюся; потому что многого наслушавшись и ничего не изучая, будут представлять себя многознайками
Как в воду глядел! Посмотрите вокруг, как много людей рассуждают о дофамине, как будто с ним лично знакомы. То, о чем пишет Л.А. Ясюкова:
у подростков память вроде крепнет, а понятийное мышление слабеет. Слов умных знают много, что они означают - не понимают.
Что в итоге?
Сократ критиковал письмо за реальные когнитивные эффекты и (о, чудо!) все так и было. У людей ухудшилась память и появились всезнайки.
Но Сократ не рассказал нам обо всех следствиях и следствиях следствий (следствиях высших порядков). Почему не рассказал? Может быть потому, что ему из своих времен это было просто не видно.
А если это так, то тут мы приходим к тому, что масштаб и вектор побочных эффектов новых технологий предсказать трудно, если вообще возможно. Поэтому ссылка на Платона не успокаивает — скорее, наоборот: она показывает, что даже простое письмо имело сложные последствия. И вроде как с этими неучтенными побочными эффектами нам повезло...
Что будет с ИИ? Не знаю... Но уж точно не корректным будет успокаивать себя подобными "ленивыми" аналогиями.
