Сократ, книги и страх искусственного интеллекта
В каком-то диалоге про ИИ и все такое всплыл аргумент типа:
Что вы всего боитесь? Вон Сократ тоже критиковал книги и ничего. Что нам теперь - книги запрещать?
Здесь мы тоже имеем ситуацию, когда в качестве контраргумента к причинно-следственной связи приводится аналогия:
Если вам кажется уместным такой контраргумент, то почему вы считаете, что ситуацию с Сократом и с ИИ можно сравнивать? Потому что и там, и там буквы? А можно ли тогда сказать, что:
"Алкоголь не вызывает зависимости, вон я помидоры ел и не привык"
Например, на основании того, что и то и другое через рот входит.
То, что Сократ критиковал письменность, не является доказательством или опровержением тезиса «ИИ приведет к чему-то плохому», и уж тем более не является доказательством или опровержением того, что «и с ИИ всё будет нормально».
Давайте разберем эту аналогию. Вы же помните, что с аналогиями и метафорами в аргументации надо быть очень осторожным (статья раз, статья два). И начнем с того, что…
Сократ оказался прав!
Обратимся к исходникам. В современном мире мало кто так делает, как будто можно просто упомянуть известное имя, и дальше любая дичь будет звучать более убедительной. Но мы с вами на это не купимся, правда?
Скорее всего, мнение что Сократ был против письменности, пошло из диалога с Федром, где Сократ говорил:
Вот ты, отец букв, по родительской любви, приписал им противное тому, что они могут. Ведь это, ослабляя заботливость о памятовании, произведет в душах учеников забывчивость; потому что, полагаясь на внешнее письмо, изображенное чужими знаками, они не будут вспоминать впечатлений внутренно — сами в себе. Значит, ты изобрел средство не для памятования, а для напоминания. Да и мудрость ученики приобретут у тебя не истинную, а кажущуюся; потому что многого наслушавшись и ничего не изучая, будут представлять себя многознайками и, как мнимые мудрецы, вместо истинных, останутся большею частью невеждами и людьми в обществе несносными.
И тут сразу два момента.
Момент первый: про память
Да, книги ухудшили память. Как и калькуляторы ухудшили способности устного счета. Сократ оказался прав в этом прогнозе. Но:
Значит, ты изобрел средство не для памятования, а для напоминания
Напоминания... То есть, способности восстановить в памяти то, что из нее выпало. Не крепко удерживать то, что туда попало, а легче восстановить, когда (а не если) оно оттуда выпадет.
Не важно, как сильно ты бьешь, важно какой держишь удар. Так побеждают! Рокки Бальбоа
Ценой ухудшения памяти мы получили средство для хранения, накоплений и дальнейшей обработки знаний.
А ещё, очень похоже, что Сократ не учел следствий второго и высшего порядков. Да книги ухудшили память одного человека, но расширили память человечества, как целого. И дали возможность передавать мысли и от человека к человеку и во времени. Собственно, если бы Платон этот диалог не записал, кто знает, в каком бы виде он до нас дошел, если бы вообще дошел.
Так же текст дал возможность мыслить. Мышление письмом, например. Показывать другому человеку ход своих мыслей, чтобы он мог покритиковать не только конечный результат, но и путь, по которому до этой мысли человек дошел.
В общем, ухудшение памяти произошло, но это было не единственное следствие изобретения букв.
Момент второй: про многознаек
мудрость ученики приобретут у тебя не истинную, а кажущуюся; потому что многого наслушавшись и ничего не изучая, будут представлять себя многознайками
Как в воду глядел! Посмотрите вокруг, как много людей рассуждают о дофамине, как будто с ним лично знакомы. То, о чем пишет Л.А. Ясюкова:
у подростков память вроде крепнет, а понятийное мышление слабеет. Слов умных знают много, что они означают - не понимают.
Что в итоге?
Сократ критиковал письмо за реальные когнитивные эффекты и (о, чудо!) все так и было. У людей ухудшилась память и появились всезнайки.
Но Сократ не рассказал нам обо всех следствиях и следствиях следствий (следствиях высших порядков). Почему не рассказал? Может быть потому, что ему из своих времен это было просто не видно.
А если это так, то тут мы приходим к тому, что масштаб и вектор побочных эффектов новых технологий предсказать трудно, если вообще возможно. Поэтому ссылка на Платона не успокаивает — скорее, наоборот: она показывает, что даже простое письмо имело сложные последствия. И вроде как с этими неучтенными побочными эффектами нам повезло...
Что будет с ИИ? Не знаю... Но уж точно не корректным будет успокаивать себя подобными "ленивыми" аналогиями.
Сначала хотел провести просто аналогию, но в итоге, блягодаря письму, буду спорить.
О книгах
Как и отмечено в статье, книги стали аналогом памяти. И, получается, ухудшили её? Не совсем так.
Да, многие люди вместо запоминания фактов стали обращаться к книгам, статьям, пометкам, чек-листам, инфодоскам и прочим "напоминалкам", но при частом обращении многие же от них отстраняются вследствие естественного запоминания. Можно один раз глянуть, что число Авогадро это 6,022×10²³, второй раз, третий… и в итоге запомнить. Но только если оно реально так часто нужно. Таксисты могут помнить дороги в каких-то пределах и слушать навигатор только частично, сверяясь. В школе ученики зауяивают стихотворения наизусть (для развития той самой памяти), и забывают. Но есть кому нравится, и они потом целиком Онегина могут у костра рассказать. То есть помнить что-то люди не перестают.
Да, есть спектр между "один раз в жизни" и "несколько раз в день", в котором для каждого конкретного человека и случая есть порог "не помню → помню". И да, с письмом он точно сместился в сторону незапоминания. Но не уверен, насколько это можно назвать "ухудшением памяти".
О калькуляторах
В своей сути то же самое — люди стали реже считать, но не факт, что хуже. Расширяя слова про книгу, я не уверен, что люди, которые часто считают на калькуляторе то, что могут посчитать в уме, считали бы эти же примеры без калькулятора.