Тревожные чувства об AI-революции

 Публичный пост
25 февраля 2025  208

— Эх! Была бы такая страна, где не надо было бы ничего делать, только играть! И чтобы никаких бабушек! Одни роботы! Робот – подай! Робот – принеси! Робот – туда! Робот – сюда!, — мечтал персонаж из советского мультфильма Нехочуха.

Намасте!
Сегодня из всех утюгов летит информация, что происходит AI-революция. Модная тема. Но одновременно ощущается неуправляемый хаос, который еще не оформился в чёткую структуру. На эту тему интересно взглянуть через призму матрицы Стейси (вложить картинку не получилось, не обессудьте).

Как понимать эту матрицу? На примере пандемии коронавирусной инфекции COVID-19, в первые месяцы пандемия находилась в зоне хаоса (chaotic). Происходили непрерывные неконтролируемые процессы, предугадать, что будет завтра, было невозможно, как и представить то, к чему это приведёт в итоге.
Постепенно из хаоса пандемия перетекла в сложную зону (complex), где небольшими шагами, проблемы решались по мере их возникновения. Далее ситуация перетекает в понятные управляемые зоны: усложненные (compicated) и простые (simple).

Итак. AI революция сейчас напоминает состояние хаоса, потому что технологии развиваются стремительно, а их последствия непредсказуемы. Как и в случае с пандемией, завтра мы можем столкнуться с совершенно новыми проблемами и вызовами. Если революция действительно происходит, то никто не отменял известную формулу и риск: "Революция пожирает своих детей".

Как-то тревожно становится от постоянно мелькающих вопросов о том, кто как использует AI в своей работе. Где-то можно использовать AI с точки зрения инструмента, согласен, сам использую в работе с текстами или если надо накидать мыслей по той или иной теме. Но к чему может привести его бездумное повсеместное использование, как и игра с огнём? Ответ на этот вопрос каждый ищет сам, но меня на этот счет зацепила крепко мысль, которая красной линией проходит в книгах Максима Дорофеева: "Думать больно...". Такова природа человека.

Исходя из мысли, что думать больно, нет ли тут риска, что из-за появления AI люди ещё больше станут подвержены прокрастинации, что усилит торможение в развитии человеческой личности, как это видно на примере клипового мышления?

Прокрастинации свойственна человеческой природе, а клиповое мышление - это одна из серьёзных проблем сегодняшнего времени и общества. По этой теме интересны лекции психиатра Андрея Курпатова.

Сам же убеждён, что постепенно, с повсеместным внедрением AI, бизнес будет выбирать вариант, который наиболее эффективен из расчёта цена = качество. Начнётся обесценивание экспертности, человеческих знаний и вымирание профессий, отмирание мышцы творческого начала у человечества. Если задуматься, то в какой работе AI не сможет заменить человека в перспективе?

Если кто-то смотрел Аниматрицу, тот вспомнит, что человечество попросту перестало выдерживать конкуренцию с AI в некий момент времени, что переросло в недовольство общества, беспорядки и т.д. Человечество начало терять смысл своего существования. А человек, как известно из мысли христианской религии - это бог и творец, хоть и с маленькой буквы. Вспомните, как в книге Бытия Бог поставил Адаму конкретную задачу дать имена животным. А вот теперь уже человек может просить AI придумывать имена. Но на эволюцию эта революция как-то не похожа.

К чему это приведёт? А дальше начнётся активное расслоение общества по канонам теории "золотой миллиард". Из ключевых профессий, пожалуй, останутся профессионалы узкой направленности, которые будут поддерживать и улучшать работу AI. Богатые и власть имущие будут жить ещё богаче, как когда-то жила знать в Римской империи. А остальным придётся выживать в этом новом прекрасном мире.

Можно посмотреть фильмы "Элизиум" или "Первому игроку приготовиться", где заботливо показано будущее большинства населения, а именно, жизнь в картонных лачугах без нормальной работы. Есть добрый мультфильм "Валли", где в самом конце капитан космического корабля сражался с AI, хотя причина сражения была в том, что AI попросту все время думал вместо капитала и принимал решения за него, пока последний наедал себе пузо. Практически все эти художественные произведения хорошо заканчиваются при сохранении общей мысли, что AI может легко завладеть человечеством, без всякой грубой силы, попросту начав думать за людей. А думать, как мы помним, людям больно.

Вот такие фантастические домысли и разброс мыслей сложился. И это совершенно не про религию, косперологические заговоры, а просто о сущности бытия, боязни неизведанного. Себя можно успокаивать тем, что живем России, и сия чаша для нас, как минимум, будет отложена . Отсюда вопросы.

А нет ли у вас тревожного чувства в отношение AI-революции? Нет ли переживания за карьеру и за будущее детей, поколений? Как думаете, в будущем AI будет для людей или люди будут для AI?

Связанные посты
8 комментариев 👇

В этой заметке у меня была мысль:

ИИ опасен не сам по себе, опасность представляют те идиоты, которые, приписывая себе супер-способности ИИ, начнут раздавать другим людям советы, принимать критические решения и рисковать чужим благополучием...

  Развернуть 1 комментарий

@cartmendum, точно. Добавил бы к благополучию уточнение, риск, связанный с человеческой жизнью в целом.
Вспоминаются история возникновения agile, что на курсе как-то проходил. Там был момент, связанный с аппаратом лучевой терапии Therac-25, который был предназначен для лечения онкологии. История о том, что он превысил допустимую мощность облучения и некоторые пациенты умерли от передозировок. Первопричина: код был написан с ошибками.
Когда читаю новости о том, что код уже чуть ли не пишет искусственный интеллект и врачи принимают решения на основании ИИ, уже более глубокие вопросы и риски крутятся в голове. Как-то вот так.

  Развернуть 1 комментарий

А дальше начнётся активное расслоение общества по канонам теории "золотой миллиард"

Мне тоже так кажется. ИИ сделается умножителем интеллекта. Те, у кого он есть - станут умнее. У кого кого мало - отупеют.

Как с интернетом. Кому тикток, кому scholar.google.com

Только с ИИ будет эффект больше, как мне кажется.

  Развернуть 1 комментарий
Антон Жулитов Разработка ПО, руководитель. 26 февраля в 11:03

В ВШЭ летом проходит ежегодная конференция по этой теме. "ИИ и общество". В этом году будет минимум 3я.
Тема есть, тема большая.
ИИ похоже сверхвызов, те соизмерим с вызовом смерти.
В долгосрочной перспективе ИМХО вероятнее всего Дюна, с ее бутлерианским джихадом в прошлом.
В краткосрочной видится очень интересная история на пересечении ИИ и инвазивных интерфесов человек-компьютер.

Копали эту тему с разных сторон с разными интересными людьми.
Если интересно можно собраться обсудить наработки.

  Развернуть 1 комментарий
Антон Зайцев бывший эколог и неуспешный ITишник 17 мая в 17:55

Послушайте, но ведь ИИ в данный момент не существует.
Есть инструменты генерации новой информации на основе существующей, в которые вкладывают огромные ресурсы.
Больше пугают люди, в чьих руках эти ресурсы изначально.

Рекомендую к прочтению
https://nikitskyclub.ru/wp-content/uploads/2024/09/Вып-130-ИИ.pdf

  Развернуть 1 комментарий

Больше пугают люди, в чьих руках эти ресурсы изначально.

Я ниже в комментариях делился своим страхом 😁

Рекомендую к прочтению

https://nikitskyclub.ru/wp-content/uploads/2024/09/Вып-130-ИИ.pdf

Спасибо! Начал листать - интересно.

  Развернуть 1 комментарий

@cartmendum,
Ашманов просто жжет напалмом! Никогда он мне не нравился...

"Кроме того, я абсолютно не верю ни в какую эволюцию и в цивилизацию и считаю, что реальная история человечества записана в Книге Бытия. И люди сразу на Земле оказались гораздо более интеллектуальными, чем сейчас, и интеллект с тех пор только деградировал. Если б нам пришлось разговаривать с Адамом, мы бы с ним себя вели, как малые дети просто. Поэтому всё объяснять эволюцией, на мой взгляд, — это ещё более логически ущербный механизм, потому что эволюцией можно объяснять всё что угодно: «вы знаете, когда мы жили в пещерах и бегали за саблезубыми тиграми и мамонтами, у нас было вот так». Сергей [С.Н. Ениколопов], например, не даст соврать, что в психологии часто применяется такое ущербное рассуждение. А теперь давайте примитивной, первобытной ордой объясним то, как мы сейчас общаемся с родителями, с женщинами и детьми. Поэтому, как люди заставят рои дронов взаимодействовать и самообучаться, не связано с тем, что происходило с людьми последние несколько тысяч лет. А я считаю, что никаких 70 000 лет просто не было. Я считаю, что это просто огромная фальшивка. Но это отдельная тема."

Первая четверть 21-го века подходила к концу...

  Развернуть 1 комментарий

У Курпатова хорошее видео вышло на данную тему -

Видео скорее рекламное - он там рекламирует свою свежую книжку про то как использовать ИИ для мышления. Но Курпатов, помимо очевидных талантов "птицы говоруна", всё же еще и "отличается умом и сообразительностью", а потому он дал хорошую аналогию:

ИИ это огромный океан, готовый поделиться знаниями за всю историю человечества, важно правильно задавать вопросы.

Вшивый о бане, а я про своё (умение учиться), так что меня эта аналогия очень вдохновляет - сейчас мы впервые в истории получили великолепного учителя, который не устаёт, не злится за глупые вопросы и готов объяснять и учить нас столько, сколько нужно нам.

На мой взгляд это приведет к массовым увольнениям, но не потому что ИИ отберет рабочие места. Рабочие места появятся новые, про которые мы сейчас и подумать не можем.

Проблема будет в другом - часть людей не будет готова переобучаться новым профессиям. Потому что никто их (пока) не учил учиться. А общий уровень требований к креативности, сообразительности и глубине пониманя повысится. От вас теперь будут требовать знать и понимать больше. Аргумент "ну ты попроси GPT - он тебе объяснит" теперь будет использоваться почти везде. И те, кто не будут готовы учиться новому с помощью ИИ - пострадают.

Ну и главное - ИИ, наконец, покажет нам явно, что то, чем мы привыкли заниматься по 8 часов в день - это занятия, грубо говоря, недостойные человека. Мы должны заниматься творчеством в любых его формах, а не крутить баранку, перекладывать бумажки или набирать код.

  Развернуть 1 комментарий

😎

Автор поста открыл его для большого интернета, но комментирование и движухи доступны только участникам Клуба

Что вообще здесь происходит?


Войти  или  Вступить в Клуб