ИИ уже не первый год хайпует в различных индустриях. Так как он уже давно, то уже появляются какие-то объективные свидетельства его пользы и вреда.
@Alexsand_Shitov поднял правильный вопрос:
Что такое ИИ в этой битве? Это большие языковые модели доступные в виде чатов, это ML, для решения специальных или узкоспециальных задач или просто общая концепция ИИ как феномена?
Давайте тут сузим понятия пусть для нас
ИИ - это большие языковые модели доступные в виде чатов
Это определение только для данной дискуссии, если что.
Давайте в этом треде взвесим плюсы и минусы / риски и возможности
Прошу отнестись внимательно. В качестве довода за одну или другую сторону я буду принимать только что-то максимально достоверное.
Источниками этого достоверного познания может быть (по мотивам заметки «Кому можно верить?»):
- Свидетельство. Обязательно укажите ссылку на источник. В приоритете публикация в научном рецензируемом журнале. Профильный форум - тоже может сгодиться. А сообщение в новостях, со словами «ученые доказали» - это треш.
- Личный опыт. Если вы апеллируете к личному опыту, то максимально подробно опишите конкретную историю вашей жизни, которая является подтверждением вашей точки зрения. Не просто "я профессионал с N-летним стажем и у меня такой опыт" (подробнее об апелляции к опыту).
Также принимаются следующие доводы, но с ними будьте в двойне аккуратны:
- Умозаключение. Это когда на основе логических рассуждений мы показываем, как наш главный тезис вытекает из уже доказанных утверждений (или утверждений, которые подкреплены иными источниками достоверного познания)
- Аналогия. Наверняка кто-нибудь будет пытаться аргументировать свою позицию аналогией с прошлым опытом (вот, мол, калькуляторов тоже все боялись, но их внедрение цивилизацию не разрушило, поэтому и ИИ её не разрушит). Прочитайте эту заметку, чтобы ваша аналогия была максимально корректной.
Я сам хочу в этом треде собрать как можно больше аргументов "за" и "против".
И качественных аргументов, поэтому будьте готовы к тому, что я оставля. за собой право удалять аргументы, которые не будут соответствовать уровню строгости. Естественно, я не буду удалять ничего без предупреждения. Я обязательно напишу, чего на мой взгляд не хватает в вашем аргументе. И удалять буду не всё, а только то, что не приносит ценности самой дискуссии.
Моя главная цель - спрогнозировать будущее, чтобы к нему подготовиться, а не продавить ту или иную позицию.
Как в анекдоте:
Для одних гештальт наполовину открыт, для других гештальт наполовину закрыт, а другие просто делают с этого гешефт.
Давайте подойдем к теме именно с таким мотивами: делать гешефт в той реальности, к которой всё летит.
за «ИИ нас всех погубит»
за «ИИ сделает нашу жизнь лучше»
Это - умозаключение, основанное на свидетельствах.
Тезис 1: Людям часто кажется истинным то, что им знакомо.
При этом сама мысль может быть ложной, но так как она встречалась им в прошлом, то люди склонны считать ее истинной.
В науке это известно как illusory-truth (иллюзорная истинность).
Вот большая мета на эту тему.
Тезис 2: Современный ИИ это не столько настоящий интеллект, способный к логическому мышлению, сколько своего рода предсказатель следующего слова.
То есть, он смотрит какие слова чаще всего встречались в обучающей выборке в ответе на слова, в исходном запросе пользователя.
Пруф.
Теперь вывод
Если обучающей выборкой для ИИ преимущественно являлись общедоступные тексты и знания, то существует вероятность, что пользователь воспримет ответ на заданный вопрос истинным просто потому, что он покажется ему знакомым, так как те или иные фрагменты ответа он уже где-то раньше в информационном поле встречал.
А раз так, то ответ не вызовет дополнительных вопросов.
При определенных условиях ИИ может способствовать распространению стереотипных заблуждений (типа: давайте экономить время, чтобы больше успевать) или, например, fake news.
По крайней мере, если у пользователя нет навыка валидировать ответ от ИИ.
Кстати, здесь есть намёки на то, как снизить эффект иллюзорной правды и лже-новостей. Сам факт наличия исследования на эту тему тоже можно рассматривать как индикатор актуальности проблемы.
А вот статья, где систематизированы галлюцинации (верно звучащие ложные ответы).
Личный опыт 1.
Вчера видел и пробовал, как один хороший человек к своему обучающему курсу подключил модуль в чате ГПТ (авторская настройка).
Он тщательно проверял дз, у меня не получилось сдать с первого раза, приходилось вчитываться, и я разобрался в предложенной теме.
Личный опыт 2.
ИИ в качестве репетитора помог на хорошем уровне разобраться в сложной теме (специфическое моделирование данных в психологии). Без него, скорее всего, я бы месяцы потратил, чтобы разобраться в разных нюансов.
Эволюция или инволюция?
ИИ — это неизбежная эволюция, и началась она не сегодня и даже не тогда, когда Тьюринг собрал сначала «Бомбе», а потом и «Энигму», а с Лейбница и его желания создать универсальный язык, с помощью которого человек даст команды машине, а машина их исполнит.
ИИ в 2025 году — это как калькуляторы в 1986. Сделали ли калькуляторы нас глупее? Определённо: сейчас мы не можем без них выполнять сложные вычисления в уме, просто потому что не приучены. Произошла утрата функции ментальной арифметики. Однако утрата одного открыла возможность другому — выполнять гораздо более сложные расчёты быстрее и с меньшим количеством ошибок. То же самое можно сказать и про компьютер. Сделал ли нас Google глупее? Определённо, но вместе с этим интернет, поисковики и алгоритмы предоставляют возможность распространять информацию, экономя тысячи часов на походы в библиотеки и подписки на бумажные издания научной литературы.
А если оглянуться на пару тысяч лет назад, то нельзя не вспомнить Сократа, который считал, что письменность приведёт к утрате человеком способности думать, потому что мозгом для размышлений он будет пользоваться меньше, чем если бы думал в себе, а не на бумаге.
Смею предположить, что технологию не развернуть вспять, а следовательно, остаётся лишь наблюдать, что с ней происходит, и становиться активным участником изменений — желательно позитивных.
Умные будут ещё умнее, а глупые — ещё глупее
Действительно страшно то, что умных людей значительно меньше, чем глупых. А когда глупый благодаря ИИ уверует в свою правоту — это ещё страшнее. Мало того, что он будет использовать в своих доводах следующее, наиболее вероятное слово, так он начнёт это делать с уверенностью в своей правоте. Это действительно открывает простор для манипуляции общественным мнением. Но умный человек благодаря ИИ способен выполнять сложную работу быстрее и качественнее. И чем быстрее умный научится использовать технологию себе на пользу, тем лучше.
Уже сейчас ИИ помогает:
ИИ в правильных руках – та еще вундервафля
В качестве иллюстрации того, что человек вместе с ИИ может значительно больше, чем каждый по отдельности, можно привести работу AlphaFold. За DeepMind вообще интересно наблюдать, особенно за Демисом Хассабисом. Благодаря AlphaFold, алгоритм способен предсказать трехмерную структуру белка за несколько часов, в то время как ранее это занимало годы дорогостоящих лабораторных исследований. Сегодня ученые используют AlphaFold для проектирования новых белков с определенными свойствами и поиска новых медикаментов.
Другой иллюстрацией синергии человека и машины могут служить автономные лаборатории, которые способны проводить гораздо больше экспериментов для поиска новых материалов и катализаторов гораздо быстрее, чем человек. Тут как раз действует принцип предсказания "следующего" слова и последующий выбор перспективных направлений.
Вот еще один пример из химии: огромный массив данных позволяет с меньшим количеством проб и ошибок предсказывать свойства элементов, ускорять химические реакции и т.д.
Ну и чтобы закрыть "научный" блок, вот пример полного флеш-рояля: робот, ИИ, провернувший за 17 дней столько, сколько команде ученых в принципе невозможно.
В качестве предварительного итога, ИИ в контексте прикладной науки — не просто "зеркальце, скажи", а своего рода эволюция научного метода. ИИ способен не только проверять гипотезы, но и перепроверять их новыми (созданными им) методами анализа, ранее недоступными человеку, потому что человек просто не додумался.
Бытовое использование вундервафли (LLM)
"Душные" выпускники наших учебных программ совершенно справедливо "заметили", что мои контраргументы — это частные случаи использования ИИ, а Максим в своем тезисе упомянул исключительно LLM. Согласен, если честно, но я не разделяю модель, настроенную на выполнение конкретной задачи, и модель общего пользования. Принципы, на которых они обучены, идентичны: большие данные и машинное обучение. Однако тезис о неравномерности веса моего ответа принимается, поэтому дополню максимально бытовым и максимально прикладным способом использования ИИ в исследовательской деятельности.
Мой англоязычный коллега, Энди Степлтон, создал и развивает канал, посвященный использованию ИИ (LLM) в исследовательской деятельности. Практически все из предложенного им я попробовал — работает и действительно помогает.
Это, конечно, менее научный аргумент, но все-таки аргумент.
Еще одно дополнение, Энди, когда мы с ним общались отметил, что Стенфорд подталкивает своих студентов использовать LLM в своих исследованиях. Одно из условий – это указывать промпты, которые были использованы для генерации фрагментов диссертаций, курсовых и выпускных работ. Я не проверял, но спросил еще у пары “знающих” знакомых, они подтвердили. Этот аргумент не валидирован, но мне кажется важным его упомянуть.
Панчлайн
ИИ (глобально и ЛЛМ в частности) — грубый и неточный прибор, продвинутый калькулятор, если угодно. Станет ли он благом или злом — зависит от того, как его «настроить» и использовать. Но ещё важнее — научить использовать его так, чтобы умный стал умнее, а глупый — хотя бы немного умнее.
Как и любая «технология-предвестник» смены эпох (индустриальной, постиндустриальной, информационной), ИИ неизбежно встретит сопротивление и приведёт к утрате человеком каких-то интеллектуальных функций.
Но исторически все технологии схожего масштаба (письменность, паровой двигатель, телефон, компьютер, интернет) в итоге приводили к значимым положительным изменениям в профессиональной деятельности — пусть и не без негативных последствий. Примеры из науки дают повод осторожного оптимизма.