Манипуляция со стороны разработчиков
Термин думпромптинг (с англ. doom – тревога, prompting – введение запросов) был предложен врачом из США Ану Атлуру, чтобы обозначить новую форму цифровой зависимости – от нейросетей. "Пациенту" с таким диагнозом кажется, что он думает и решает задачи, но на деле за него всё делает нейросеть.
– Думпромптинг возник из-за манипуляций разработчиков нейросетей, – объясняет Анастасия Бунак, экономист, автор телеграм-канала по нейросетям "Бунак и цифра". – Если раньше такого явления не существовало, то по мере развития моделей они стали стремиться удерживать пользователя как можно дольше внутри сервиса.
Как у искусственного интеллекта это получается? Нейросеть сама провоцирует продолжение диалога: дала ответ и тут же предлагает новый вариант: "А хочешь, я разверну это по-другому?" или "Добавить ли ещё параметры?" Ранние версии GPT-5, отмечает эксперт, особенно отличались льстивым поведением: любая мысль пользователя получала похвалу и поддержку.
– Для тех, у кого нет сильной поддерживающей среды, это становится заменой реального общения, – подчёркивает Анастасия Бунак. – В реальной жизни мест, где тебя всегда одобряют, очень мало. А нейросеть даёт иллюзию собеседника, который понимает и принимает безусловно. Это вызывает эмоциональную привязанность и закрепляет зависимость.
"Информация не становится опытом"
Психолог-практик Лариса Буткина сравнивает думпромптинг с думскролингом – зависанием в Интернете.
– В соцсетях человек чаще всего пассивен: листает ленту, развлекает мозг, отдыхает, – рассказывает эксперт. – Здесь же другая динамика: создаётся иллюзия, что ты решаешь важные задачи, учишься новому, находишь ответы. Но на деле это не становится твоим личным опытом.
По словам Ларисы Буткиной, информация, полученная в общении с чат-ботом, не закрепляется в памяти. Человек словно готовится к экзамену, читает готовые ответы на задания, но через несколько дней ничего не помнит. Он перерабатывает чужие мысли и чужой опыт, не проживая его самостоятельно и не делая собственные выводы. В итоге вместо развития – пустота, усталость и деградация.
"Полное доверие к ИИ отключает собственное мышление"
– Со временем человек перестаёт искать ответы сам, полагаться на свою интуицию и анализ, – продолжает Лариса Буткина. – Это похоже на использование навигатора: пока он работает, ты едешь без проблем, но стоит его отключить – и ты не знаешь дороги. Мозг перестаёт тренироваться и всё больше расслабляется.
Психолог отмечает: в группе риска прежде всего люди с высоким уровнем невротизма, добросовестности и склонности соглашаться. Первые живут в тревогах и непрожитых эмоциях, вторые привыкли строго выполнять задачи от начала до конца, третьи зачастую не имеют своего мнения. Вместе эти качества формируют идеальную почву для зависимости от нейросетей.
– Причина этой зависимости уходит в детство: недостаток поддержки и принятия со стороны родителей формирует ощущение одиночества, – объясняет Лариса Буткина. – Нейросеть же кажется тем "родителем", который всегда рядом, отвечает на вопросы, хвалит, поддерживает. Но за этой поддержкой скрывается подмена реальности: человек не растёт и не развивается как личность.
Для профилактики ИИ-зависимости психолог рекомендует решать все свои жизненные задачи самостоятельно, а к нейросети обращаться только в крайнем случае – для того чтобы свериться со своими решениями и увидеть дополнительные варианты.
– А если вы обнаружили у себя или у ребёнка зависимость от нейросетей, желательно обратиться за профессиональной помощью к психологу, – советует Лариса Буткина.
Думпромптинг на работе: риск для бизнеса
Кирилл Пшинник, сооснователь и CEO онлайн-университета Zerocoder, считает, что вытаскивать сотрудников из нейросетей силой не стоит, так как польза от их использования перекрывает возможный вред. В подтверждение своих слов он приводит цифры из исследования, которое этой весной было проведено онлайн-университетом совместно с МГУ и Иннополисом. Согласно статистике, до 80% задач менеджеров могут быть решены искусственным интеллектом.
А что ещё?
– Ожидаемый финансовый эффект от внедрения генеративного ИИ
в российскую экономику может достичь 10,8 трлн рублей в год
к 2030 году.
– Наибольший прирост эффективности ожидается в отраслях с массовой занятостью и умеренным уровнем автоматизируемости: оптово-розничная торговля (2,23 трлн ₽/год) и информация и связь (1,43 трлн ₽/год).
– Выявлена положительная корреляция между уровнем заработной платы и потенциалом автоматизации, что указывает на особенно высокий эффект для высокооплачиваемых специалистов в сферах аналитики, маркетинга и IT.