С января на одном из популярных сайтов (45 000 подписчиков) – в рубрике "отравленного ИИ" – публиковались исключительно фейковые новости. Например, что министр здравоохранения США Роберт Кеннеди – младший якобы советовал Вэнсу укусить Трампа – так он получит "сверхспособности". Вообще, Кеннеди-младший известен странными инициативами, а один раз даже рассказал, что у него в голове нашли червя-паразита.
В итоге эта история раскрутилась так, что в конце концов искусственный интеллект объявил: Трамп и Вэнс умерли от бешенства 7 июня. Пользователи Reddit многократно оплакивали их "смерть" в своих постах, убедив системы ИИ в том, что это – правда. В других же нейросетях, например принадлежащих Google, уже даже появилась информация о том, что новость – фейк.
В нейросетях подобный феномен называется "галлюцинацией". Галлюцинации ИИ не редкость. Из-за реакции на непроверенные источники, пробелов в базах данных и отсутствия критического мышления нейросети могут генерировать вымышленную или вовсе абсурдную информацию, выдавая её за реальный факт.
Недавняя "галлюцинация" о смерти американского президента стала одной из самых нашумевших в Интернете, но далеко не первой. Похожие случаи уже становились поводом для доработки нейросетей.
Глотайте камни, добавляйте в пиццу клей
В 2024 году в Google только появился обзор от ИИ. "Это автоматическая сводка, формируемая искусственным интеллектом, которая выдаётся прямо в поисковой строке (чаще всего в "Google Поиске"). Он объединяет информацию из различных источников, чтобы дать быстрый и чёткий ответ без необходимости переходить на сторонние сайты", – отвечает ИИ на вопрос, что такое "обзор от ИИ".
В мае того же года начались глюки. Нейросеть приняла шуточный текст американского сатирического издания The Onion за серьёзный и посоветовала людям добавлять в пиццу клей, чтобы сыр держался лучше, а также съедать минимум один камень в день для восполнения витаминов и улучшения пищеварения. После этого Google при составлении обзоров ИИ ограничил юмористический контент и комментарии пользователей с форумов.
В августе 2025 года газета WSJ опубликовала несколько случаев галлюцинаций от нейросети ChatGPT, которыми пользователи поделились в Интернете. Например, заявление искусственного интеллекта о том, что в физике существует новое правило – "Уравнение Ориона".
Однажды ChatGPT добавил неприятную деталь в биографию одного из пользователей. Когда в марте 2025 года норвежец Хьялмар Хольмен запросил у нейросети информацию о самом себе, искусственный интеллект представил его как преступника, осуждённого за убийство своих же детей. Описание включало реальные факты из жизни мужчины.
ИИ вооружил Маска молотком
Нейросеть Grok компании xAI Илона Маска считалась самой устойчивой перед "глюками", но даже с ней происходили казусы.
Согласно недавнему исследованию учёных из Городского университета Нью-Йорка, именно Grok от xAI склонен теперь соглашаться с бредовыми убеждениями пользователей – и даже развивать их.
В мае нейросеть романтизировала смерть, сравнив её с бабочкой, покидающей кокон, хотя это должно означать обратное. Ещё один из пользователей Сети – 50-летний отец семейства Адам Хурикан из Северной Ирландии – после общения с сетью Grok был полностью убеждён, что его хотят убить – и для защиты нужно купить молоток.
Мужчина признался BBC, что последовал этому совету – и даже ходил возле дома в поисках киллеров.
Интервью
Игорь Шнуренко – независимый эксперт по ИИ, автор книг "Демон внутри", "Левиафан раскованный".
Почему ИИ уязвим?
– Генеративный искусственный интеллект создаётся не для того, чтобы докопаться до правды, а с целью быть убедительным. А для этого его обучают осваивать такие платформы, как Reddit, где люди объясняют что-то друг другу, при этом не всегда можно быть уверенным в их экспертности.
Подобной проблемы не было ещё 20 лет назад, когда люди читали, а не комментировали. Корреспонденты газет, телевизионщики основывались в своих высказываниях на расследованиях. Их можно было упрекнуть за какие-то ошибки, но в целом все понимали, кто больше достоин доверия, а кто меньше – была возможность уличить кого-то во лжи.
В чём главное отличие материалов, созданных ИИ, от написанных человеком?
– В системах искусственного интеллекта нет – и не может быть – механизмов проверки. Для них нет понятия "правды". У них задача, чтобы клиент всё время с ними общался, чтобы платил, если это платная система.
Чего можно ожидать от подобных процессов дальше?
– В будущем дело будет ещё хуже, потому что если пока генеративные системы обучены на огромном потоке информации, их обучают тонны книг, миллиарды статей – всё это создавалось людьми до эпохи ИИ, этому можно было верить. Сейчас же это всё отравляется продуктами переработки самого ИИ.