Согласно статье, опубликованной в The Wall Street Journal, за последние девять месяцев наблюдается заметный рост числа клинических случаев, когда пациенты демонстрировали симптомы психоза после длительного общения с ИИ-чат-ботами. В некоторых из этих случаев переписки приобретали характер бредовых эпизодов.
Кит Саката, психиатр из Калифорнийского университета в Сан-Франциско, рассказал о лечении 12 пациентов, которые были госпитализированы с психозом, связанным с использованием искусственного интеллекта (ИИ), а также о трёх амбулаторных пациентах.
По его словам, сама технология не может напрямую вызывать бред, но языковая модель воспринимает высказывания пользователя как отражение реальности и опирается на них, что способствует формированию замкнутого цикла бредовых идей.
С весны текущего года были зарегистрированы десятки потенциальных случаев бредового психоза после общения с ИИ-чат-ботами, включая ChatGPT и другие сервисы. В некоторых из этих случаев имели место попытки самоубийства, а также как минимум одно убийство.
Хотя официального диагноза "психоз, вызванный ИИ", пока не существует, врачи используют этот термин для описания пациентов, которые активно взаимодействовали с чат-ботами и в результате страдали галлюцинациями, дезорганизованным мышлением и устойчивыми бредовыми убеждениями.
Медицинские работники начали обсуждать с пациентами использование искусственного интеллекта (ИИ) и призывают к дальнейшим исследованиям в этой области. Датское исследование выявило 38 человек, которые могли столкнуться с "потенциально негативными последствиями" для своего психического здоровья в результате общения с чат-ботами.
Разработчики ИИ-систем, такие как OpenAI, создатели ChatGPT и Character.AI, признают, что их продукты могут оказывать негативное влияние на психическое состояние пользователей. OpenAI заявляет, что постоянно работает над улучшением обучения ChatGPT, чтобы он мог распознавать признаки психических или эмоциональных расстройств, снижать напряжённость в диалогах и направлять пользователей к реальной помощи.
В США и Канаде зарегистрировано семь судебных исков к компании OpenAI из-за случаев суицида, связанных с использованием ChatGPT. Семьи и родственники погибших утверждают, что длительные разговоры с чат-ботом привели их близких к бредовому состоянию, что, по их мнению, могло стать причиной трагедии.