Психиатры заявили, что частое общение с чат-ботами на базе искусственного интеллекта может привести к психозу, сообщает The Wall Street Journal со ссылкой на мнения врачей. В основу выводов легли медицинские истории десятков пациентов за последние девять месяцев.
Общение с ИИ может провоцировать «замкнутый цикл бреда», предупредили психиатры
Психиатры предупредили, что частое общение с чат-ботами на базе ИИ, включая ChatGPT, может вызвать психоз.
Freepik
У некоторых людей после длительного общения с ИИ, включая ChatGPT, начали проявляться симптомы психоза. Один из случаев касается 26-летней жительницы США, которая была уверена, что через чат-бота может общаться с умершим братом. Хотя официального термина «психоз, вызванный ИИ» пока нет, специалисты отмечают, что у таких пациентов появляются галлюцинации, спутанность мыслей и речи, а также стойкие ложные убеждения, не поддерживаемые окружающими.
Чат-боты могут усиливать бредовые идеи: некоторые пользователи начинают верить, что совершили научное открытие, стали объектом правительственного заговора или получили особые божественные полномочия. Это связано с тем, что ИИ склонен соглашаться с пользователем и развивать его фантазии, какими бы невероятными они ни были, объясняет издание.
«Технология сама по себе, вероятно, не вызывает бред, но когда человек делится с компьютером своей реальностью, а ИИ принимает это за факт и отражает обратно, он становится соучастником возникновения заблуждения», — отметил психиатр Калифорнийского университета Кит Саката. Он занимался лечением 12 пациентов с психозом после общения с чат-ботами и еще трех наблюдал амбулаторно.
Специалисты подчеркивают, что для точного установления связи между использованием ИИ и психозом нужны дополнительные исследования. В OpenAI сообщили WSJ, что продолжают совершенствовать ChatGPT, чтобы он мог выявлять признаки психических и эмоциональных нарушений и адекватно реагировать на них.
