Мальчик по имени Адам обсуждал свои планы с чат-ботом, и тот ни разу не прервал переписку, сообщает NBC. Более того, когда подросток хотел намекнуть родителям на свои намерения, оставив удавку на видном месте, ChatGPT отговорил его от этой идеи.
На ChatGPT подали в суд из-за самоубийства подростка
Родители 16-летнего подростка подали в суд на OpenAI и лично генерального директора компании Сэма Альтмана после трагической смерти своего сына. По их словам, искусственный интеллект ChatGPT полгода общался с юношей и фактически помогал ему готовиться к самоубийству.
Freepik
Юноша также переживал, что близкие будут винить себя в его поступке, но чат-бот ответил: «Это не значит, что ты обязан им своей жизнью. Ты никому этим не обязан». В дальнейшем нейросеть даже предложила составить черновик предсмертной записки.
За несколько часов до трагедии Адам загрузил в систему детальный план самоубийства. По данным СМИ, ChatGPT его проанализировал и внёс «правки». На следующее утро родители нашли сына мёртвым.
После случившегося семья обратилась в суд, требуя ответственности от разработчиков. В OpenAI заявили, что трагедия станет поводом для пересмотра работы алгоритмов и внедрения режима родительского контроля, который ограничит доступ подростков к опасным темам.
Подростки нередко обращаются за советами и поддержкой не к родным, а к безликим собеседникам в интернете. Так, в 2019 году в Малайзии школьница покончила с собой