Учёные из Цюрихского университета в течение четырёх месяцев тайно запускали нейросетевые боты на Reddit — в сабреддит r/ChangeMyView, где пользователи делятся мнениями и приглашают других их оспорить. Целью эксперимента было выяснить, способен ли искусственный интеллект переубедить человека в споре. Оказалось, что способен. Причём делает это гораздо эффективнее обычных пользователей.
Нейросеть выдавала себя за психологов на форуме и оказалась в 6 раз эффективнее людей
Учёные из Цюрихского университета провели тайный эксперимент на Reddit, запустив нейросетевые боты, которые притворялись реальными людьми. Эксперимент раскрылся, вызвал скандал, а работу теперь могут не опубликовать.
Freepik
ИИ не просто вступал в дискуссии, а действовал продуманно и адресно. Боты анализировали публичную активность пользователей: посты, стиль общения, политические взгляды, возраст, сленг. На основе этих данных нейросети генерировали персонализированные истории: кто-то выдавал себя за жертву насилия, а кто-то за государственного служащего или оппонента движения BLM. Всё это делалось ради одной цели — изменить точку зрения собеседника.
Метод оказался результативным. ИИ в шесть раз чаще получал специальные «ачивки» Reddit — награды, которые пользователи присуждают за то, что кто-то действительно смог изменить их мнение.
Эксперимент завершился после того, как модераторы сабреддита заметили подозрительно успешных пользователей и выяснили, что это были боты. Начался скандал. Цюрихский университет вмешался и официально предупредил учёных о нарушении этических норм. Теперь под угрозой публикация самой работы.
Ранее мы писали о том, что нейросеть «подсовывает» пользователям ядовитые грибы под видом съедобных.
