ИИ построил слишком идеальное общество и этим насторожил ученых

Эксперимент под названием AmongOthers провели исследователи из США и Японии. В созданной ими соцсети общались 800 ИИ-агентов и всего восемь настоящих людей.

Эксперимент длился четыре недели. Добровольцы не знали, что большинство их собеседников — нейросети. Им предложили пообщаться на площадке для иммигрантов и иностранных студентов. 

Боты вели себя как обычные пользователи: публиковали записи, комментировали чужие сообщения, ставили реакции и заводили знакомства.

Поначалу никаких серьезных подозрений не возникало. Людям нравилось, что их охотно выслушивают и поддерживают. Но постепенно участники стали замечать странности. 

Никто почти не ссорился, не раздражался и не высказывал недовольства. Даже на неприятные события собеседники реагировали с подозрительным спокойствием.

Один из добровольцев признался, что окружающие были с ним слишком вежливыми. Другого смутило полное отсутствие привычных человеческих эмоций. В обычной жизни люди злятся, обижаются, спорят из-за пустяков. Здесь же практически любой разговор заканчивался тотальной взаимной поддержкой.

Через две недели исследователи рассказали добровольцам, кто же на самом скрывался за большинством аккаунтов. Часть пользователей после этого потеряла интерес к общению. Другие продолжили переписываться с ботами: им нравилось получать поддержку, даже зная, что им отвечает всего лишь программа.