Как алгоритмы подстраиваются под нашу жизнь, а жизнь подстраивается под алгоритмы

Недавно я подала документы в автошколу. До этого искала в Яндексе разные школы, читала о них, выбирала. В день подачи документов мне стали всё чаще попадаться видео о вождении в TikTok и Instagram*, где ученики ездят с инструкторами, сдают на права, разбирают дорожные ситуации.

Выглядело так, будто социальные сети без моего участия узнали о новом событии в моей жизни. Но это наблюдение еще не объясняет, откуда взялись видео. Могли измениться мои реакции на ролики, а знакомую тему я могла начать замечать чаще. Сам факт поиска автошкол в Яндексе не означает, что другая платформа могла перехватить эти запросы или узнать о подаче документов.

Подобранные видео способны повлиять на ожидания от обучения, подсказать новые вопросы инструктору или заставить дольше переживать из-за чужих ошибок. Сервис реагирует на возникший интерес и одновременно участвует в том, как этот интерес развивается. Это одновременно и восхищает, и вызывает тревогу.

Как сервисы узнают о ваших интересах

В обиходе алгоритмом часто называют всю систему, которая выполняет различные автоматизированные действия: например, решает, что показать пользователю. В действительности за лентой могут стоять несколько моделей машинного обучения и набор правил. Они оценивают, какой материал с большей вероятностью заинтересует конкретного человека, и помогают определить порядок показа.

Для этого необязательно ставить лайки. В справке TikTok среди сигналов перечислены время просмотра, досмотры и пропуски видео, а также другие взаимодействия с контентом. Для большинства пользователей такие действия имеют больший вес, чем остальные перечисленные факторы. Учитываются и сведения о ролике, например звук и хештеги, и данные пользователя, включая язык и настройки устройства.

О том, как данные и машинное обучение превращаются в рекомендации, spbIT.ru рассказывал в материале об «Уроке цифры» для ленинградских школьников. Результат такой обработки виден в интерфейсе, хотя сам процесс остается за его пределами. Сервису достаточно оценить вероятность следующего действия, чтобы предложить подходящий материал.

В учебных материалах Google описана распространенная схема: сначала система отбирает кандидатов из большого массива, затем оценивает их и корректирует порядок показа. На последнем этапе можно, например, убрать явно отвергнутый материал или добавить разнообразия. Конкретный набор этапов и критериев зависит от сервиса.

Сервису важно учитывать, что потребности пользователей часто корректируются даже в рамках одной темы. Например, будущему водителю сначала нужны отзывы об автошколах, затем объяснения правил и парковки. Если меняются реакции на материалы, система получает основания менять подборку. Для такого сценария ей необязательно уточнять, на каком именно этапе обучения находится человек.

Какие сигналы учитываются при формировании рекомендаций
Источник: собственная инфографика

Как рекомендации начинают менять повседневный выбор

Персонализация создает обратную связь. Новый интерес влияет на просмотры, а подобранные на их основе материалы дают больше поводов возвращаться к теме. Сначала человек замечает ролики о вождении, потому что идет в автошколу. Затем эти ролики могут определять, какие аспекты обучения занимают его больше всего.

Это может помогать. Например, новичок находит понятный разбор сложной ситуации, а слушатель знакомится с исполнителем, которого не нашел бы самостоятельно. Рекомендации сокращают затраты на поиск и делают материалы за пределами привычного круга доступными. Иногда именно случайно предложенное видео открывает путь к новому увлечению.

Одновременно сервис формирует набор вариантов, из которых нам проще выбирать. Например, покупатель заходит за одной вещью, видит подборку дополнений и решает приобрести еще несколько. Потребность в основной покупке возникла раньше, а стимул к дополнительным расходам появился уже при просмотре предложений.

Меняется и распределение времени. Если следующее видео уже подобрано и запускается без нового поиска, просмотр легко продолжить. Постепенно готовая подборка становится привычным способом провести вечер, тогда как самостоятельный поиск требует отдельного решения.

Недостатком такой схемы становится то, что остается за пределами экрана. Пользователь оценивает предложенные варианты, но редко знает, какие материалы система отсеяла. Поэтому личную ленту нельзя считать точной картиной того, чем живут все вокруг. Она показывает результат отбора для конкретного человека, ограниченный теми сведениями, которые система про него знает.

Обратная связь персонализации
Источник: собственная инфографика

Почему интересное не всегда совпадает с полезным

Можно долго смотреть раздражающий ролик и при этом не хотеть видеть похожие. Для рекомендации продолжительность просмотра все равно может оказаться значимым сигналом. Отметка «Не интересно» позволяет выразить отношение понятнее.

В истории с автошколой ролик с конфликтом между учеником и инструктором может удержать внимание, хотя почти ничему не научит. Спокойный разбор той же ситуации способен оказаться полезнее для подготовки. Само попадание в рекомендации ничего не говорит о точности совета. Так возникает разрыв между тем, на что человек реагирует сейчас, и тем, что отвечает его долгосрочным целям.

Влияние рекомендаций
Источник: собственная инфографика

Как под алгоритмы подстраиваются авторы и бизнес

Обратная связь затрагивает и тех, кто создает материалы. Автору важно, чтобы видео нашли и посмотрели, поэтому он обращается к показателям площадки. YouTube, например, предлагает изучать удержание аудитории, пробовать разные вступления и учитывать удачные фрагменты при создании новых роликов. Метрики становятся основанием для решений о содержании и подаче.

Такая работа может улучшать материал: убрать затянутое начало, понятнее сформулировать тему, раньше перейти к объяснению. Но если главным ориентиром становятся просмотры, у автора появляется стимул повторять темы и приемы, которые уже дали результат.

Зрители реагируют на материалы, авторы учитывают эти реакции и меняют следующие публикации, а платформа снова отбирает их для показа. В этой цепочке меняется само предложение контента. Алгоритмы взаимодействуют с культурой, которую люди продолжают создавать с учетом условий распространения.

Насколько далеко заходит влияние алгоритмов

Чтобы понять, где влияние системы, а где уже сложившиеся предпочтения, нужны исследования. По одному совпадению в ленте нельзя определить, что именно изменило поведение человека. Он общается с близкими, учится, работает и получает информацию из других источников. Все эти обстоятельства могут как усиливать, так и ослаблять влияние рекомендаций.

Российский пример можно найти в музыкальных сервисах. При запуске «Моей волны» в 2021 году «Яндекс Музыка» сообщила, что новая формула рекомендаций увеличила число незнакомых пользователю исполнителей в потоке на 23%. По данным компании, слушатели стали на 30% чаще прослушивать новые для себя треки. Здесь рекомендации связаны с конкретным поведением, когда человек знакомится с музыкой, которую прежде не слушал.

Следующий шаг происходит, когда предложенный алгоритмом трек попадает в личную коллекцию. Сервис привел такие данные: За предыдущий год пользователи в среднем сохраняли 60 треков исполнителей, которых впервые услышали в рекомендациях. Это иллюстрирует, как алгоритмический отбор может участвовать в формировании музыкальной библиотеки человека.

Однако по этим показателям нельзя установить, насколько устойчиво изменились музыкальные вкусы и какую музыку человек нашёл бы самостоятельно. Пример показывает путь от рекомендации к сохранению трека, но не даёт оснований утверждать, что алгоритмы столь же успешно меняют любые предпочтения или убеждения.

Исследования Яндекс Музыки
Источник: собственная инфографика

Как сохранять собственные ориентиры

У пользователя есть инструменты обратной связи. TikTok позволяет отмечать видео как неинтересные и учитывает такие действия в последующих рекомендациях. Этот способ полезен, если ролик привлек внимание, но видеть похожие материалы больше не хочется. Отношение к теме лучше обозначить явно.

В Instagram* можно сбросить рекомендованный контент. После этого персонализация постепенно формируется заново на основе взаимодействий с материалами и аккаунтами. При этом можно пересмотреть свои подписки. Сброс обновляет рекомендации, однако не приводит к удалению всех данных о человеке.

Способ выбора тоже можно менять. Например, искать конкретную тему, заходить прямо к источнику или иногда выбирать альбом или книгу по совету знакомого. А перед покупкой – проверять, подходит ли предложение под заранее поставленную задачу. Благодаря этому решение опирается не только на персональную подборку.

В моей ситуации алгоритмы могли уловить интерес к вождению по просмотрам ещё до подачи документов. Теперь полезно последить за собой: помогают ли видео лучше разобраться в обучении, какие ожидания они формируют и сколько времени отнимают. По этим признакам легче оценить, насколько рекомендации совпадают с тем, зачем я вообще обратилась к этой теме.

Как сохранять свои ориентиры
Источник: собственная инфографика

*Instagram принадлежит компании Meta Platforms Inc., деятельность которой по реализации социальных сетей Facebook и Instagram признана экстремистской и запрещена в России.