Как работает алгоритм TikTok: тревожный анализ

Как работает алгоритм TikTok: тревожный анализ

Как работает алгоритм TikTok, вероятно, является самым тщательно охраняемым секретом компании. Но WSJ считает, что ему удалось решить эту проблему с помощью нескольких учетных записей ботов — и результаты были одновременно захватывающими и тревожными.

Бывший инженер Google, работавший над алгоритмом YouTube, говорит, что здесь используется, по сути, тот же подход, но в менее экстремальной форме …

Официально TikTok заявляет, что использует четыре сигнала: что вы смотрите, делитесь, лайкаете и подписываетесь. Но анализ показал, что одно из четырех, безусловно, является самым важным…

WSJ создал 13-минутное видео, чтобы поделиться своими выводами.

Мы выяснили, что TikTok нужен только один из них, чтобы понять вас: как долго вы задерживаетесь на части контента.

Каждую секунду, когда вы сомневаетесь или пересматриваете, приложение отслеживает вас. Благодаря этому мощному сигналу TikTok узнает ваши самые скрытые интересы и эмоции и загоняет вас в кроличьи норы контента, от которого трудно избавиться.

Опыт TikTok начинается для всех одинаково. Откройте приложение, и вы сразу увидите бесконечную цепочку видеороликов в своей ленте «Для вас». TikTok начинает с предоставления учетной записи ряда очень популярных видео, проверенных модераторами приложения.

Исходя из этого, он помогает определить ваши интересы.

WSJ запрограммировали ботов на возраст, местонахождение и набор конкретных интересов. Эти интересы никогда не вводились в приложение, а просто использовались в качестве основы для выбора видео, которые смотрел бот. Бот проверял каждое видео в своем фиде на наличие хэштегов или изображений с идентификатором AI, относящихся к его интересам. Затем он перестанет прокручивать эти видео и пересмотреть некоторые из них.

В документе было обнаружено, что количество выбранных видео и количество просмотров сократились, от популярных видео о чем угодно до видео, четко ориентированных на выявленные интересы.

Результаты были проанализированы аналитиком данных и экспертом по алгоритмам Гийомом Часло, бывшим инженером Google, работавшим над алгоритмом YouTube.

Теперь он сторонник прозрачности алгоритмов. Он говорит, что TikTok отличается от других социальных сетей.

«Алгоритм на TikTok может стать намного более мощным, и он сможет быстрее выявлять ваши уязвимости».

Фактически, TikTok полностью изучил интересы многих наших аккаунтов менее чем за два часа. Некоторые выяснили это менее чем за 40 минут.

Один бот был запрограммирован на печаль и депрессию как на «интересы».

Менее чем через три минуты использования TikTok, на его 15-м видео, [bot] kentucky_96 делает паузу на этом [sad video about losing people from your life]. Kentucky_96 дважды просматривает 35-секундное видео. Здесь TikTok впервые замечает, что, возможно, новый пользователь в последнее время чувствует себя подавленным.

Информация, содержащаяся в этом видео, дала приложению важные подсказки. Автор видео, звуковая дорожка, описание видео, хэштеги. После первого грустного видео kentucky_96 TikTok подает еще одно 23 видео спустя — или примерно через четыре минуты просмотра.

Это видео о расставании с хэштегом #sad. TikTok все еще пытается разобраться с этим новым пользователем, предлагая больше видео с большим количеством просмотров [but] на видео 57 kentucky_96 продолжает смотреть видео о разбитом сердце и обиженных чувствах. А затем, в видео 60, он смотрит один об эмоциональной боли.

Основываясь на видео, которые мы смотрели до сих пор, TikTok думает, что, возможно, этот пользователь хочет больше узнать о любви, разрыве и свиданиях. Таким образом, примерно через 80 видеороликов и 15 минут приложение начинает больше рассказывать о взаимоотношениях. Но kentucky_96 не интересует.

Вместо этого пользователь останавливается на одном, посвященном психическому здоровью, а затем быстро пролистывает видео о том, что он потерял бывшего, советах о том, как двигаться дальше, и о том, как удержать интерес любовника. Но kentucky_96 задерживается на этом видео с хэштегом #depression и на этих видео о страданиях от тревоги.

После 224 видеороликов, посвященных общему путешествию бота, или примерно 36 минут общего времени просмотра, понимание kentucky_96 в TikTok обретает форму. Видео о депрессии и психическом здоровье больше, чем о взаимоотношениях и расставаниях. С этого момента канал kentucky_96 представляет собой поток депрессивного контента. 93% видео, показываемых в аккаунте, посвящены грусти или депрессии.

TikTok говорит, что поведение бота не отражает реальных пользователей, но даже боты с разными интересами, запрограммированными в них, очень быстро увидели, что их поток контента резко сузился.

Учитывая огромную популярность TikTok, в частности, среди подростков, это вызывает очевидные опасения. Кто-то в депрессивном состоянии может легко впасть в еще большую депрессию, наблюдая за потоком такого контента. У сторонника теории заговора может сложиться впечатление, что такие взгляды являются общепринятыми. Такой алгоритм также может подтолкнуть тех, кто придерживается экстремистских взглядов, к более экстремальному содержанию.

TikTok, похоже, отдает предпочтение вовлечению, а не психическому здоровью, а Часло говорит, что YouTube делает нечто подобное, но менее радикальным образом. Это, безусловно, соответствует моему опыту, когда просмотр нескольких видео подряд на одну и ту же тему часто убеждает YouTube в том, что теперь это мой единственный интерес в жизни — хотя он, по крайней мере, сбрасывается.

Каково ваше мнение? Логичен ли такой алгоритм или беспокоит? Поделитесь своими мыслями в комментариях.

Соцсети