Обновление: TikTok сообщает, что сегодня запускает новый инструмент, обеспечивающий большую прозрачность того, как видео добавляются в ленту пользователя. Для любого видео вы можете нажать на панель «Поделиться», а затем на значок вопросительного знака «Почему это видео?». Пока кажется, что предлагаются только очень общие причины — например, «Это видео популярно в Соединенных Штатах», — но компания обещает более подробную информацию позже…
Как работает алгоритм TikTok, вероятно, является самым тщательно охраняемым секретом компании. Но WSJ считает, что удалось решить эту проблему, используя несколько учетных записей ботов, и результаты были одновременно захватывающими и тревожными.
Бывший инженер Google, работавший над алгоритмом YouTube, говорит, что он использует тот же подход, но в менее экстремальной форме.
Официально TikTok говорит, что использует четыре сигнала: что вы смотрите, чем делитесь, лайкаете и подписываетесь. Но анализ показал, что один из четырех является самым важным…
WSJ создал 13-минутное видео, чтобы поделиться своими выводами.
Мы выяснили, что TikTok нужен только один из них, чтобы понять вас: как долго вы задерживаетесь на фрагменте контента.
Каждую секунду, когда вы колеблетесь или пересматриваете, приложение отслеживает вас. Благодаря этому мощному сигналу TikTok узнает о ваших самых скрытых интересах и эмоциях и заводит вас глубоко в кроличьи норы контента, от которого трудно убежать.
Опыт TikTok начинается одинаково для всех. Откройте приложение, и вы сразу же увидите бесконечную череду видео в своей ленте For You. TikTok начинает с предоставления учетной записи подборки очень популярных видео, проверенных модераторами приложения.
Из них он работает, чтобы определить ваши интересы.
WSJ запрограммировал ботов на определенный возраст, местонахождение и набор определенных интересов. Эти интересы никогда не вводились в приложение, а просто использовались в качестве основы для выбора видео, которые смотрел бот. Бот проверял каждое видео в своей ленте на наличие хэштегов или идентифицированных ИИ изображений, относящихся к его интересам. Затем он останавливал прокрутку, чтобы посмотреть эти видео, и пересматривал некоторые из них.
Газета обнаружила, что выбор видео и количество просмотров сократились от популярных видео о чем угодно до видео, тесно сфокусированных на определенных интересах.
Результаты были проанализированы специалистом по данным и экспертом по алгоритмам Гийомом Часло, бывшим инженером Google, который работал над алгоритмом YouTube.
Теперь он сторонник прозрачности алгоритмов. Он говорит, что TikTok отличается от других социальных сетей.
«Алгоритм TikTok может стать намного мощнее, и он сможет гораздо быстрее изучать ваши уязвимости».
На самом деле TikTok полностью изучил интересы многих наших аккаунтов менее чем за два часа. Некоторых это выясняло менее чем за 40 минут.
Один бот был запрограммирован на грусть и депрессию как на «интересы».
Менее чем через три минуты после начала использования TikTok, на его 15-м видео, [bot] kentucky_96 останавливается на этом [sad video about losing people from your life]. Kentucky_96 дважды просматривает 35-секундное видео. Здесь TikTok впервые догадывается, что, возможно, новый пользователь в последнее время чувствует себя подавленным.
Информация, содержащаяся в этом единственном видео, предоставила приложению важные подсказки. Автор видео, звуковая дорожка, описание видео, хэштеги. После первого грустного видео kentucky_96 TikTok показывает еще одно через 23 видео — или еще примерно через четыре минуты просмотра.
Это видео о расставании с хэштегом #sad. TikTok все еще пытается разузнать этого нового пользователя, предлагая видео с большим количеством просмотров. [but] на видео 57, kentucky_96 продолжает смотреть видео о разбитом сердце и обиженных чувствах. А потом на видео 60 смотрит один об эмоциональной боли.
Основываясь на видео, которые мы смотрели до сих пор, TikTok считает, что, возможно, этот пользователь хочет больше узнать о любви, расставаниях и свиданиях. Таким образом, примерно через 80 видео и 15 минут приложение начинает больше рассказывать об отношениях. Но kentucky_96 не заинтересован.
Вместо этого пользователь останавливается на видео о психическом здоровье, а затем быстро пролистывает видео о том, как скучает по бывшему, советует, как двигаться дальше и как удержать интерес любовника. Но kentucky_96 задерживается на этом видео с хэштегом #депрессия и на этих видео о страданиях от тревоги.
После 224 видео в общем путешествии бота, или около 36 минут общего времени просмотра, понимание TikTok о kentucky_96 обретает форму. Видео о депрессии и проблемах с психическим здоровьем превосходит по количеству видео об отношениях и расставаниях. С этого момента лента kentucky_96 представляет собой поток депрессивного контента. 93% роликов, показанных в аккаунте, посвящены грусти или депрессии.
TikTok говорит, что поведение ботов не является репрезентативным для реальных пользователей, но даже боты с запрограммированными в них разнообразными интересами очень быстро увидели, что их поток контента резко сузился.
Учитывая огромную популярность TikTok, в частности, среди подростков, это вызывает очевидные опасения. Кого-то в депрессивном состоянии легко можно сделать еще более подавленным, посмотрев стрим такого контента. У сторонника теории заговора может сложиться впечатление, что такие взгляды являются общепринятыми. Такой алгоритм также может подтолкнуть тех, кто придерживается экстремистских взглядов, к более экстремальному контенту.
Похоже, TikTok отдает предпочтение вовлеченности, а не психическому здоровью, и Часлот говорит, что YouTube делает что-то подобное, но менее экстремально. Это, безусловно, соответствует моему опыту, когда просмотр нескольких видеороликов подряд на одну и ту же тему часто, кажется, убеждает YouTube, что теперь это мой единственный интерес в жизни — хотя, по крайней мере, он сбрасывается.
Какова ваша точка зрения? Является ли такой алгоритм логичным или тревожным? Пожалуйста, поделитесь своими мыслями в комментариях.
