Skip to main content

Дипфейки TikTok |  Редактирование видео

Знаменитости, чьи изображения были украдены, вызвали ряд дипфейков в TikTok. В их число входят MrBeast, Том Хэнкс и Гейл Кинг.

В фейковом видео MrBeast утверждалось, что зрители были выбраны для получения iPhone 15 Pro всего за 2 доллара, что заставило звезду YouTube задаться вопросом, готовы ли социальные сети к дипфейковому мошенничеству…

Что такое дипфейк?

Дипфейк — это видео, в котором генеративный искусственный интеллект используется для фальсификации видеозаписей человека, обычно знаменитости, политика или другого общественного деятеля.

Лучшие из них могут выглядеть чрезвычайно убедительно, обычно сочетая реальную видеозапись человека с движениями рта, сгенерированными искусственным интеллектом, чтобы соответствовать фальшивой речи. Звук либо объединяет реальные слова и фразы из многочасовых исходных материалов, либо генерирует реалистичные имитации голоса на основе одних и тех же обучающих данных.

Очевидно, что дипфейки обладают огромным потенциалом вреда: от выманивания у людей денег, повышения достоверности мистификаций до политической дезинформации, призванной повлиять на результаты выборов.

Дипфейки в TikTok

NBC сообщает о примере MrBeast.

Звезда YouTube MrBeast, настоящее имя которого Джимми Дональдсон, спрашивает, готовы ли платформы социальных сетей справиться с фальшивой рекламой искусственного интеллекта после того, как в мошеннической рекламе на TikTok был показан дипфейк, на котором он предлагает iPhone за 2 доллара.

«Многие люди видят мою мошенническую рекламу с дипфейками… готовы ли платформы социальных сетей справиться с ростом дипфейков с использованием искусственного интеллекта? Это серьезная проблема», — написал Дональдсон в X, ранее известном как Twitter. Когда его попросили прокомментировать, представитель Дональдсона направил NBC News на этот пост.

TikTok заявил, что удалил видео, и указал на свою политику, требующую раскрытия синтетических или манипулируемых медиа.

CNET сообщает, что Том Хэнкс стал еще одной жертвой, его изображение использовалось для продвижения плана стоматологического лечения.

Том Хэнкс довольно узнаваем, независимо от того, держит ли он коробку шоколадных конфет в «Форресте Гампе» или носит скафандр в «Аполлоне-13». Но если вы увидите рекламу стоматологической страховки с его фотографией, посмотрите дважды. На самом деле это не оскароносный актер.

«Остерегаться!» — написал Хэнкс в Instagram в эти выходные. «Есть видео, рекламирующее какой-то стоматологический план с использованием моей ИИ-версии. Я не имею к этому никакого отношения».

CBS Mornings также ведет Гэйл Кинг.

Кинг сделал аналогичный пост в Instagram в понедельник.

«Люди продолжают присылать мне это видео и спрашивать об этом продукте, а я не имею НИКАКОГО отношения к этой компании», — написал Кинг. «31 августа я разместил это видео, рекламирующее мое радиошоу (проведите пальцем, чтобы увидеть оригинал), и они манипулировали моим голосом и видео, чтобы создать впечатление, будто я его рекламирую… Я никогда не слышал об этом продукте и не использовал его. это! Пожалуйста, не дайте себя обмануть этими видео с искусственным интеллектом».

Профессор Нью-Йоркского университета призывает запретить TikTok

Более широкий спор по поводу китайского приложения для коротких видео продолжается, и многие опасаются, что алгоритмически генерируемые каналы могут быть использованы для подачи пользователям прокитайского и антизападного контента.

TNW сообщает, что профессор Нью-Йоркского университета Скотт Галлоуэй заявил на конференции в Хельсинки, что приложение представляет угрозу национальной безопасности.

Гэллоуэй назвал TikTok, вероятно, «самой восходящей технологической компанией в истории» и «угрозой национальной обороны». […] «Они внедрили нейронный разъем в Интернет нашей молодежи», — сказал Гэллоуэй. […]

Гэллоуэй опасается, что КПК промывает мозги этой аудитории. «На их месте я бы деликатно, коварно, скрытно, элегантно поставил большой палец на шкалу антизападного контента и на шкалу прокитайского контента», — сказал он.

Фото: Джейкоб Оуэнс/Unsplash