В объявлении о замене лица обнаружено измененное изображение
Apple, похоже, не в состоянии остановить поток так называемых приложений «двойного назначения», которые на первый взгляд кажутся невинными, но помогают пользователям создавать фейковую порнографию — по высокой цене.
Apple гордится регулированием App Store, и часть этого контроля заключается в полном запрете порнографических приложений. Однако существуют ограничения этого контроля, учитывая, что некоторые приложения могут предлагать функции, которыми пользователи могут легко злоупотреблять — по-видимому, без ведома Apple.
Согласно отчету 404 Media, Apple борется с проблемой «двойного использования», обнаруженной в приложениях, которые предлагают такие функции, как подмена лиц. Хотя эта функция на первый взгляд достаточно невинна, пользователи подменяют лица в порнографии, иногда используя лица несовершеннолетних.
Проблема стала очевидной, когда репортер наткнулся на платную рекламу на Reddit для приложения по замене лиц. Замена лиц, как правило, легкодоступна и часто бесплатна, поэтому такому приложению нужна бизнес-модель, которая допускает размещение платной рекламы.
Они обнаружили приложение, предлагающее пользователям возможность заменить любое лицо на видео с их «любимого сайта», с изображением, предлагающим Porn Hub в качестве опции. Apple не допускает в App Store приложения, связанные с порно, но некоторые приложения, связанные с пользовательским контентом, часто содержат такие изображения и видео в качестве своего рода лазейки.
Когда Apple узнала о возможности двойного использования рекламируемого приложения, оно было удалено. Однако, похоже, Apple вообще не знала о проблеме, и пришлось поделиться ссылкой на приложение.
Это не первый раз, когда невинно выглядящие приложения проходят проверку и предлагают услугу, нарушающую правила Apple. Хотя это не такое вопиющее нарушение, как превращение детского приложения в казино, возможность генерировать несогласованные интимные изображения (NCII) явно не была в поле зрения Apple.
Приложения для замены лиц — популярная категория в App Store
Функции искусственного интеллекта в приложениях могут создавать невероятно реалистичные дипфейки, и для таких компаний, как Apple, важно опередить эти проблемы. Хотя Apple не сможет остановить существование таких вариантов использования, она, по крайней мере, может внедрить политику, которая может быть реализована при проверке приложений — четкие руководящие принципы и правила относительно генерации порнографических изображений. Она уже запретила сайтам с дипфейковым ИИ использовать вход с Apple.
Например, ни одно приложение не должно иметь возможности получать видео из Porn Hub. Apple также может ввести особые правила для потенциальных приложений двойного назначения, например, запреты нулевой терпимости для приложений, обнаруженных при попытке создания такого контента.
Apple приложила все усилия, чтобы гарантировать, что Apple Intelligence не будет делать обнаженные изображения, но это не должно быть концом ее надзора. Учитывая, что Apple утверждает, что она является лучшим арбитром App Store, ей нужно взять на себя ответственность за такие вещи, как генерация NCII, продвигаемая в рекламе.
Приложения для обмена лицами — не единственные приложения с проблемой. Даже приложения, которые открыто пропагандируют неверность, интимный видеочат, чат для взрослых или другие эвфемизмы, проходят проверку.
Отчеты давно предполагают, что обзор приложений нарушен, и регуляторы устали от банальностей. Apple нужно взять под контроль App Store, иначе они рискуют потерять контроль.
