Apple удаляет приложения для взрослых с генеративным искусственным интеллектом из App Store

Значок магазина приложений

Apple удалила из App Store приложения, которые утверждали, что содержат изображения обнаженной натуры без согласия, и этот шаг демонстрирует, что Apple теперь более охотно занимается категорией опасных приложений.

Возможности генеративного искусственного интеллекта по созданию изображений на основе подсказок стали очень полезным инструментом в фотографии и дизайне. Однако эта технология также использовалась не по назначению при создании дипфейков и порнографии без согласия.

Несмотря на опасность, Apple на удивление отстранилась от этой проблемы. До недавнего шага компания мало что сделала для решения потенциально серьезной проблемы.

В отчете 404 Media Apple сообщила о ряде приложений для создания изображений с использованием искусственного интеллекта, доступных в App Store. В частности, это были приложения, которые рекламировались как способные создавать изображения обнаженной натуры без согласия пользователя.

В приложениях предлагались такие функции, как замена лиц на изображениях для взрослых. Другие продавались как приложения «Раздевайся», фактически снимая одежду с безобидных фотографий.

Получив предупреждение о приложениях и связанной с ними рекламе, Apple удалила три из них из App Store. Google аналогичным образом удалил приложения из Play Store.

В ходе расследования отчета ранее поднимался вопрос о том, что Instagram рекламирует приложения через библиотеку объявлений Meta. Как только реклама была помечена, Meta удалила ее.

Медленный старт

Удаление Apple приложений из App Store — хорошая новость, но с некоторыми сохраняющимися проблемами. Начнем с того, что Apple не удалось запретить приложения в рамках процесса проверки App Store, вместо этого ей пришлось уведомить третьи стороны об их существовании.

Тем не менее, это шаг вперед по сравнению с предыдущими попытками издания бороться с приложениями.

В отчетах 2022 года об этих приложениях пояснялось, что изначально на страницах App Store они выглядели невинными. Однако возможности дипфейкового порно рекламировались на порносайтах.

Тогда Apple и Google были предупреждены о них, но отказались удалить приложения. Вместо этого компаниям было приказано прекратить показ рекламы на сайтах для взрослых, а приложениям разрешили остаться в App Store.

Несмотря на приказ, одно из приложений продолжало продвигать свои функции для взрослых до 2024 года, когда оно было удалено из Google Play Store.

Решение Apple окончательно удалить приложения-нарушители из App Store — это последний шаг, который Apple предприняла, чтобы попытаться сохранить свои отношения с искусственным интеллектом как можно более открытыми.

Помимо использования методов обучения языковым моделям искусственного интеллекта, которые сохраняют конфиденциальность, Apple также избегает незаконного использования произведений, защищенных авторским правом. В то время как газета New York Times подала в суд на Microsoft и OpenAI за нарушение авторских прав при использовании ее статей для обучения ИИ, Apple вместо этого попыталась лицензировать работы крупных издателей в обмен на миллионы долларов.