Отчет: Apple анонсирует клиентскую систему хеширования фотографий для обнаружения изображений насилия над детьми в библиотеках фотографий пользователей

Apple — это как сообщается, собирается объявить новые функции идентификации фотографий, которые будут использовать алгоритмы хеширования для сопоставления содержимого фотографий в фото-библиотеках пользователя с известными материалами о жестоком обращении с детьми, такими как детская порнография.

Система Apple будет работать на клиенте — на устройстве пользователя — во имя конфиденциальности, поэтому iPhone будет загружать набор отпечатков пальцев, представляющих незаконный контент, а затем проверять каждую фотографию в фотопленке пользователя по этому списку. Предположительно, любые совпадения будут представлены для просмотра людьми.

Apple ранее заявляла, что использует методы хеширования при загрузке фотографий в iCloud. Эта новая система будет реализована на стороне клиента, на устройстве пользователя. Apple еще официально не объявила об этой новой инициативе, и детали будут иметь значение.

На высоком уровне такая система похожа на функции машинного обучения для идентификации объектов и сцен, уже присутствующие в Apple Photos. Анализ происходит на устройстве, и пользователи могут воспользоваться улучшенными функциями поиска.

Однако эксперт по криптографии и безопасности Мэттью Грин отмечает что последствия такого развертывания сложны. Алгоритмы хеширования не являются надежными и могут давать ложные срабатывания. Если Apple позволит правительствам контролировать базу данных контента отпечатков пальцев, то, возможно, они смогут использовать систему для обнаружения изображений вещей, отличных от явно незаконного детского контента, например, для подавления политической активности.

Однако обратите внимание, что все фотографии, загруженные в iCloud Photos для резервного копирования и синхронизации, в любом случае не хранятся в сквозном шифровании. Фотографии хранятся в зашифрованном виде на серверных фермах Apple, но ключи для дешифрования также принадлежат Apple. Это означает, что правоохранительные органы могут вызвать Apple в суд и просмотреть все загруженные пользователем фотографии. (В этом нет ничего необычного, так работают все сторонние фото-сервисы.)

Вполне возможно, что в будущем Apple сможет развернуть аналогичные системы для сканирования контента на стороне клиента, который позже будет храниться на сервере с сквозным шифрованием. Многие правительства проводят кампании за такую ​​систему с помощью приложений для обмена личными сообщениями E2E, таких как iMessage и WhatsApp, поскольку они обеспокоены тем, что растущий переход на шифрование связи затруднит правоохранительным органам обнаруживать и преследовать в судебном порядке случаи жестокого обращения с детьми.

Грин предполагает, что Apple не инвестировала бы в разработку этой системы, если бы применение ее для сквозного зашифрованного контента не было долгосрочной целью.