Устаревший алгоритм обнаружения CSAM от Apple взят из iOS 14.3 [u]

Пользователь Reddit говорит, что он обнаружил версию алгоритма Apple NeuralHash, используемую для обнаружения CSAM в iOS 14.3, а Apple заявляет, что извлеченная версия устарела и не будет использоваться.

Пользователь Reddit, u / AsuharietYgvar, говорит, что код NerualHash был обнаружен в iOS 14.3. Пользователь говорит, что они перепроектировали код и перестроили рабочую модель на Python, которую можно протестировать, передав ей изображения.

Алгоритм был найден среди скрытых API, а контейнер для NeuralHash получил название MobileNetV3. Те, кто заинтересован в просмотре кода, могут найти его в репозитории GitHub.

Пользователь Reddit утверждает, что это должен быть правильный алгоритм по двум причинам. Во-первых, файлы моделей имеют тот же префикс, что и в документации Apple, а во-вторых, проверяемые части кода работают так же, как описание NeuralHash в Apple.

Похоже, что обнаруженный код не будет обманут сжатием или изменением размера изображения, но он не обнаружит обрезку или поворот.

Используя этот рабочий скрипт Python, пользователи GitHub начали изучать, как работает алгоритм и можно ли им злоупотреблять. Например, один пользователь, dxoigmn, обнаружил, что если бы вы знали результирующий хэш, найденный в базе данных CSAM, можно было бы создать поддельное изображение, которое произвело бы тот же хеш.

Если это правда, кто-то может создать поддельные изображения, которые напоминают что угодно, но не дают желаемого совпадения хэша CSAM. Теоретически злоумышленник может затем отправить эти изображения пользователям Apple, чтобы попытаться запустить алгоритм.

Несмотря на эти открытия, вся информация, предоставленная этой версией NerualHash, может не соответствовать окончательной сборке. Apple разрабатывала алгоритм обнаружения CSAM в течение многих лет, поэтому можно с уверенностью предположить, что какая-то версия кода существует для тестирования.

Если то, что обнаружил u / AsuharietYgvar, действительно является некоторой версией алгоритма обнаружения CSAM, скорее всего, это не последняя версия. Например, эта версия борется с урожаем и севооборотом, которые Apple специально заявила, что ее алгоритм будет учитывать.

Теоретический вектор атаки, в лучшем случае

Если вектор атаки, предложенный dxoigmn, возможен, простая отправка пользователю изображения, созданного им, имеет несколько средств защиты от сбоев, чтобы предотвратить отключение пользователем учетной записи iCloud и сообщение о нем в правоохранительные органы. Есть множество способов получить изображения на устройстве человека, например по электронной почте, AirDrop или iMessage, но пользователь должен вручную добавить фотографии в библиотеку фотографий. Не существует прямого вектора атаки, для которого не требуется физическое устройство или учетные данные пользователя iCloud для вставки изображений непосредственно в приложение «Фотографии».

У Apple также есть процесс проверки человеком. Образы атак не поддаются синтаксическому анализу человеком, кроме как битового поля, и очевидно, что в сфабрикованном файле нет CSAM.

Не окончательная версия

Пользователь Reddit утверждает, что обнаружил код, но не является экспертом в области машинного обучения. Репозиторий GitHub со скриптом Python пока доступен для публичного ознакомления.

Никто еще не обнаружил существование базы данных CSAM или алгоритма сопоставления в бета-версиях iOS 15. Как только он появится, вполне возможно, что какой-нибудь хитрый пользователь сможет извлечь алгоритм для тестирования и сравнения.

На данный момент пользователи могут изучить эту потенциальную версию NerualHash и попытаться найти любые потенциальные проблемы. Однако эта работа может оказаться бесплодной, поскольку это только часть сложного процесса, используемого для обнаружения CSAM, и не учитывает систему ваучеров или то, что происходит на стороне сервера.

Apple не предоставила точных сроков выпуска функции обнаружения CSAM. На данный момент ожидается, что он будет выпущен в виде точечного выпуска после дебюта новых операционных систем осенью.

Обновление: Apple в заявлении для Motherboard заявила, что версия NeuralHash, обнаруженная в iOS 14.3, не является окончательной версией, установленной для выпуска с iOS 15.