Apple уже сканирует iCloud Mail на предмет CSAM, но не iCloud Photos

Apple подтвердила мне, что она уже сканирует iCloud Mail на предмет CSAM, и делает это с 2019 года. Однако она не сканирует фотографии iCloud или резервные копии iCloud.

Это разъяснение последовало за тем, как я спросил довольно странное заявление руководителя компании по борьбе с мошенничеством: Apple была «величайшей платформой для распространения детского порно». Это сразу вызвало вопрос: если компания не сканировала фотографии iCloud, откуда она могла это знать?

Есть также пара других ключей к разгадке того, что Apple должна была проводить какое-то сканирование CSAM. В архивной версии страницы безопасности детей Apple говорится следующее (выделено нами):

Apple стремится защищать детей во всей нашей экосистеме, где бы ни использовались наши продукты, и мы продолжаем поддерживать инновации в этой сфере. Мы разработали надежные средства защиты на всех уровнях нашей программной платформы и по всей цепочке поставок. В рамках этого обязательства Apple использует технологию сопоставления изображений, чтобы помочь выявить случаи эксплуатации детей и сообщить о них. Подобно фильтрам спама в электронной почте, наши системы используют электронные подписи для обнаружения подозреваемых в эксплуатации детей. Мы проверяем каждое совпадение индивидуальным обзором. Учетные записи с контентом, эксплуатирующим детей, нарушают наши условия обслуживания, и любые учетные записи, которые мы обнаружим с этим материалом, будут отключены.

Кроме того, директор компании по конфиденциальности сказал то же самое еще в январе 2020 года:

Джейн Хорват, директор Apple по конфиденциальности, заявила на технической конференции, что компания использует технологию проверки для поиска нелегальных изображений. Компания заявляет, что отключает учетные записи, если Apple обнаруживает доказательства эксплуатации детей, хотя не уточняет, как она это обнаруживает.

Apple не стала комментировать цитату Фридмана, но мне сказали, что компания никогда не сканировала фотографии iCloud.

Apple сканирует почту iCloud

Однако Apple подтвердила мне, что с 2019 года она сканирует исходящую и входящую почту iCloud Mail на предмет вложений CSAM. Электронная почта не зашифрована, поэтому сканирование вложений при прохождении почты через серверы Apple было бы тривиальной задачей.

Apple также указала, что выполняет ограниченное сканирование других данных, но не сказала мне, что это было, за исключением предположения, что это было в крошечном масштабе. Он сказал мне, что «другие данные» не включают резервные копии iCloud.

Хотя заявление Фридмана звучит окончательно — как будто оно основано на достоверных данных — теперь похоже, что это не так. Насколько мы понимаем, общее количество отчетов, которые Apple делает в CSAM каждый год, измеряется сотнями, а это означает, что сканирование электронной почты не предоставит никаких доказательств крупномасштабной проблемы на серверах Apple.

Объяснение, вероятно, кроется в том, что другие облачные сервисы сканировали фотографии для CSAM, а Apple — нет. Если бы другие службы отключали учетные записи для загрузки CSAM, а фотографии iCloud — нет (потому что компания не сканировала их), то логическим выводом было бы то, что на платформе Apple существует больше CSAM, чем где-либо еще. Фридман, вероятно, не делал ничего, кроме как пришел к такому выводу.

Споры по поводу планов Apple CSAM продолжаются: два ученых из Принстона заявили, что они создали прототип системы сканирования, основанной на том же подходе, что и Apple, но отказались от работы из-за риска неправильного использования со стороны правительства.