Споры о сканировании CSAM были полностью предсказуемы, Apple

Обновление: через несколько минут после написания этой статьи было опубликовано интервью, в котором Крейг Федериги признал, что Apple должна была поступить иначе.

Одна вещь, касающаяся разногласий по поводу сканирования CSAM, теперь предельно ясна: это застало Apple врасплох. Это сюрприз.

С момента первоначального объявления Apple предприняла блиц-пиар, чтобы исправить заблуждения и попытаться решить самые настоящие проблемы конфиденциальности и прав человека, вызванные этим шагом …

Споры о сканировании CSAM

Давайте вкратце расскажем о фуроре, вызванном фурором материалов о сексуальном насилии над детьми (CSAM).

Apple уже была поставлена ​​на задний план, когда информация о планах просочилась незадолго до того, как компания объявила о них. Эксперт по криптографии и безопасности Мэтью Грин написал в Твиттере планы, сказав, что это плохая идея.

Я получил независимое подтверждение от нескольких людей, что Apple завтра выпускает клиентский инструмент для сканирования CSAM. Это действительно плохая идея.

Утечка, которая не включала подробную информацию о защите Apple от ложных срабатываний, означала, что перед объявлением были высказаны четыре опасения.

Затем было собственно официальное объявление. Честно говоря, это было в значительной степени причиной путаницы в основных средствах массовой информации — потому что оно включало две совершенно разные меры, которые были быстро и ошибочно объединены в многочисленных отчетах:

Сканирование CSAM с использованием цифровых отпечатков пальцев из известных оскорбительных материалов Обнаружение на базе искусственного интеллекта вероятных обнаженных изображений в сообщениях iMessages, отправленных или полученных детьми

Эксперты по безопасности продолжали вызывать опасения даже после объявления, как и многие сотрудники Apple.

Споры о сканировании CSAM стали настолько шумными, что другим экспертам по безопасности пришлось призывать к спокойствию и менее острым спорам.

Ответ Apple

Немедленным ответом компании была утечка внутренней служебной записки, в которой признавалось, что «у некоторых людей есть недопонимание, и многие обеспокоены последствиями», и пыталась уравновесить это сияющей благодарственной запиской от Национального центра пропавших без вести и пропавших без вести. Эксплуатируемые дети (NCMEC).

Через четыре дня после объявления Apple опубликовала шестистраничный FAQ, пытаясь устранить как недоразумения, так и реальные опасения по поводу принятых мер.

Как кто-то прокомментировал в то время, тот факт, что вам нужно шесть страниц часто задаваемых вопросов, а они не были готовы в день объявления, является достаточным доказательством того, что компания в первую очередь сделала хэш объяснений.

Компания заявила, что расширение за пределами США будет осторожным, и провела серию брифингов и интервью, чтобы попытаться противостоять негативной огласке.

Ошибки Apple

На мой взгляд, здесь Apple сделала три фундаментальные ошибки.

Наивность

Точка зрения Apple, казалось, была такой: очевидно, что все возмущены CSAM, поэтому очевидно, что всем следует приветствовать меры, принятые для борьбы с ней. В конце концов, другие технологические гиганты, такие как Facebook и Google, уже регулярно сканируют CSAM при загрузке фотографий и в облачное хранилище, и Apple делала это, уделяя больше внимания конфиденциальности. Все должны были быть счастливы.

Это было наивно, потому что любые шаги, предпринятые для решения этой проблемы, неизбежно предполагают баланс между конфиденциальностью и защитой. Каждой компании необходимо выбрать свою позицию на этой шкале, но ни одна позиция по ней не является бесспорной.

В то время как другие технологические компании просто незаметно занимаются этим в фоновом режиме, Apple сделала громкое заявление, которое явно должно было привлечь много внимания СМИ, как информированных, так и неосведомленных.

Слепота по отношению к имиджу собственного бренда

Любая технологическая компания должна ожидать разногласий, если она сделает публичное заявление об этом, но Apple должна была быть в 10 раз более осведомленной. Во-первых, потому что Apple. Все, что объявляет Apple, обычно становится заголовком новостей.

Но, во-вторых, что более важно, Apple потратила буквально годы на пропаганду конфиденциальности, конфиденциальности и конфиденциальности. Он установил огромные рекламные щиты. Это показало забавную рекламу. На нем есть целый микросайт конфиденциальности. Его генеральный директор говорит о конфиденциальности в каждом интервью и публичном выступлении. Компания атакует других технологических гигантов из-за конфиденциальности. Он боролся со всей рекламной индустрией за новую функцию конфиденциальности.

Не будет преувеличением сказать, что в последние годы конфиденциальность была не только основным аргументом в пользу продаж, но и важной частью имиджа бренда Apple.

Я откровенно ошеломлен тем, что Apple не понимала, что любое снижение конфиденциальности, каким бы незначительным оно ни было, и какой бы веской ни была причина, должно было вызвать огромные волны.

Отсутствие реакции на величайшую угрозу

У Apple есть хорошие защитные меры против одного риска: ложных срабатываний. Компания заявляет, что отчет будет инициирован только совпадениями на нескольких фотографиях, а не только на одной. Компания не сообщила, сколько нужно совпадений, но заявила, что порог означает, что риск ложного отчета составляет один на триллион. Обновление: Федериги указал, что требуется 30 матчей.

Некоторые эксперты не согласны с этим расчетом, но каким бы ни было реальное число, кажется очевидным, что это чрезвычайно низкий риск — и этот риск снижается путем ручного анализа со стороны Apple. Это означает, что если на ваших фотографиях достаточно совпадений, чтобы вызвать предупреждение, кто-то в Apple просмотрит фотографии, чтобы узнать, являются ли они CSAM. В противном случае сообщение властям не передается.

Это по-прежнему создает небольшой риск для конфиденциальности — кто-то в Apple в конечном итоге просматривает совершенно невинные фотографии, но риск того, что чью-либо жизнь будет разрушен ложным сообщением властям, нулевой. Лично меня это полностью устраивает.

Но самые большие риски остаются:

Злоупотребление авторитарными правительствами

Цифровой отпечаток пальца может быть создан для любого типа материала, а не только для CSAM. Что может помешать авторитарному правительству добавлять в базу данных изображения плакатов политических кампаний или тому подобное?

Таким образом, инструмент, предназначенный для борьбы с серьезными преступниками, можно легко адаптировать для обнаружения тех, кто выступает против правительства или одного или нескольких его направлений.

Возможное расширение в обмен сообщениями

Если вы используете службу сквозного зашифрованного обмена сообщениями, такую ​​как iMessage, Apple не сможет просмотреть содержимое этих сообщений. Если правительство приходит с постановлением суда, Apple может просто пожать плечами и сказать, что не знает, что было сказано.

Но если правительство добавит отпечатки пальцев для типов текста — скажем, даты, времени и места планируемого протеста — тогда оно может легко создать базу данных политических оппонентов.

Apple ответила на это, что «откажется от таких требований». Однако, как я уже сказал ранее, компания не может дать этого обещания.

Это заявление основано на том, что Apple имеет законную свободу отказаться. В Китае, например, по закону Apple должна удалить VPN, новости и другие приложения, а также хранить данные iCloud китайских граждан на сервере, принадлежащем компании, контролируемой государством.

У Apple нет реалистичного способа пообещать, что она не будет соответствовать будущим требованиям к обработке предоставленных правительством баз данных «изображений CSAM», которые также включают совпадения с материалами, используемыми критиками и протестующими. Как компания часто заявляла, защищая свои действия в таких странах, как Китай, Apple соблюдает законы каждой из стран, в которых она работает.

Что Apple должна была сделать вместо этого?

Я повторю свой предыдущий тезис о том, что делать что-либо вообще спорно — и, если на то пошло, ничего не делать. Здесь нет волшебного решения.

Но есть одна очень ясная вещь, которую Apple должна была сделать по-другому, если бы она собиралась вообще сделать объявление: она должна была сначала сделать CSAM, решить все связанные с этим проблемы, а затем сделать отдельное, а затем и объявление о Функция iMessage. Таким образом, эти два понятия не были бы перепутаны — и значительная часть озабоченности основных СМИ по этому поводу была бы устранена.

Но, вероятно, он вообще не должен был делать объявление о сканировании CSAM.

По иронии судьбы, лучшим выбором Apple было бы сделать что-то, что на самом деле было бы менее прозрачным и менее частным, но и менее спорным. То есть сканировать фотографии в iCloud по хешам CSAM. И просто обратите внимание, что в политике конфиденциальности iCloud (учитывая, что все облачные сервисы это делают), а не спеть и танцевать об этом.

Это было бы менее спорным, потому что все остальные делают это, и потому что эксперты по безопасности уже знали, что iCloud не является частным: тот факт, что Apple не использует сквозное шифрование, означает, что мы уже знали, что он хранит ключ, и мы уже знал, что сотрудничает с правоохранительными органами, передавая данные iCloud при получении постановления суда.

Если бы он начал это делать, я думаю, что большинство экспертов по безопасности просто пожали бы плечами — здесь ничего нового — и это не привлекло бы внимание основных средств массовой информации.

В безумии может быть метод

В своем первоначальном ответе я затронул одну возможность.

Надежный обмен сообщениями о конфиденциальности Apple означает, что отказ от использования сквозного шифрования для резервного копирования iCloud выглядит все более аномальным, особенно в Китае, где государственная компания имеет доступ к серверам, на которых хранятся резервные копии.

Таким образом, одна из возможностей заключается в том, что это первый шаг к новому компромиссу со стороны Apple: он в будущем переключается на шифрование E2E для резервных копий iCloud, которое включает в себя фотографии и видео, но также встраивает механизм, с помощью которого правительства могут сканировать библиотеки фотографий пользователей. И, возможно, сообщения тоже.

Но если это так, Apple все равно облажалась. Ему следовало сначала объявить о переходе на сквозное шифрование, затем пояснить, что в свете этого ему придется изменить способ сканирования на предмет CSAM, и указать, что новый метод обеспечивает лучшую конфиденциальность.

Это мое мнение — а ваше? Вы согласны с тем, что Apple здесь напортачила, или вы думаете, что она справилась со всем настолько хорошо, насколько это было возможно? Примите участие в нашем опросе и поделитесь своими мыслями в комментариях.

Фото: Крис Веласко