Skip to main content

CSAM-сканирование будет злоупотреблять |  Открытые навесные замки

Когда Apple объявила о своем собственном подходе к сканированию CSAM, многие из нас предупредили, что процесс, используемый для проверки материалов о сексуальном насилии над детьми, в конечном итоге будет использован репрессивными правительствами для сканирования таких вещей, как планы политических протестов.

Компания из Купертино тогда отвергла эту аргументацию, но по иронии судьбы теперь использует именно этот аргумент в ответ на заявление австралийского правительства…

Оригинальные планы сканирования CSAM от Apple

Изначально Apple планировала выполнить сканирование на устройстве для CSAM, используя технику цифрового снятия отпечатков пальцев.

Эти отпечатки пальцев позволяют сопоставить определенные изображения без необходимости их просмотра; они разработаны так, чтобы быть достаточно размытыми, чтобы продолжать соответствовать изображениям, которые были обрезаны или отредактированы иным образом, при этом генерируя очень мало ложных срабатываний.

Чтобы внести ясность, предложение Apple было подходом, уважающим конфиденциальность, поскольку сканирование будет выполняться нашими собственными устройствами, и никто никогда не будет просматривать ни одну из наших фотографий, если не будет отмечено несколько совпадений.

Проблема репрессивного правительства

Проблема, как заметили многие из нас, заключалась в возможности злоупотреблений со стороны репрессивных правительств.

Цифровой отпечаток можно создать для любого типа материала, а не только для CSAM. Ничто не может помешать авторитарному правительству добавить в базу данных изображения плакатов политической кампании или чего-то подобного.

Инструмент, предназначенный для борьбы с серьезными преступниками, можно легко адаптировать для выявления тех, кто выступает против правительства или одной или нескольких его политик. Apple, которая получит базу данных отпечатков пальцев от правительств, окажется невольно помогающей репрессиям или, что ещё хуже, политическим активистам.

Apple заявила, что никогда бы не допустила этого, но обещание было основано на том, что у Apple была юридическая свобода отказаться, чего на самом деле не было. В Китае, например, Apple по закону обязана удалить VPN, новостные и другие приложения, а также хранить данные iCloud китайских граждан на сервере, принадлежащем компании, контролируемой правительством.

У Apple не было реалистичного способа пообещать, что она не будет соблюдать будущие требования по обработке предоставленных правительством баз данных «изображений CSAM», которые также включают совпадения с материалами, используемыми критиками и протестующими. Как компания часто заявляла, защищая свои действия в таких странах, как Китай, Apple соблюдает законы каждой из стран, в которых она осуществляет свою деятельность.

Трехэтапный разворот Apple

Apple первоначально отвергла этот аргумент, но заявила, что в ответ на широко распространенную обеспокоенность по этому поводу решила все равно отказаться от своих планов.

Впоследствии компания изменила свою позицию и признала существование проблемы.

Эрик Нойеншвандер, директор Apple по конфиденциальности пользователей и безопасности детей, написал: «Это будет […] создать потенциальную возможность возникновения непредвиденных последствий. Например, сканирование одного типа контента открывает возможности для массового наблюдения и может вызвать желание искать другие системы зашифрованных сообщений по типам контента».

Мы подошли к третьему этапу: Apple сама использует аргумент, который изначально отвергла.

Apple использует аргументы против правительства Австралии

Правительство Австралии предлагает заставить технологические компании сканировать CSAM, и The Guardian сообщает, что Apple теперь использует аргумент «скользкой дорожки», чтобы противостоять этому плану.

Apple предупредила, что предложение Австралии заставить технологические компании сканировать облачные сервисы и службы обмена сообщениями на наличие материалов, связанных с жестоким обращением с детьми, рискует «подрывать фундаментальную защиту конфиденциальности и безопасности» и может привести к массовой слежке с глобальными последствиями. […]

«Сканирование определенного контента открывает возможности для массового наблюдения за системами связи и хранения, которые содержат данные, относящиеся к самым личным делам многих австралийцев», — заявили в Apple.

«Такие возможности, как показывает история, неизбежно будут распространяться на другие типы контента (например, изображения, видео, текст или аудио) и категории контента».

Apple заявила, что такие инструменты наблюдения можно перенастроить для поиска другого контента, например, о политической, религиозной, медицинской, сексуальной или репродуктивной деятельности человека.

Правительство заявляет, что оно выслушало «много хороших отзывов» от Apple и других компаний и «включит все, что сможет» в пересмотренную версию плана.

Фото FlyD на Unsplash