Skip to main content

Масштабы и охват китайской слежки за собственными гражданами хорошо задокументированы, но новая статья показывает, что правительство страны в настоящее время пытается использовать этот огромный массив данных для прогнозирования преступлений и протестов до того, как они произойдут.

Решение Верховного суда об абортах также вызывает новые опасения по поводу того, как личные данные могут использоваться для судебного преследования женщин. Мы все больше живем в мире, где решение Apple уделить особое внимание конфиденциальности выглядит все более пророческим, но даже компании из Купертино теперь, возможно, придется сделать больше…

Китайская слежка: история до сих пор

Масштабы китайской слежки за своими гражданами ошеломляют. По оценкам, в мире используется более миллиарда камер наблюдения, и около половины из них находятся в Китае.

В 2016 году новый закон о кибербезопасности потребовал от облачных компаний хранить личные данные граждан Китая внутри страны на серверах, принадлежащих государственным компаниям, которые, по широко распространенному мнению, полностью доступны правительству. Apple была вынуждена подчиниться.

В 2020 году китайским полицейским выдали «умные шлемы», которые могут измерять температуру лба, рекламируя их как средство выявления инфекций COVID. Но позже выяснилось, что эти шлемы обладали гораздо более широкими возможностями.

Сотрудник правоохранительных органов в шлеме может выполнять одно из следующих действий: измерять температуру конкретного человека; измерять температуру людей, проходящих в больших толпах; отсканировать QR-код человека на наличие личных данных; распознавать номерные знаки; замечать людей в темноте; или распознавать людей с помощью распознавания лиц.

В стране используется как оффлайн, так и онлайн-наблюдение для присвоения баллов «социального кредита». Отрицательные баллы могут накапливаться за все, начиная от перехода неположенного пути и заканчивая отсутствием регулярных посещений родителей. Те, у кого плохие оценки, могут быть лишены возможности путешествовать, посещать колледж, получать лучшую работу и подвергаться общественному порицанию.

«Как Китай охраняет будущее»

В статье New York Times рассказывается, как Китай в настоящее время пытается использовать эти данные для предсказания будущего, стремясь обнаружить все, от того, кто выходит из дома, чтобы принять участие в акции протеста, до преступников, собирающихся вместе, чтобы спланировать или совершить ограбление.

Технологии последнего поколения просматривают огромное количество данных, собранных об их повседневной деятельности, чтобы найти закономерности и отклонения, обещая предсказать преступления или протесты до того, как они произойдут. Они нацелены на потенциальных нарушителей спокойствия в глазах китайского правительства — не только на тех, кто имеет криминальное прошлое, но и на уязвимые группы, включая этнические меньшинства, рабочих-мигрантов и людей с психическими заболеваниями в анамнезе. […]

новые китайские технологии, подробно описанные в закупках и других документах, рассмотренных The New York Times, еще больше расширяют границы социального и политического контроля и все глубже интегрируют их в жизнь людей. В своей основе они оправдывают удушающую слежку и нарушают неприкосновенность частной жизни, в то время как в крайних случаях они рискуют автоматизировать системную дискриминацию и политические репрессии. […]

Три человека с судимостью остановились в одном и том же отеле на юго-востоке Китая. Автоматизированная система предназначена для оповещения полиции.

Человек с историей политического протеста покупает билет на поезд до Пекина. Система может пометить активность как подозрительную и попросить полицию провести расследование.

Женщина с психическим заболеванием в провинции Фуцзянь покидает свой дом. Камера, установленная у ее дома, записывает ее движения, чтобы полиция могла ее отследить. […]

Полиция может настроить систему на отправку предупреждения […] когда четыре человека с историей протеста входят в один и тот же парк.

Данные «вооружаются» в США после свержения Роу

Когда в мае просочилась информация о постановлении Верховного суда, борцы за выбор и конфиденциальность предупредили, что данные приложений могут быть использованы для судебного преследования женщин, сделавших аборт.

Например, в штатах, где помощь женщинам, ищущим аборт, считается преступлением, таких как Техас и Оклахома, данные из приложений для отслеживания месячных или беременности женщин могут в конечном итоге быть вызваны в суд в качестве доказательств против человека, который им помог, сказала Даниэль Ситрон, профессор права Университета Вирджинии и автор будущей книги «Борьба за конфиденциальность». «Допустим, у вас начались месячные, прекратились месячные, а затем снова начались месячные за короткое время», — сказал Цитрон. «Его [potential] доказательства вашей собственной преступности или преступности вашего врача».

Теперь, когда решение стало официальным, технологические компании призывают защитить пользовательские данные, но предполагают, что они этого не сделают, потому что использование и продажа личных данных — это большой бизнес.

Мы все знаем, что живем в эпоху слежки, беспрецедентной в истории человечества, но трудно понять, насколько широка и глубока эта сеть слежки. Если бы компании взялись за сокращение сбора данных, это, вероятно, открыло бы глаза широкой публике.

Эти данные также очень ценны для компаний. В прошлом году рынок торговли пользовательскими данными составил 29 миллиардов долларов.

По сути, молчание компаний говорит о том, что они считают процесс сбора и продажи данных настолько непрозрачным, что пользователи не будут поднимать по этому поводу шумиху. И сами данные более ценны для компаний, чем помощь людям в доступе к жизненно важной медицинской помощи.

Он также сообщает пользователям, что они сами по себе, если хотят безопасно сделать аборт без судебного преследования. Это станет монументальной задачей для этих людей.

Apple выглядит все более прозорливой в отношении конфиденциальности

Apple приняла раннее решение сделать конфиденциальность клиентов ключевым приоритетом, пойдя на все, чтобы сделать это.

Любой сбор данных о клиентах Apple требует одобрения комитета из трех «царей конфиденциальности» и высшего руководства, по словам четырех бывших сотрудников, которые работали над различными продуктами, прошедшими проверку конфиденциальности. […] Трио экспертов […] одновременно восхищаются и боятся.

Один бывший сотрудник сказал, что споры о том, можно ли использовать данные клиентов для улучшения обслуживания, обычно занимают не менее месяца, а некоторые вопросы конфиденциальности обсуждаются более года, прежде чем будет принято окончательное решение. Ключевые вопросы конфиденциальности доводятся до самого Тима Кука.

Отказ от компромисса в отношении конфиденциальности убил один из продуктов Apple, говорится в статье, в то время как другие необходимо было существенно переработать, чтобы добиться признания конфиденциальности.

Инженеры Apple говорят, что новые правила привели к уменьшению количества функций приложения и замедлению разработки.

Даже платить такую ​​цену не всегда получалось у компании. По иронии судьбы, именно попытка Apple выполнить сканирование CSAM более ориентированным на конфиденциальность способом, чем другие компании, вызвала столько споров. Siri также критикуют за то, что она глупее других интеллектуальных помощников, отчасти потому, что правила конфиденциальности Apple предоставляют сервису гораздо меньший доступ к личным данным. И, конечно же, был фурор, когда Apple отказалась создавать бэкдор в айфонах по запросу ФБР.

Apple не имеет идеального послужного списка в области конфиденциальности. Когда в 2018 году вступил в силу жесткий европейский закон о конфиденциальности GDPR, компания из Купертино была вынуждена ввести новые меры защиты, чтобы соответствовать требованиям. В 2019 году у компании возникли проблемы с «оценкой Siri». Есть и другие примеры, но нет никаких сомнений в том, что компания пошла дальше любого другого технического гиганта в защите конфиденциальности пользователей.

Китайские методы наблюдения используются в США

Было время, когда средний клиент Apple, не разбирающийся в технологиях, мог рассматривать конфиденциальность как несколько академический вопрос. Приятно иметь, но не то, о чем обычным людям нужно слишком беспокоиться. Сейчас это отношение быстро меняется.

В частности, машинное обучение открывает новые беспрецедентные возможности наблюдения. Там, где когда-то огромный объем данных был как ограничением, так и средством реализации, давая правительствам больше информации, чем они могли бы проанализировать, системы ИИ теперь позволяют просеивать огромные объемы данных способами, которые никогда раньше не были практичными.

Китай может представлять крайность, но другие страны, в том числе США, предпринимают шаги в этом направлении. Институт Брукингса в прошлом году отметил, что Китай не одинок в своих попытках предсказывать преступления до того, как они произойдут.

[Across the US], прогностические полицейские системы в цифровом виде выделяют определенные районы как «горячие точки» для преступности, а некоторые системы составляют списки людей, которые, по их мнению, могут стать преступниками. Эти обозначения подвергают пострадавшие сообщества усиленному присутствию полиции и наблюдению, которое следует за людьми из их домов в школы на работу.

Типичными мишенями являются темнокожие и коричневые подростки, которых также могут тайно добавлять в базы данных банд или школьные чиновники просят их подписать «контракты», запрещающие им заниматься поведением, которое «может быть истолковано как связанное с бандами». Для сообществ, чей жизненный опыт включает отношение полиции и учителей к подозрительным по своей сути, усиленное наблюдение может восприниматься скорее как инструмент социального контроля, чем как средство общественной безопасности.

В основе этих практик лежит то, что полицейские департаменты и технологические компании называют полицейской деятельностью, основанной на данных, полицией, основанной на разведывательных данных, полицией, ориентированной на сообщество, на основе данных или точной полицией. Хотя данные всегда использовались для раскрытия преступлений, эти инструменты идут еще дальше, полагаясь на непростую предпосылку: добыча информации из прошлого может помочь в прогнозировании и предотвращении будущих преступлений.

Как сказал ученый Эндрю Гатри Фергюсон, «технологии больших данных позволяют полиции действовать агрессивнее и активнее». Но эти данные могут быть необъективными, недостоверными или просто ложными. Безоговорочное доверие к данным может привести к чрезмерному дискриминационному ущербу от чрезмерной полицейской деятельности и конвейера из школы в тюрьму.

Apple, возможно, придется пойти еще дальше в отношении конфиденциальности

Верховный суд США, похоже, готов отменить другие важные постановления которые могут коренным образом изменить права граждан. Личные данные, которые когда-то были безобидными, могут стать компрометирующими, как в случае с приложениями для отслеживания месячных.

Apple была в авангарде защиты персональных данных, и ей, возможно, придется пойти еще дальше перед лицом растущих угроз гражданским свободам.

Apple уже требует, чтобы приложения имели метки конфиденциальности, показывающие, какие категории данных собирает приложение. Но по мере роста угроз компании может потребоваться более жесткая защита.

Безопасное хранилище данных, сертифицированное Apple, — это одна из возможностей, которая приходит мне в голову. Приложения, которые собирают конфиденциальные данные, могут подать заявку на проверку Apple хранения их личных данных. Например, это может потребовать, чтобы все данные использовали сквозное шифрование, чтобы даже разработчики не имели к ним доступа.

Любому правоохранительному органу или даже частному лицу, обслуживающему запросы на доступ к персональным данным, разработчики и Apple могут просто сказать, что у них нет никакого способа получить их.

о чем ты думаешь? Примите участие в нашем опросе и поделитесь своим мнением в комментариях. Учитывая деликатный характер темы, убедитесь, что все комментарии уважительны к противоположным точкам зрения, аргументируя свое собственное дело, а не оскорбляя тех, кто с вами не согласен.

Изображение: Мохамед Хассан/PxHere