Apple «отравила колодец» для клиентского сканирования CSAM, говорит бывший начальник службы безопасности Facebook

Алекс Стамос, бывший руководитель службы безопасности Facebook, говорит, что подход Apple к сканированию CSAM и эксплуатации iMessage, возможно, принес больше вреда, чем пользы сообществу кибербезопасности.

После выпуска iOS 15 и других осенних операционных систем Apple представит набор функций, предназначенных для предотвращения эксплуатации детей на своих платформах. Эти реализации вызвали жаркие онлайн-дискуссии о конфиденциальности пользователей и будущем использования Apple в шифровании.

Алекс Стамос в настоящее время является профессором Стэнфордского университета, но ранее занимал должность начальника службы безопасности в Facebook. Он столкнулся с бесчисленным количеством пострадавших семей в результате жестокого обращения и сексуальной эксплуатации во время своей работы в Facebook.

Он хочет подчеркнуть важность таких технологий, как Apple, для борьбы с этими проблемами. «Многие люди, занимающиеся вопросами безопасности / конфиденциальности, вербально закатывают глаза, называя безопасность детей причиной этих изменений», — сказал Стамос в своем твите. «Не делай этого».

Тема в Твиттере, посвященная его взглядам на решения Apple, обширна, но дает некоторое представление о вопросах, поднятых как Apple, так и экспертами.

На мой взгляд, здесь нет простых ответов. Я постоянно разрываюсь между желанием, чтобы все имели доступ к криптографической конфиденциальности, и реальностью масштабов и глубины вреда, нанесенного современными коммуникационными технологиями.

Нюансы мнений по этому поводу допустимы.

— Алекс Стамос (@alexstamos) 7 августа 2021 г.

Нюансы дискуссии были упущены как многими экспертами, так и неравнодушными интернет-гражданами. Стамос говорит, что EFF и NCMEC отреагировали, оставив мало места для разговора, использовав объявления Apple как ступеньку для защиты своих акций «до крайности».

Информация со стороны Apple тоже не помогла разговору, говорит Стамос. Например, просочившаяся записка из NCMEC, в которой обеспокоенные эксперты называются «кричащими голосами меньшинства», рассматривается как вредная и несправедливая.

Стэнфорд проводит серию конференций, посвященных продуктам для обеспечения конфиденциальности и сквозного шифрования. По словам Стамоса, Apple была приглашена, но никогда не участвовала.

Вместо этого Apple своим заявлением «просто ворвалась в дебаты о балансе» и «загнала всех в самые дальние уголки» без каких-либо консультаций с общественностью, сказал Стамос. Внедрение сканирования локальных фотографий без согласования в сочетании с машинным обучением на стороне клиента могло «отравить колодец против любого использования классификаторов на стороне клиента».

Сама реализация технологии озадачила Стамоса. Он ссылается на то, что сканирование CSAM на устройстве необязательно, если оно не готовится к сквозному шифрованию резервных копий iCloud. В противном случае Apple могла бы легко выполнить сканирование на стороне сервера.

Система iMessage также не предлагает никаких механизмов отчетности, связанных с пользователями. Таким образом, вместо того, чтобы предупреждать Apple о пользователях, злоупотребляющих iMessage с целью сексторта или отправки сексуального контента несовершеннолетним, ребенок остается за решением — одно, по словам Стамоса, они не могут принять.

В результате их возможности по предотвращению злоупотреблений ограничены.

Что я бы предпочел увидеть:
1) Apple создает надежную отчетность в iMessage
2) Медленно разверните клиентский ML, чтобы побудить пользователя сообщить о чем-то оскорбительном.
3) Нарисуйте команду по безопасности детей, чтобы расследовать худшие сообщения

— Алекс Стамос (@alexstamos) 7 августа 2021 г.

В конце обсуждения в Твиттере Стамос упомянул, что Apple может внедрить эти изменения из-за нормативно-правовой базы. Например, закон Великобритании о безопасности в Интернете и Закон ЕС о цифровых услугах могли повлиять на решения Apple в этом вопросе.

Алекс Стамос недоволен разговором об объявлении Apple и надеется, что компания будет более открыта для участия в семинарах в будущем.

Сама технология будет сначала внедрена в США, а затем развернута для каждой страны. Apple заявляет, что не позволит правительствам или другим организациям принуждать ее к изменению технологии для сканирования других объектов, таких как терроризм.