Проблемы Apple с CSAM могут вернуться после того, как разногласия по поводу сканирования iPhone на наличие материалов о сексуальном насилии над детьми привели к тому, что компания приостановила свои планы.
В сегодняшнем отчете говорится, что Европейский союз планирует принять закон, который потребует от технологических гигантов, таких как Apple, обнаруживать, сообщать и удалять CSAM, и что мы увидим проект нового закона уже на этой неделе…
Проблемы Apple с CSAM
Большинство облачных сервисов уже сканируют материалы о сексуальном насилии над детьми. Обо всех обнаруженных экземплярах сообщается в правоохранительные органы.
Apple хотела сделать то же самое, но в то же время хотела выполнить сканирование таким образом, чтобы защитить конфиденциальность пользователей. Поэтому он объявил о планах сканирования на устройстве таким образом, чтобы модератор-человек мог просматривать только подтвержденные совпадения.
Apple загружает хэши базы данных CSAM на ваш iPhone
(очевидно, цифровые подписи изображений CSAM, а не фактические изображения). Процесс на устройстве ищет совпадения с хэшами ваших фотографий. Если найдено менее 30, никаких действий не предпринимается. Если найдено более 30 совпадений, Apple вручную проверяет ваши фотографии с низким разрешением. Если фотографии признаны невиновными, никаких дальнейших действий не предпринимается. Если ручная проверка подтверждает, что они являются CSAM, правоохранительные органы информируются об этом.
Однако эксперты и активисты сразу же указали на потенциальные недостатки в подходе — чего Apple должна была ожидать, но, по всей видимости, не сделала.
Обеспокоенность выразили эксперты по кибербезопасности, правозащитные организации, правительства и собственные сотрудники Apple. Были подняты четыре основные проблемы, которые объясняются здесь:
Случайные ложные срабатывания могут испортить чью-то репутацию.
(Apple решила эту проблему, установив порог в 30+ совпадений.) Для достижения той же цели могут быть созданы преднамеренные ложные срабатывания (также известные как атаки столкновений). Авторитарные правительства могут добавлять политические плакаты и тому подобное в базу данных. Тот же поиск на основе хэша на устройстве может быть позже применен к iMessage.
Затем компания заявила, что ей потребуется некоторое время, чтобы переосмыслить свои планы. Это было в сентябре прошлого года, и восемь месяцев прошло без единого слова от Apple по этому поводу, что заставило некоторых подозревать, что компания намеревалась просто притворяться, что этого никогда не было так долго, как это было возможно. Но это может быть невозможно в течение долгого времени…
Планируемый европейский закон об обнаружении CSAM
Politico сообщает, что Европейский союз планирует объявить о новом законе, требующем от технологических гигантов сканирования на наличие CSAM. Это заставило бы Apple выяснить, как выполнить требования, не разжигая споры.
Ожидается, что на этой неделе Комиссия выпустит законопроект, который может потребовать от цифровых компаний, таких как Meta Platforms, Google и Apple, обнаруживать, удалять и сообщать о незаконных изображениях злоупотреблений в правоохранительные органы под угрозой штрафов.
Согласно утечке предложения, полученной POLITICO во вторник, Комиссия заявила, что добровольные меры, принятые некоторыми платформами, пока «оказались недостаточными» для решения проблемы неправомерного использования онлайн-сервисов в целях сексуального насилия над детьми.
Свод правил появился после того, как горячие линии по защите детей сообщили о рекордном количестве тревожного контента, циркулирующего в сети во время пандемии коронавируса. Европа является горячей точкой для размещения такого контента: в 2021 году 62 процента незаконных изображений в мире находились на европейских серверах данных.
Нам нужно дождаться публикации законопроекта, чтобы увидеть, что именно он требует, но так или иначе Apple придется решать проблему.
Ситуация, скорее всего, запутается, поскольку один из ключевых сторонников нового закона, похоже, выступает против сквозного шифрования. Комиссар внутренних дел Илва Йоханссон сказала:
Злоумышленники прячутся за сквозным шифрованием; его легко использовать, но его почти невозможно взломать, что затрудняет расследование и преследование преступлений правоохранительными органами.
Мы уже много лет указываем на то, что невозможно одновременно защищать конфиденциальность пользователей с помощью сквозного шифрования и одновременно создавать лазейки для правоохранительных органов.
Фото: Кристина @ wocintechchat.com/Unsplash
