Skip to main content

Обновление: теперь ожидается, что голосование по законопроекту будет отложено до осени — подробности см. в конце.

Предлагаемый новый закон о CSAM в Великобритании может заставить все компании по обмену сообщениями использовать подход сканирования на стороне клиента, который Apple планировала запустить для обнаружения материалов сексуального насилия над детьми (CSAM) на iPhone.

Была выдвинута поправка к законопроекту о безопасности в Интернете, которая требует от технологических компаний выявлять и удалять CSAM даже в сквозных зашифрованных личных сообщениях…

Законопроект о безопасности в Интернете

Законопроект о безопасности в Интернете (OSB) представляет собой набор мер, направленных на борьбу с «вредным» пользовательским контентом, то есть с любым сервисом, который позволяет пользователям публиковать текстовый контент или загружать медиафайлы. Разумеется, он был продан как нацеленный на террористические материалы и CSAM.

Законопроект вводит новые правила для фирм, которые размещают пользовательский контент, то есть те, которые позволяют пользователям размещать свой собственный контент в Интернете или взаимодействовать друг с другом, а также для поисковых систем, у которых будут особые обязанности, направленные на сведение к минимуму представления вредоносных результатов поиска. пользователям.

Те платформы, которые не смогут защитить людей, должны будут ответить перед регулятором и могут быть оштрафованы на сумму до десяти процентов от их доходов или, в самых серьезных случаях, заблокированы.

Все подпадающие под действие платформы должны будут устранять и удалять незаконные онлайн-материалы, особенно материалы, касающиеся терроризма, сексуальной эксплуатации и жестокого обращения с детьми.

Платформы, к которым, вероятно, будут иметь доступ дети, также будут обязаны защищать молодых людей, пользующихся их услугами, от законных, но вредных материалов, таких как материалы о членовредительстве или расстройствах пищевого поведения. Кроме того, провайдеры, которые публикуют или размещают порнографический контент в своих службах, должны будут предотвращать доступ детей к этому контенту.

Крупнейшие платформы с самым высоким уровнем риска должны будут обращаться к названным категориям законных, но вредных материалов, к которым имеют доступ взрослые, которые могут включать такие вопросы, как оскорбления, домогательства или использование контента, поощряющего членовредительство или расстройства пищевого поведения. Им нужно будет четко указать в своих условиях, что является приемлемым, а что нет на их сайте, и обеспечить соблюдение этого правила.

С тех пор был внесен целый ряд изменений, расширяющих как объем, так и полномочия закона. Одно из самых страшных изменений заключается в том, что правительство может — после принятия закона — изменить определение «вредного» контента.

Предложение закона CSAM

The Guardian сообщает, что была выдвинута новая поправка, которая налагает обязательство обнаруживать CSAM даже в сквозных зашифрованных сообщениях. (Примечание: в Великобритании термин CSAE используется вместо CSAM — содержание, связанное с сексуальным насилием и эксплуатацией детей.)

Службы обмена сообщениями с высоким уровнем шифрования, такие как WhatsApp, могут быть вынуждены внедрить передовые технологии для обнаружения материалов о сексуальном насилии над детьми или столкнуться с угрозой значительных штрафов в соответствии с новыми изменениями в законодательстве Великобритании о цифровой безопасности.

Поправка к законопроекту о безопасности в Интернете потребует от технологических компаний приложить «все усилия» для развертывания новой технологии, которая выявляет и удаляет контент, связанный с сексуальным насилием и эксплуатацией детей (CSAE).

Это происходит в то время, когда приложения Facebook Messenger и Instagram Марка Цукерберга готовятся ввести сквозное шифрование на фоне сильного противодействия со стороны правительства Великобритании, которое назвало эти планы «неприемлемыми».

Прити Патель, давний критик планов Цукерберга, сказала, что изменения в законе уравновешивают необходимость защиты детей и обеспечения конфиденциальности для онлайн-пользователей.

В частности, это изменение не позволит компаниям, занимающимся обменом сообщениями, просто пожать плечами и сказать, что у них нет возможности увидеть содержимое зашифрованных сообщений E2E, и наложит на них обязательство разработать новые способы сделать это.

Единственный* технический способ сделать это — выполнить сканирование на стороне клиента либо перед шифрованием на устройстве отправителя, либо после расшифровки на устройстве получателя. Именно такой подход планировала использовать Apple, когда объявила о планах сканирования фотографий с помощью CSAM. (*Другой предложенный подход — это так называемое «предложение-призрак», но я бы сказал, что это нарушает определение E2E-зашифрованного обмена сообщениями.)

Apple была вынуждена приостановить свои планы после того, как были высказаны опасения по поводу того, что правительства могут злоупотреблять этой технологией. Вы можете прочитать краткое изложение противоречия здесь и потенциальное решение здесь.

Взгляд на предложенный закон CSAM

Нынешнее британское правительство — и, прежде всего, его министр внутренних дел Прити Патель — имеет форму для попытки заблокировать использование сквозного шифрования. Действительно, как отмечает The Guardian, вся проблема взорвалась, когда Meta объявила о планах внедрить шифрование E2E для Facebook Messenger и Instagram (WhatsApp уже использует шифрование E2E).

Учитывая техническую неграмотность правительства, умные деньги были бы на том, что эта поправка будет просто еще одной попыткой сделать обмен зашифрованными сообщениями E2E незаконным, даже не понимая, что сканирование на стороне клиента является еще одним вариантом.

В любом случае, это вернет в центр внимания сканирование CSAM на стороне клиента и окажет новое давление на Apple, чтобы она разъяснила свою позицию. Производитель iPhone до сих пор ничего не сказал, пообещав придумать дальнейшие улучшения конфиденциальности, по-видимому, надеясь, что он сможет просто опустить голову и подождать, пока суета утихнет. Эта поправка, если она будет принята, сделает невозможным сохранение молчания.

Обновление: ожидается, что законопроект будет отложен до осени

Politico сообщает, что голосование по законопроекту, первоначально запланированное на следующую неделю, как ожидается, будет отложено до осени из-за вынужденной отставки премьер-министра Бориса Джонсона.

Ожидается, что прогресс в предложенном Великобританией новом законе о регулировании контента будет отложен до осени на фоне последствий отставки Бориса Джонсона с поста лидера Консервативной партии.

Законопроект о безопасности в Интернете, который министры надеялись провести через Палату общин до того, как депутаты уйдут на летние каникулы 21 июля, как ожидается, будет исключен из парламентского графика на следующей неделе, по данным Департамента цифровых технологий, культуры, СМИ и Спортивный чиновник […]

Если законопроект будет отклонен, это означает, что ему не будет предоставлено парламентское время до того, как Джонсон покинет Даунинг-стрит 6 сентября, на следующий день после возвращения парламента Великобритании.

Мы узнаем наверняка позже сегодня, когда будет официально объявлено расписание парламентских заседаний на следующую неделю.

Предлагаемый новый закон о CSAM в Великобритании может заставить все компании по обмену сообщениями использовать тип сканирования на стороне клиента, который Apple планировала запустить для обнаружения материалов сексуального насилия над детьми (CSAM) на iPhone.

Была выдвинута поправка к законопроекту о безопасности в Интернете, которая требует от технологических компаний выявлять и удалять CSAM даже в сквозных зашифрованных личных сообщениях…

Законопроект о безопасности в Интернете

Законопроект о безопасности в Интернете (OSB) представляет собой набор мер, направленных на борьбу с «вредным» пользовательским контентом, то есть с любой услугой, позволяющей пользователям публиковать текстовый контент или загружать медиафайлы. Разумеется, он был продан как нацеленный на террористические материалы и CSAM.

Законопроект вводит новые правила для фирм, которые размещают пользовательский контент, то есть те, которые позволяют пользователям размещать свой собственный контент в Интернете или взаимодействовать друг с другом, а также для поисковых систем, у которых будут специальные обязанности, направленные на сведение к минимуму представления вредоносных результатов поиска. пользователям.

Те платформы, которые не смогут защитить людей, должны будут ответить перед регулятором и могут быть оштрафованы на сумму до десяти процентов от их доходов или, в самых серьезных случаях, заблокированы.

Все подпадающие под действие платформы должны будут устранять и удалять незаконные онлайн-материалы, особенно материалы, касающиеся терроризма, сексуальной эксплуатации и жестокого обращения с детьми.

Платформы, к которым, вероятно, будут иметь доступ дети, также будут обязаны защищать молодых людей, пользующихся их услугами, от законных, но вредных материалов, таких как материалы о членовредительстве или расстройствах пищевого поведения. Кроме того, провайдеры, которые публикуют или размещают порнографический контент в своих службах, должны будут предотвращать доступ детей к этому контенту.

Крупнейшие платформы с самым высоким уровнем риска должны будут обращаться к названным категориям законных, но вредных материалов, к которым имеют доступ взрослые, которые могут включать такие вопросы, как оскорбления, домогательства или использование контента, поощряющего членовредительство или расстройства пищевого поведения. Им нужно будет четко указать в своих условиях, что является приемлемым, а что нет на их сайте, и обеспечить соблюдение этого правила.

С тех пор был внесен целый ряд изменений, расширяющих как объем, так и полномочия закона. Одно из самых страшных изменений заключается в том, что правительство может — после принятия закона — изменить определение «вредного» контента.

Предложение закона CSAM

The Guardian сообщает, что была выдвинута новая поправка, которая налагает обязательство обнаруживать CSAM даже в сквозных зашифрованных сообщениях. (Примечание: в Великобритании термин CSAE используется вместо CSAM: содержание, связанное с сексуальным насилием и эксплуатацией детей.)

Службы обмена сообщениями с высоким уровнем шифрования, такие как WhatsApp, могут быть вынуждены внедрить передовые технологии для обнаружения материалов о сексуальном насилии над детьми или столкнуться с угрозой значительных штрафов в соответствии с новыми изменениями в законодательстве Великобритании о цифровой безопасности.

Поправка к законопроекту о безопасности в Интернете потребует от технологических компаний приложить «все усилия» для развертывания новой технологии, которая выявляет и удаляет контент, связанный с сексуальным насилием и эксплуатацией детей (CSAE).

Это происходит в то время, когда приложения Facebook Messenger и Instagram Марка Цукерберга готовятся ввести сквозное шифрование на фоне сильного противодействия со стороны правительства Великобритании, которое назвало эти планы «неприемлемыми».

Прити Патель, давний критик планов Цукерберга, сказала, что изменения в законе уравновешивают необходимость защиты детей и обеспечения конфиденциальности для онлайн-пользователей.

В частности, это изменение не позволит компаниям, занимающимся обменом сообщениями, просто пожать плечами и сказать, что у них нет возможности увидеть содержимое зашифрованных сообщений E2E, и наложит на них обязательство разработать новые способы сделать это.

Единственный* технический способ сделать это — выполнить сканирование на стороне клиента либо перед шифрованием на устройстве отправителя, либо после расшифровки на устройстве получателя. Именно такой подход планировала использовать Apple, когда объявила о планах сканирования фотографий с помощью CSAM. (*Другой подход, который был предложен, — это так называемое «предложение-призрак», но я бы сказал, что это нарушает определение зашифрованного обмена сообщениями E2E.)

Apple была вынуждена приостановить свои планы после того, как были высказаны опасения по поводу того, что правительства могут злоупотреблять этой технологией. Вы можете прочитать краткое изложение противоречия здесь и потенциальное решение здесь.

Взгляд на предложенный закон CSAM

Нынешнее британское правительство — и, прежде всего, его министр внутренних дел Прити Патель — имеет форму для попытки заблокировать использование сквозного шифрования. Действительно, как отмечает The Guardian, вся проблема взорвалась, когда Meta объявила о планах внедрить шифрование E2E для Facebook Messenger и Instagram (WhatsApp уже использует шифрование E2E).

Учитывая техническую неграмотность правительства, умные деньги были бы на том, что эта поправка будет просто еще одной попыткой сделать обмен зашифрованными сообщениями E2E незаконным, даже не понимая, что сканирование на стороне клиента является еще одним вариантом.

В любом случае, это вернет в центр внимания сканирование CSAM на стороне клиента и окажет новое давление на Apple, чтобы она разъяснила свою позицию. Производитель iPhone до сих пор ничего не сказал, пообещав придумать дальнейшие улучшения конфиденциальности, по-видимому, надеясь, что он сможет просто опустить голову и подождать, пока суета утихнет. Эта поправка, если она будет принята, сделает невозможным сохранение молчания.