Skip to main content

Месть порно и сексторция |  Испуганная женщина в темноте

Facebook работает над тем, чтобы предотвратить публикацию так называемого «порно из мести» — то есть несогласованного обмена откровенными фотографиями бывших партнеров и других лиц — и попыток сексуального вымогательства, особенно направленных против подростков.

Его первый инструмент, еще в 2017 году, был настолько страшным, что немногие хотели его использовать: вам нужно было загружать обнаженные тела в Facebook, чтобы они были помечены для блокировки! Но новый инструмент, изначально предназначенный для подростков, позволит им создавать цифровые отпечатки пальцев прямо на собственном устройстве…

Месть порно и сексторция

Порноместь — лучше называемое порно без согласия — становится все более серьезной проблемой. Там, где когда-то жестокий бывший мог лично показать фотографию нескольким друзьям, теперь обидчик может легко загрузить фотографии в социальные сети, что позволит потенциально сотням людей увидеть их.

Подростки также все чаще становятся жертвами «сексуального вымогательства», когда взрослый обманом заставляет их показать себя на веб-камеру, записывает кадры, а затем использует угрозу разоблачения либо шантажировать жертв в других действиях, либо требовать деньги.

Самцы-подростки чаще всего становятся жертвами «медовых ловушек». Привлекательная женщина-модель из приложения для знакомств, обычно изображающая из себя ровесницу, уговаривает жертв совершать действия перед веб-камерой, которую затем можно использовать для вымогательства.

Предыдущие подходы слишком страшны или ненадежны

Первый подход Facebook к этой проблеме заключался в том, чтобы позволить людям загружать свои собственные обнаженные тела в сервис, который затем создавал бы хешированный цифровой отпечаток пальца. Затем этот отпечаток будет использоваться, чтобы заблокировать других от попыток загрузить ту же фотографию.

Неудивительно, что немногие люди были готовы рискнуть и загрузить компрометирующие фотографии на Facebook, даже если для этого требовалось отправить изображение только самому себе.

Вторая версия использовала ИИ, чтобы попытаться идентифицировать проблемные изображения.

CNN сообщает, что Мета, владелец Facebook и Instagram, теперь сотрудничает с Национальным центром пропавших без вести и эксплуатируемых детей (NCMEC) в гораздо лучшем подходе.

Take It Down, который управляется Национальным центром пропавших без вести и эксплуатируемых детей, впервые позволит несовершеннолетним анонимно прикреплять хэш — или цифровой отпечаток пальца — к интимным изображениям или видео непосредственно со своих собственных устройств, без необходимости загрузить их на новую платформу.

Чтобы создать хэш явного изображения, подросток может посетить веб-сайт TakeItDown.NCMEC.org, чтобы установить программное обеспечение на свое устройство. Затем анонимный номер, а не изображение, будет храниться в базе данных, связанной с Meta, так что, если фотография когда-либо будет опубликована в Facebook или Instagram, она будет сопоставлена ​​с оригиналом, проверена и, возможно, удалена.

Аналогичный подход к заброшенному Apple сканированию CSAM

Если это звучит знакомо, то это потому, что это очень похоже на то, что Apple планировала использовать для сканирования известных материалов о сексуальном насилии над детьми (CSAM).

В этом случае NCMEC предоставил бы Apple цифровые хэши известных, существующих оскорбительных материалов; Apple будет создавать цифровые хэши фотографий на пользовательских iPhone; и тогда ваш iPhone запустит сканирование, сравнивая два набора отпечатков пальцев. Если будет найдено несколько совпадений, соответствующие фотографии будут загружены для ручной проверки.

Тем не менее, были высказаны четыре опасения, в том числе способность авторитарных правительств заставить Apple проверять хеши протестных плакатов и тому подобное. Apple смогла развеять некоторые опасения, но не все, и впоследствии компания подтвердила, что отказалась от плана.

Система, разработанная Meta и NCMEC, не должна вызывать подобных опасений, поскольку владельцы iPhone свободно используют этот инструмент.

Фото: Мелани Вассер/Unsplash