Apple объявила о планах просканировать iPhone в США на предмет изображений и сообщений сексуального содержания, касающихся детей, сообщает KTLA.
Инструмент neuralMatch, предназначенный для обнаружения изображений сексуального насилия над детьми, будет сканировать изображения перед их загрузкой в iCloud. Если он найдет совпадение с базой таких изображений, этот контент просмотрит сотрудник. В случае подтверждения учетная запись пользователя будет отключена, и об этом сообщат в Национальный центр по делам пропавших без вести и эксплуатируемых детей.
Отдельно Apple планирует сканировать зашифрованные сообщения пользователей на предмет сексуального содержания в качестве меры безопасности для детей, что встревожило защитников конфиденциальности.
Система обнаружения будет отмечать только те изображения, которые уже есть в базе данных центра детской порнографии. Родителям, делающим невинные фотографии ребенка в ванной, судя по всему, не о чем беспокоиться. Но исследователи говорят, что инструмент сопоставления, который «видит» не сами изображения, а только математические «отпечатки», которые их представляют, можно использовать для более сомнительных целей.
Мэтью Грин, ведущий исследователь криптографии из Университета Джона Хопкинса, предупредил, что систему можно использовать против невинных людей, отправляя им, казалось бы, безобидные изображения, предназначенные для поиска совпадений с детской порнографией. Это может обмануть алгоритм Apple и правоохранительные органы. Другие нарушения, по мнению противников такой меры, могут включать слежку со стороны правительства за диссидентами или протестующими.
Apple была одной из первых крупных компаний, внедривших «сквозное» шифрование, при котором сообщения могут прочитать только их отправители и получатели. Однако правоохранительные органы долгое время требовали от компании доступа к этой информации для расследования таких преступлений, как терроризм или сексуальная эксплуатация детей.
В Apple заявили, что последние изменения появятся в этом году как часть обновлений программного обеспечения для iPhone, Mac и Apple Watch. Но в своей резкой критике вашингтонский некоммерческий Центр демократии и технологий призвал Apple отказаться от изменений, которые, по его словам, фактически разрушают гарантии компании на «сквозное шифрование».
Организация также поставила под сомнение технологию Apple, позволяющую отличать опасный контент от чего-то столь простого, как искусство или мем. В ответе компании говорится, что это тщательно продуманные инновации, которые не нарушают конфиденциальность пользователей, а надежно защищают ее. Также в Apple заявили, что их программное обеспечение «вмешается», когда пользователи попытаются найти темы, связанные с сексуальным насилием над детьми.