В смартфонах компании Apple в скором будущем появится функция сканирования фотографий на предмет наличия среди них незаконных снимков, пишет профильный портал 9to5Mac. Эту информацию подтверждает в своем Twitter и эксперт по информационной безопасности (ИБ) и по совместительству доцент Института ИБ Джона Хопкинса Мэтью Грин (Matthew Green).
Apple разрабатывает систему сканирования снимков, которая будет искать в iCloud фотографии с любой эксплуатацией несовершеннолетних, включая насилие над детьми или детскую порнографию. Спрашивать у владельцев гаджетов разрешение на подобную слежку компания не собирается.
Особенности технологии
Apple опубликовала на своем сайте информацию о принципе работы нового сканера. Она утверждает, что поиск «запрещенки» в фотографиях пользователей будет основан на сопоставлении хэш-сумм изображений с базами данных известных изображений сексуального насилия над детьми. Доступ к этим базам Apple предоставил целый ряд профильных организаций, включая Национальный центр по делам пропавших без вести и эксплуатируемых детей США (NCMEC).
Система Apple будет иметь некое пороговое значение «опасных» снимков, после превышения которого компания получит информацию об этом. Она уверяет, что система работает безупречно, заявляя, что вероятность ошибочной интерпретации снимка составляет один случай на триллион.
После превышения этого неназванного порогового значения специалисты Apple будут вручную проверять каждый отчет по каждой фотографии. Если на снимках действительно будет обнаружена «запрещенка», они заблокируют профиль пользователя и передадут все полученные данные в NCMEC.
У пользователя будет возможность оспорить решение о блокировке, если, по его мнению, она была ошибочной. Как будет организован процесс оспаривания, остается неизвестным.
О снимках смогут узнать все
Пока нет данных о том, как именно новые алгоритмы Apple будут определять возраст людей на фотографиях. Например, нет представления о том, как Apple сможет отличить фотографии 18-летней девушки, считающейся взрослой и совершеннолетней и решившей запечатлеть себя в неглиже вместе со своим бойфрендом, выглядящим старше своего возраста, от 17-летней.
По данным 9to5Mac, система проверки фотографий будет работать локально, то есть непосредственно на устройстве пользователя, без предварительной загрузки файлов на удаленный сервер. Однако абсолютно снимок, который покажется ей подозрительным, будет незамедлительно отправлен на проверку третьим лицам.
На основании этого можно предположить, что упомянутая выше 18-летняя девушка, решившая запечатлеть себя в нижнем белье (или без него) на камеру своего iPhone, рискует без своего желания «поделиться» таким селфи с неизвестным ей человеком. Также есть риск, что этот неизвестный человек организует (умышленно или случайно) появление таких кадров в свободном доступе в интернете.
Риск нарушения приватности огромен
После появления информации о новых попытках Apple влезть в частную жизнь владельцев своих гаджетов эксперты по кибербезопасности забили тревогу. В числе первых высказался и упомянутый Мэтью Грин.
«Такой инструмент может оказаться благом для поиска детской порнографии в мобильниках людей. Но вообразите, во что он может превратиться в руках авторитарного правительства?», – написал Грин в своем Twitter, назвав затею Apple плохой.
«Это абсолютно отвратительная идея, поскольку она приведет к децентрализованной массовой слежке за нашими телефонами и ноутбуками», – заявил изданию Financial Times профессор техники обеспечения безопасности в Кембриджском университете Росс Андерсон (Ross Anderson). С ним полностью согласен и аналитик в области информационной безопасности Алек Маффетт (Alec Muffett). «Apple отступает от приватности, чтобы сделать возможным “1984” год», – сказал он, имея в виду известнейшее произведение Дж. Оруэлла «1984» в жанре антиутопии. Маффет назвал решение Apple «тектоническим сдвигом» и «огромным и регрессивным шагом к личной конфиденциальности». К слову, Маффет ранее работал в компании Facebook, известной регулярными утечками данных десятков миллионов пользователей.
Слежка за сообщениями
Несмотря на все риски приватности, озвученные экспертами, Apple пока не собирается отказываться от задуманного. Более того, она не станет ограничиваться слежкой за одним лишь фотографиями.
Apple также возьмет под свой контроль и переписку пользователя. Новые алгоритмы будут настроены на поиск откровенных снимков, отправленных и полученных через приложение «Сообщения».
Если на телефон ребенка придет сообщение с ню-фотографией, новая система Apple без промедлений «смажет» его, чтобы ничего нельзя было разглядеть. Попутно компания уведомит родителей ребенка о поступлении на его мобильник такого «контента».
Как избежать контроля
Систему слежки Apple внедрит в iOS 15, пишет Financial Times. Пока неизвестно, смогут ли пользователи самостоятельно отключить ее.
На момент публикации материала единственным способом оставить любопытство Apple неудовлетворенным являлся полный отказ от хранения снимков в памяти своих гаджетов и в iCloud. Также можно отказаться от использования приложения «Сообщения» и перейти в мессенджеры сторонних разработчиков.
Apple разрабатывает систему сканирования снимков, которая будет искать в iCloud фотографии с любой эксплуатацией несовершеннолетних, включая насилие над детьми или детскую порнографию. Спрашивать у владельцев гаджетов разрешение на подобную слежку компания не собирается.
Особенности технологии
Apple опубликовала на своем сайте информацию о принципе работы нового сканера. Она утверждает, что поиск «запрещенки» в фотографиях пользователей будет основан на сопоставлении хэш-сумм изображений с базами данных известных изображений сексуального насилия над детьми. Доступ к этим базам Apple предоставил целый ряд профильных организаций, включая Национальный центр по делам пропавших без вести и эксплуатируемых детей США (NCMEC).
Система Apple будет иметь некое пороговое значение «опасных» снимков, после превышения которого компания получит информацию об этом. Она уверяет, что система работает безупречно, заявляя, что вероятность ошибочной интерпретации снимка составляет один случай на триллион.
После превышения этого неназванного порогового значения специалисты Apple будут вручную проверять каждый отчет по каждой фотографии. Если на снимках действительно будет обнаружена «запрещенка», они заблокируют профиль пользователя и передадут все полученные данные в NCMEC.
У пользователя будет возможность оспорить решение о блокировке, если, по его мнению, она была ошибочной. Как будет организован процесс оспаривания, остается неизвестным.
О снимках смогут узнать все
Пока нет данных о том, как именно новые алгоритмы Apple будут определять возраст людей на фотографиях. Например, нет представления о том, как Apple сможет отличить фотографии 18-летней девушки, считающейся взрослой и совершеннолетней и решившей запечатлеть себя в неглиже вместе со своим бойфрендом, выглядящим старше своего возраста, от 17-летней.
По данным 9to5Mac, система проверки фотографий будет работать локально, то есть непосредственно на устройстве пользователя, без предварительной загрузки файлов на удаленный сервер. Однако абсолютно снимок, который покажется ей подозрительным, будет незамедлительно отправлен на проверку третьим лицам.
На основании этого можно предположить, что упомянутая выше 18-летняя девушка, решившая запечатлеть себя в нижнем белье (или без него) на камеру своего iPhone, рискует без своего желания «поделиться» таким селфи с неизвестным ей человеком. Также есть риск, что этот неизвестный человек организует (умышленно или случайно) появление таких кадров в свободном доступе в интернете.
Риск нарушения приватности огромен
После появления информации о новых попытках Apple влезть в частную жизнь владельцев своих гаджетов эксперты по кибербезопасности забили тревогу. В числе первых высказался и упомянутый Мэтью Грин.
«Такой инструмент может оказаться благом для поиска детской порнографии в мобильниках людей. Но вообразите, во что он может превратиться в руках авторитарного правительства?», – написал Грин в своем Twitter, назвав затею Apple плохой.
«Это абсолютно отвратительная идея, поскольку она приведет к децентрализованной массовой слежке за нашими телефонами и ноутбуками», – заявил изданию Financial Times профессор техники обеспечения безопасности в Кембриджском университете Росс Андерсон (Ross Anderson). С ним полностью согласен и аналитик в области информационной безопасности Алек Маффетт (Alec Muffett). «Apple отступает от приватности, чтобы сделать возможным “1984” год», – сказал он, имея в виду известнейшее произведение Дж. Оруэлла «1984» в жанре антиутопии. Маффет назвал решение Apple «тектоническим сдвигом» и «огромным и регрессивным шагом к личной конфиденциальности». К слову, Маффет ранее работал в компании Facebook, известной регулярными утечками данных десятков миллионов пользователей.
Слежка за сообщениями
Несмотря на все риски приватности, озвученные экспертами, Apple пока не собирается отказываться от задуманного. Более того, она не станет ограничиваться слежкой за одним лишь фотографиями.
Apple также возьмет под свой контроль и переписку пользователя. Новые алгоритмы будут настроены на поиск откровенных снимков, отправленных и полученных через приложение «Сообщения».
Если на телефон ребенка придет сообщение с ню-фотографией, новая система Apple без промедлений «смажет» его, чтобы ничего нельзя было разглядеть. Попутно компания уведомит родителей ребенка о поступлении на его мобильник такого «контента».
Как избежать контроля
Систему слежки Apple внедрит в iOS 15, пишет Financial Times. Пока неизвестно, смогут ли пользователи самостоятельно отключить ее.
На момент публикации материала единственным способом оставить любопытство Apple неудовлетворенным являлся полный отказ от хранения снимков в памяти своих гаджетов и в iCloud. Также можно отказаться от использования приложения «Сообщения» и перейти в мессенджеры сторонних разработчиков.
