Apple объявила, что в очередной версии iOS (с 15-й) будет автоматически проверять отправленные детьми сообщения, а также сканировать фото пользователей в iCloud с целью поиска детской порнографии и предотвращения распространения таких файлов. На Западе инициативу встретили массовыми протестами. Таблоиды упрекают корпорацию в желании влезть в телефоны и личные фотографии пользователей под благовидным предлогом.
Сергей Кузьменко, старший специалист Центра цифровой экспертизы Роскачества по тестированию цифровых продуктов:
Проблема сексуальной эксплуатации детей, которую пытается решить Apple, очень тяжела и остра, и для США, и для остального мира. К тому же реализация технологии анализа снимков – по крайней мере в том виде, в каком ее сейчас описывает компания, предполагает максимальную приватность и безопасность для владельцев «яблочных» устройств.
Насколько можно понять, работать это будет таким образом:
1) Компания будет на этапе отправки сообщений проверять, не посылает ли кому-то ребенок откровенный снимок, после чего выведет несколько предупреждений и уведомит родителей. Защита детей в iMessage будет работать только на семейных аккаунтах с детьми 12 или младше, и ее нужно будет активировать вручную. Властям информация передаваться не будет.
2) Поисковые сервисы Siri и Search снабдят списками кодовых слов и запросов, связанных с детской порнографией, после чего пользователи, которые выполняют такие запросы, получат плашку-предупреждение о вреде таких интересов и ссылки на сайты партнеров для получения помощи. Будет ли информация о таких запросах передаваться властям, пока неясно.
3) Самая скандальная часть: при загрузке фото в iCloud (если функция активирована, это происходит автоматически) нейросеть компании будет сканировать снимки перед загрузкой и сличать их с существующей базой детского порно. При этом фотографии будут хэшированы (то есть преобразованы в последовательность символов, которую не сможет расшифровать посторонний) и алгоритм сравнит их с базой, состоящей также из аналогичных цепочек символов. Процесс происходит автоматически, и только в случае совпадения с известными образцами подключится человеческий модератор.
4) В случае, если у пользователя обнаруживаются известные изображения во множественном числе или инцидент с загрузкой таких фото неоднократен, Apple оставляет за собой право передать его данные в компетентные органы. В компании особо подчеркивают, что если пользователь отключил выгрузку, то система не будет работать, и функция не проверяет частную библиотеку фотографий на устройстве.
Разумеется, остаются вопросы, насколько компания будет следовать заявленным правилам конфиденциальности, насколько технология распознавания реально защищена от сбоев, и не будет ли она в будущем использоваться для каких-то других целей. В текущем виде, однако, в системе потенциального распознавания педофильских аккаунтов, видны одни плюсы.
Следует также отметить, что функция запускается только в США, в остальных странах она будет внедряться постепенно, с учетом местной законодательной базы.