Купи iPhone и получи слежку и доносы от Apple в комплекте бесплатно

Привет.

В Apple уже несколько лет, как оседлали конька безопасности пользовательских данных, продвигают идеи о том, что продукты компании защищают людей. Ежегодно идут огромные рекламные кампании, в которых утверждается, что конфиденциальность — это продукты от Apple. И это правильный посыл, который находит отклик в сердцах людей, но ведь он должен подтверждаться на практике, не быть голословным. Не прошло и месяца с момента скандала со взломом iPhone политиков, бизнесменов и других важных персон, когда израильская NSO Group продавала всем желающим инструмент, который гарантированно давал доступ к “конфиденциальным” iPhone, делал их прозрачными для атакующих.

Теперь другая напасть, газета Financial Times раскопала историю о том, что Apple для рынка США внедряет новые функции, когда контент на устройствах будет автоматически сканироваться на предмет детской порнографии. История моментально вышла на первые полосы изданий во всем мире, меня задергали просьбой прокомментировать, что это означает для рынка и насколько люди готовы покупать такие устройства, которые будут за ними следить без их ведома. Интересно, что первоначальное сообщение Financial Times не изобиловало большим числом подробностей, в Apple попытались затем официально объясниться, но большинство услышало только одну часть сообщения — компания подтвердила, что будет это делать. Что “это”, никто не стал раскапывать, хотя тут зарыто самое интересное в данной истории.

Наверное, нужно начать с предыстории вопроса, которая крайне любопытна. В Америке на системы облачного хранения данных накладываются жесткие ограничения на распространение запрещенных материалов, например, детской порнографии. Больше пяти лет назад все без исключения облачные сервисы внедрили систему проверки пользовательских фото, чтобы исключить ситуации, когда на них что-то запрещенное. Используются алгоритмы, которые сравнивают фотографии с примерами, находящимися в базе, плюс идет проверка на соответствие запрещенным фотографиям, что добавлены в различные базы данных, например, правозащитных организаций или полиции. Наиболее известен софт PhotoDNA от Microsoft, он сравнивает фотографии по хеш-суммам и тут же сообщает в правоохранительные органы, если находит что-то предосудительное. Софт настраивается очень гибко, но всегда, чтобы исключить вероятность ошибки, решение принимают люди. Помимо сравнения “отпечатков” фото алгоритм PhotoDNA научился искать по типу фотографий, то есть обнаженные детские тела и тому подобное. Важно понимать, что в нашем мире пока еще роботы не принимают окончательного решения о том, что и как делать. Окончательное решение всегда принимается людьми, и в облачных сервисах все обстоит ровно так же. Ваши видео и фотографии постоянно сканируются на предмет поиска чего-то этакого. Откройте Google Photo, посмотрите, как сервис умеет искать разные предметы на фотографиях.

Поразительно? Не то слово! И это очень удобно. Когда мне нужно найти среди десятков тысяч своих фотографий что-то определенное и я не помню год, месяц, то всегда пользуюсь таким поиском. Но помимо этого система сама ищет запрещенный контент, и дальше люди принимают решение, что с этим делать. Удалить и предупредить пользователя о нарушении правил либо, не предупреждая, сразу сообщить в правоохранительные органы той страны, где он находится.

Если говорить про Америку или Европу, не должно быть никаких заблуждений, все провайдеры облачных сервисов используют такой софт на своих серверах. В России, например, «Яндекс.Диск» проводит сканирование файлов не для всех пользователей, а для тех, кто покупает услуги из-за рубежа. Считается, что жители России по умолчанию отличаются высокой нравственностью и особой чистотой. С другой стороны, говорить о том, что «Яндекс.Диск» можно использовать для массового распространения чего-либо, нельзя, поэтому проблема изначально не стоит остро.

Конфиденциальность становится краеугольным камнем развития современных средств связи, большие IT-корпорации придумали, что все коммуникации нужно шифровать, и это правильно! Например, когда вы смотрите в браузере страничку на нашем сайте, то ваше соединение зашифровано, снаружи никто не может понять, что именно вы смотрите, какие данные запрашиваете или передаете. Об этом в лучшем случае можно только догадываться, если ключи шифрования недоступны третьим лицам. Также используется сквозное шифрование при общении в мессенджерах, когда вы видите свои сообщения, файлы, их может открыть ваш адресат, но никто посередине, включая вашего провайдера связи (end-to-end шифрование). И это проблема для тех, кто хочет за вами следить, ведь вы получаете дополнительную защиту, которую так усиленно рекламирует та же Apple.

Слежка за пользователями врастает в ДНК больших IT-корпораций, так как дает понимание потребителя, того, что ему можно продать, и делает нас с вами цифровым продуктом, который также можно успешно продавать на рынке. Человек стал продуктом, и, значит, вам нужно знать о нем как можно больше. В Apple стараются создать впечатление, что они против такой слежки, но на самом деле расчищают место для себя, чтобы быть главным игроком в этой сфере.

То, что делают в Apple, можно смело назвать двуличным. С одной стороны, ограничивают возможности собирать данные для сторонних компаний, с другой стороны, делают эти данные прозрачными для себя. И для этого создаются различные инструменты, каждый из которых дополняет общую систему. Причем прикрывается это все благими намерениями, но ими, как мы помним, вымощена дорога в ад.

Давайте задам вам вопрос, который, на мой взгляд, имеет однозначный ответ — нужно ли бороться с детской порнографией и педофилией? Сложно ответить на него как-то двояко, нужно бороться и с первым, и со вторым, защищать детей. В мире сотни организаций, которые посвятили себя такой борьбе, но конца и края ей не видно. В Apple создали для своих устройств программу “Расширенная защита для детей” (Expanded protection for children). В рамках этой программы компания планирует перенести сканирование фотографий из облака на устройства, то есть сделать их открытой книгой для себя (в определенном смысле, не читайте это буквально). Тут важно понимать, что за этим также стоят экономические причины, в Apple не хотят тратить процессорное время и электричество на соблюдение правил, не хотят загружать свои серверы дополнительной нагрузкой. И, как обычно, перекладывают свои расходы на пользователей. Удобно, ведь копеечная экономия в масштабах Apple выливается в десятки миллионов долларов ежегодно.

На вашем смартфоне или планшете будут сканироваться все фотографии, которые вы сделали или получили, то есть все, что попало в память. Раньше шло сканирование только того, что отправляется в iCloud, теперь в силу разных ухищрений это любые графические файлы. Тут в Apple поступили очень просто, посчитав, что многие отключают iCloud, а значит, нужно обойти это ограничение. Невозможно обыграть казино, которое всегда устанавливает свои правила, тут ровно та же история.

Схема проверки контента от Apple выглядит вот так, в конце фотографии всегда проверяют люди (для них лица людей будут зачеркнуты).

Вторая фишка — это контроль изображений в iMessage, первоначально она будет доступна только в США и пользователям, которые не достигли 18 лет, входят в семейный аккаунт. Родители могут установить контроль пересылаемых и получаемых сообщений, в этом случае ребенок увидит сообщение, что родители будут извещены о том, что он отправляет запрещенное фото, и он сможет отменить это действие. Либо родителям об этом сообщат. Понятно, что внедрение функции идет на iMessage, но не вызывает сомнений, что ее распространят на всю систему и все мессенджеры, электронную почту и так далее. Никаких лазеек для отправки и получения таких файлов не оставят.

Теперь вы можете открыть в поиске статьи об этой истории, почитать описание тотального контроля и понять, что из мухи раздули слона. И по факту это именно так, ничего страшного сегодня не происходит, меры Apple для защиты детей выглядят адекватно.

Но проблема в том, что сам подход неверен, эти благие намерения открывают огромную дыру в архитектуре самой платформы. Фактически мы говорим о том, что Apple встраивает черный ход, с помощью которого можно на пользовательском устройстве искать что угодно. Сейчас это детская порнография, а завтра могут быть снимки протестов в Париже, которые вдруг попадут под запрет. Наличие такой системы приведет к появлению локальных законов (например, в Китае), которые обяжут ее использовать и предложат конкретные варианты реализации. Это тот самый джинн, которого, единожды выпустив, нельзя затолкать в бутылку. Более того, это идеальная система поиска людей на фотографиях, когда правительства начнут использовать ее совсем в других целях. И опять тут будет проявляться двуличие, когда нас станут убеждать, что в Apple ничего такого просто не планируют. Когда компанию обяжут вести себя так, она просто переложит ответственность на правительства и чиновников, разведет руками.

Пожалуй, если подбирать ближайшую аналогию, то это будет покупка жилья, в котором вы соглашаетесь с наличием камер везде, от гостиной до спальни и туалета. Вам обещают, что за вами не будут смотреть живые люди, они вмешаются только в момент, когда вы сделаете что-то неправильное, и система об этом сообщит. Такая система тотального контроля ничего хорошего не сулит, но сейчас в Apple строят именно такое решение.

Мне это совсем не нравится, потому что фактически Apple отрицает право на приватность пользователя своих устройств и сервисов. Покупая то или иное устройство, мы платим полную стоимость за него, а значит, оно принадлежит нам. Тем более, когда вы покупаете самый дорогой смартфон на планете, вы ожидаете, что он ваш и ничей больше. Продавай Apple свои смартфоны за копейки по подписке, и тогда они могли бы делать все что угодно и предлагать такую встроенную слежку, но они продают их втридорога. А главное, пользователь просто не имеет выбора, кроме того, что выбрать другого производителя.

Одобрить встраивание систем слежки за пользователями в их личные продукты невозможно, но в Apple активно развивают это направление. Для компании это простой вариант лучше узнать своего потребителя, контролировать его цифровое поведение, заставить тратить деньги. И, прикрываясь благими целями, компания решает свои сугубо экономические вопросы, такие как, например, экономия на электричестве для серверов.

Для меня любой продукт, осуществляющий слежку за мной, которая не может быть отключена, это потенциальный источник опасности. Очень быстро появятся схемы, как кого-то сделать “педофилом” и навлечь на человека множество проблем, хотя он не будет таковым и не будет понимать, почему к нему пришли правоохранительные органы. Вся эта история не продумана и изобилует слабыми местами. Но главное, что, сделав доступной эту маленькую дверцу, в Apple открыли ящик Пандоры, дальше будет больше “полезных” улучшений, а мы с вами станем прозрачны в цифровом мире, никакой защиты у нас не будет. Вам такой мир нравится? Ответьте на вопрос, купите вы такое устройство или нет? Думаю, что большинство ответят ровно так же однозначно, как и в случае борьбы с детской порнографией.

В заключение хочу отметить, что невозможно исходить из презумпции виновности людей, когда нужно постоянно досматривать их личные вещи, в том числе цифровые, например, фотографии. Это просто в корне неверный подход, и то, что в Apple на это решились, хорошо показывает отсутствие у них каких-либо реальных ориентиров в этой жизни — все решают деньги и власть.