К такому мы не готовились: во что технологии превратили фотографию

Примечание редакции Mobile-review.com. Мы подбираем материалы в раздел «Мнение», чтобы показать то, как воспринимают рынок компании в других странах. Мнения в таких материалах зачастую не совпадают со взглядами нашей редакции, но дают понимание рынка, его медийной составляющей.

По материалам The Verge

Взрыв рядом со старым кирпичным зданием. Авария с участием мотоцикла на городском перекрестке. Таракан в коробке с едой на вынос. Создание каждого из этих изображений с помощью инструмента Reimagine в Magic Editor на Pixel 9 заняло менее 10 секунд. Они четкие. Они полноцветные. Они в высоком разрешении. Нет ни подозрительно размытого фона, ни пресловутого шестого пальца. Эти фотографии крайне убедительны, и все они – абсолютный фейк.

Любой, кто купит Pixel 9, последнюю флагманскую модель от Google, получит доступ к самому простому и быстрому пользовательскому интерфейсу для создания подделок высочайшего уровня, встроенному прямо в его мобильное устройство. Почти наверняка это станет нормой: аналогичные функции уже доступны на конкурирующих устройствах и появятся на других в ближайшем будущем. Обычно, когда смартфон «просто работает», это хорошо. Но в этом-то в первую очередь и заключается проблема.

Фотография использовалась в целях обмана с тех пор, как появилась (вспомните викторианские фотографии призраков, известный снимок Лох-Несского чудовища или сталинскую практику удаления с фотографий товарищей, которых устраняли в реальной жизни). Но было бы неправильно утверждать, что фотографии никогда не считались надежным доказательством. Каждый, кто читает эту статью в 2024 году, вырос в эпоху, когда фотография по умолчанию была отражением истины. Постановочная сцена с киноэффектами, цифровая фотоманипуляция или дипфейки недавнего времени — это был потенциальный обман, который следует иметь в виду, но он оставался чем-то из ряда вон. Чтобы подорвать интуитивное доверие к фотографии, требовались специальные знания и специальные инструменты. Фейк был исключением, а не правилом.

Если сказать «Площадь Тяньаньмэнь», у всех, скорее всего, перед глазами предстанет одна и та же фотография. Это касается и Абу-Грейба или напалмовой девочки. Эти образы определили войны и революции, в них — истина в такой степени, в какой ее невозможно полностью выразить. Не было причин объяснять, почему эти фотографии ценны, почему они играют такую важную роль, почему мы придаем им такое большое значение. Наше доверие к фотографии было настолько глубоким, что, когда мы обсуждали правдивость изображений, важнее было подчеркнуть тот факт, что иногда фотографии могут быть фейком.

И вот все готово перевернуться с ног на голову. В отношении фотографии скоро по умолчанию станет нормальным допущение, что это фейк, потому что создание реалистичных и правдоподобных фейковых фото теперь тривиальная задача. Мы не готовы к тому, что будет дальше.

В нашем мире фотографии всегда были основой социального консенсуса — всю дорогу они служили доказательством произошедшего. Речь обо всех случаях, когда предполагаемая правдивость фотографии подтверждала истинность вашего опыта. Дефект в арендованном автомобиле, который уже существовал до вас. Залитый потолок. Доставка посылки. Настоящий, не созданный искусственным интеллектом таракан в вашей еде. Когда лесные пожары добираются до вашего района, как вы сообщите друзьям и знакомым, насколько густой дым на улице?

Необходимость доказывать своих утверждения до недавнего времени в основном лежала на тех, кто отрицал правдивость фотографии. Плоскоземельщики расходятся с общественным мнением не потому, что они не знают астрофизику, — в конце концов, многие ли из нас действительно знают астрофизику? — а потому, что им приходится придумывать все более сложных объяснения того, почему определенные фотографии и видео не настоящие. Они должны изобрести масштабный государственный заговор, чтобы объяснить постоянное появление спутниковых фотографий, фиксирующих кривизну Земли. Они должны создать звуковую сцену для высадки на Луну в 1969 году.

Мы считаем само собой разумеющимся, что бремя поиска доказательств лежит на них. Однако в эпоху Pixel 9, возможно, лучше начать освежать наши знания по астрофизике.

Среднестатистическое изображение, созданное с помощью этих инструментов искусственного интеллекта, скорее всего, будет довольно безобидным — лишнее дерево на заднем плане, аллигатор в пиццерии, кошка в дурацком костюме. Но в совокупности этот поток полностью переворачивает наше отношение к концепции фотографии, и это само по себе несет огромные последствия. Вспомним, например, что за последнее десятилетие в Соединенных Штатах произошли серьезные социальные потрясения, вызванные жесткими видеороликами о насилии со стороны полиции. Там, где власти замалчивали или скрывали реальность, эти видео говорили правду.

Настойчивый крик «Фейковые новости!» из лагеря Трампа предвещал начало эпохи откровенной чуши, в которой действие правды будет заглушено потоком лжи. Следующий Абу-Грейб будет погребен под морем информации о военных преступлениях, созданной искусственным интеллектом. Следующий Джордж Флойд останется незамеченным и неоправданным.

Вы уже можете видеть очертания того, что последует дальше. Защита в суде над Кайлом Риттенхаусом, которая утверждала, что функция pinch-to-zoom от Apple изменяет фотографии, тем самым успешно убедив судью возложить поиск доказательств на обвинение, которое должно было оспорить то, что увеличенные кадры с iPhone были обработаны искусственным интеллектом. Совсем недавно Дональд Трамп сделал ложное заявление, что фотография митинга Камалы Харрис, собравшего множество участников, была создана искусственным интеллектом — утверждение, которое стало возможным только потому, что люди могли в это поверить.

Даже до появления искусственного интеллекта те из нас, кто работал в средствах массовой информации, находились в оборонительной позиции, тщательно изучая детали и происхождение каждого изображения, проверяя на предмет вводящего в заблуждение контекста или манипуляций с фотографиями. В конце концов, каждое крупное новостное событие сопровождается потоком дезинформации. Но грядущая смена парадигмы подразумевает нечто гораздо более фундаментальное, чем постоянная подозрительность, которую иногда называют цифровой грамотностью.

Google прекрасно понимает, что делает с фотографией как с институтом — в интервью Wired продакт-менеджер камеры Pixel описал инструмент редактирования как «помогающий вам создать момент таким, каким вы его запомнили, это относится к вашей памяти и более широкому контексту, но, возможно, не соответствует конкретной миллисекунде». Фотография в этом мире перестает быть дополнением к человеческой памяти, склонной ошибаться, она становится ее зеркалом. И поскольку фотографии станут не чем иным, как проявленными галлюцинациями, самая откровенная ерунда перерастет в поле судебной битвы за репутацию свидетелей и наличие доказательств.

Это разрушение социального консенсуса началось еще до Pixel 9, и оно будет продолжаться не только из-за Pixel 9. Тем не менее, новые возможности искусственного интеллекта в телефоне заслуживают внимания не только потому, что порог входа настолько низок, но и потому, что меры безопасности, которые были предприняты, оказались на удивление вялыми. Предложенный в отрасли стандарт создания водяных знаков для изображений с использованием искусственного интеллекта увяз в обычной волоките, сопутствующей выработке стандартов, а собственная хваленая система водяных знаков с использованием искусственного интеллекта от Google никак себя не проявила, когда в редакции The Verge опробовали Magic Editor в Pixel 9. К фотографиям, измененным с помощью инструмента Reimagine, просто добавляется строка удаляемых метаданных (предполагалось, что проблема присущей этому виду метаданных уязвимости будет решена с помощью изобретения Google теоретически неустранимого водяного знака SynthID). Google сообщила нам, что выходные данные Pixel Studio — чистого генератора подсказок, который ближе к DALL-E, — будут помечены тегами с водяным знаком SynthID. По иронии судьбы мы обнаружили, что возможности инструмента Reimagine в Magic Editor, который изменяет существующие фотографии, вызывают гораздо большую тревогу.

Google утверждает, что Pixel 9 не будет ничем не ограниченной фабрикой чуши, но не дает достаточных гарантий. «Мы разрабатываем наши инструменты генеративного искусственного интеллекта с учетом намерений пользователей, а это означает, что они могут создавать контент, который может оскорбить, если пользователь попросит это сделать, — рассказал The Verge в электронном письме Алекс Морикони, менеджер по связям с общественностью Google – Но это не означает вседозволенность. У нас есть четкая политика и условия использования, какой контент мы разрешаем, а какой нет, и мы предпринимаем меры для предотвращения злоупотреблений. Иногда некоторые промты могут нарушить ограничения этих инструментов, и мы по-прежнему стремимся постоянно улучшать и совершенствовать имеющиеся у нас меры защиты».

Политика работает так, как и можно было ожидать — например, вы не можете использовать сервисы Google для содействия преступлениям или подстрекательства к насилию. При некоторых запросах выдавалось общее сообщение об ошибке: «Редактор Magic не может завершить это редактирование. Попробуйте написать что-нибудь еще» (однако в этом материале вы можете увидеть несколько тревожных случаев, когда промты сработали). Впрочем, стандартная модерация контента не спасет фотографию от начала ее конца в качестве показателя истинности.

Мы жили в эпоху, когда фотография была кратчайшим путем к реальности, к знанию вещей, к четкому доказательству вины. Это был чрезвычайно полезный инструмент для навигации по окружающему миру. Сейчас мы с головой ныряем в будущее, в котором реальность попросту менее познаваема. Утерянная Александрийская библиотека могла бы поместиться на карту microSD в Nintendo Switch, и все же передний край технологий — это мобильный телефон, который извергает из себя ложь в качестве прикольного маленького бонуса.

Плохи наши дела.