Google сломала поиск. Снова

Примечание редакции Mobile-review.com. Мы подбираем материалы в раздел «Мнение», чтобы показать то, как воспринимают рынок компании в других странах. Мнения в таких материалах зачастую не совпадают со взглядами нашей редакции, но дают понимание рынка, его медийной составляющей.

По материалам Android Authority

Искусственный интеллект проник повсюду, но компании не останавливаются и применяют его везде, где только могут. Google делает на ИИ большую ставку, повсеместно добавляя его посредством Gemini Advanced и даже внедряя в собственный поиск с помощью AI Overviews. Однако существует очевидная проблема, которую невозможно не принимать во внимание: ИИ может галлюцинировать, запросто выдумывая факты, никак не связанные с реальностью. И вот свежий пример галлюцинаций ИИ в исполнении функции AI Overviews от Google, которая уверенно придает смысл выдуманным идиомам и фразам.

Пользователь Bluesky Грег Дженнер рассказал в соцсети о том, что вы можете ввести любую случайную фразу в поиск Google, добавив слово meaning («значение») к поисковому запросу, и получить полностью выдуманное объяснение смысла:

«Кто-то в Threads* (*Компания Meta Platforms, в которую входят социальные сети Facebook, Instagram и Threads, признана экстремистской организацией и запрещена в РФ.) заметил, что можно вбить в Google любую случайную фразу, затем добавить «значение», и вы получите от ИИ объяснение известной идиомы или фразы, которую вы только что придумали. Вот мой пример».

Пользователь искал значение фразы «you can’t lick a badger twice» («вы не можете дважды лизнуть барсука», и AI Overviews уверенно ответил, что это означает, что вы не можете обмануть кого-то дважды. Однако фраза – абсолютный фейк и придумана пользователем, а Google объясняет ее так, как будто это устоявшаяся идиома.

Автор ресурса Android Authority попробовал ввести в поиск несколько своих собственных фраз в качестве поисковых запросов, и, конечно же, AI Overviews уверенно ответил, что они означают, хотя эти «идиомы» появились на свет всего несколько минут назад. В поисковой выдаче отмечается, что не было найдено точных совпадений с запросом, что равноценно фактическому признанию в том, что поиск Google придумал ответ.

Так, например, один из запросов содержал фразу «Солнце никогда не восходит со стороны вареного яйца» («The sun never comes up on a boiled egg»), которую ИИ поэтически интерпретировал как «То, что полностью приготовлено или завершено, является необратимым». А запрос «оплакивать лёд в дождливый день» («cry ice on a rainy day») предложил заменить на «сухой лед» («dry ice»), впрочем, все-таки объяснив «идиому»: якобы она означает спрашивать что-то, что уже очевидно или доступно. А что, лед часто появляется после ледяного дождя, куда уж понятнее. Наконец, фразу «щекотать толстую красную божью коровку» («tickling the fat red ladybug») ИИ объяснил как «игривое невинное взаимодействие с божьей коровкой», ассоциирующееся, например, с детством. Читающие на английском могут глубже погрузиться в бездны, которые открывает неподготовленному разуму галлюцинирующий искусственный интеллект.

На странице поисковой выдачи Google просто предупреждает, что «генеративный ИИ является экспериментальным», но этого недостаточно для дисклеймера, который должен был бы информировать пользователя о том, что результаты могут быть полностью выдуманными. Вымысел и правда сосуществуют на одной странице поисковой выдачи, поскольку AI Overviews является частью поиска Google.

Как заявляет пользователь, такие галлюцинации являются предупреждающим знаком для нас и Google. «Гуглинг» давно стал синонимом возможности поиска и проверки фактов, подтверждения источника или восстановления информации, которую запомнили лишь частично. Однако такие уверенные галлюцинации подрывают сами основы поиска Google, поскольку теперь станет намного сложнее отделить факты от вымысла, раз уж ИИ придает истинности настолько малое значение.

Ресурс Android Authority обратился к Google, чтобы получить разъяснение об этих галлюцинациях AI Overviews. И вот что заявил официальный представитель компании:

Когда люди вводят бессмысленные или «ложные» поисковые запросы, наши системы пытаются найти наиболее релевантные результаты на основе ограниченного доступного веб-контента. Это касается поиска в целом, и в некоторых случаях AIOverviews также будут реагировать и пытаться предоставить полезный контекст. AIOverviews предназначены для отображения информации, подкрепленной верхними строками поисковой выдачи, и их высокая точность сопоставима с другими функциями поиска, такими как FeaturedSnippets.

Google также заявляет, что для некоторых запросов в Интернете может быть не так много релевантной информации. Такие случаи называются «пробелами в данных», и они являются проблемой для всех поисковых систем в целом. Компания внедрила улучшения, чтобы ограничить появление AI Overviews в таких случаях с пробелами в данных, что, таким образом, предотвратит появление вводящего в заблуждение, сатирического или иного бесполезного контента в AI Overviews.

Однако, проблема, как видится шире и глубже, чем освещенный Android Authority кусочек. Во-первых, касается она не только Google. Все поисковые системы нынче считается хорошим тоном оснастить «выжимками», создаваемыми ИИ. А вот добавлять к этим выжимкам предупреждения о том, что информация в них может вообще не соответствовать реальности, разработчики «забывают». Пару недель назад со знакомым испытывали нейросетевые ответы «Яндекса». Сказать, что результаты получились разочаровывающими, значит ничего не сказать. Справиться с простым вопросом вида «расскажи про музыкальную группу %название%» ни базовая, ни продвинутая модели не смогли. При этом продвинутый вариант нейросети «Алиса» выдавал куда как более абсурдные результаты в сравнении со стандартной «Яндекс Нейро». Максимум сочинительства выдала YaGPT 5 Pro, в ответе которой лишь отдельные имена и названия соответствовали действительности. Немногим лучше показали себя ChatGPT и DeepSeek, убедив, что ни по одну сторону океана доверять объяснениям ИИ по вопросам, заданным в голосовом поиске, не стоит. А значит, все, что вы спросили у умной колонки или смарт-ТВ, освободив руки для получения информации на лету, может быть ложным. Полностью или частично — в данном случае не имеет значения, проблема в том, что, не имея знаний по вопросу, вы в любом случае не сможете оценить релевантность ответа.

Но почему же компании считают возможным выпускать настолько сырой продукт? Ответ можно найти в прошлогодней истории с увольнением со своего поста старшего вице-президента Google по поисковой системе Прабхакара Рагхавана. Подробности можно прочитать, например, вот здесь (на английском), но если говорить коротко, то Google пришлось признать, что ухудшившийся поиск — это не случайная ошибка, а закономерный итог развития компании. Какого развития? Финансового! Дело в том, что пока нам не продают услуги пользования поисковой машиной и вряд ли будут. Но миллиардные прибыли разработчиков этого инструмента тоже не берутся из воздуха — они оплачены компаниями, рекламу которых продвигает Google. Механика простая: больше показов рекламы — больше прибыли. Нужна ли для этого хорошая поисковая машина? Отчасти.

Руководствуясь примерно такой логикой, рассуждала команда Прабхакара Рагхавана, который возглавил направление по разработке поиска внутри Google в третьем квартале 2020 года. К этому моменту внутри компании били тревогу из-за того, что впервые с 2012 года квартальные изменения показали сокращение доходов, так что нужны были срочные меры. И они были приняты. И они были успешны. Google не просто вернулась к росту прибыльности, а стала демонстрировать двухзначный рост в годовом сравнении начиная со второй половины 2023 года. Но были и некоторые издержки.

Тематические форумы запестрели вопросами, что случилось с поиском Google, что он перестал выдавать прежние результаты. Кто-то находил, что добиться релевантного ответа можно, только используя «точный» поиск, но в целом отмечалось, что поисковик стал просто игнорировать отдельные куски запроса и процесс получения искомой информации превратился в своеобразную рулетку, когда пользователю нужно было угадать, что именно в этот раз будет пропущено. Разумеется, каждый раз пользователь должен был заново загружать страницу выдачи, которая демонстрировала в том числе и рекламу. Показы росли, переходы совершались, деньги потекли к Google прежним потоком. Но поднятая волна недовольства была слишком велика, возникли вопросы и у рекламодателей, и внутри самой компании, когда отчеты стали показывать переток пользователей в другие поисковики.

В итоге осенью 2024 года г-н Рагхаван был снят с должности и переведен на ничего не значащий пост «главного технолога». А на его место пришел Ник Фокс… Специалист по внедрению ИИ в систему поиска. За которого, похоже, главе Google Сундару Пичаи придется оправдываться не меньше, чем за предшественника. Вопросов к нейросетевому поиску все больше, а отписки компании вроде той, что была получена Android Authority, могут не удовлетворить, например, администрацию Трампа. Которая и без того настроена на то, чтобы лишить Google ее привилегированного положения монополиста, разделив на несколько отдельных бизнесов.

Но если смотреть с точки зрения обычного пользователя, который просто хочет получать корректный результат, то ситуация выглядит малоперспективной. Нейросети и ИИ на данный момент являются точками привлекательности, без которых поисковик будет сочтен массовым пользователем технически отсталым, а продажи рекламы от показов в поисковой выдаче остаются основным источником дохода, который нужен для продолжения разработок ИИ. Вот такой вот замкнутый круг, ожидающий своего героя, который придумает решение, устраивающее всех.