#286. Как вы ищете информацию в Интернете

Искусственный интеллект на страже испанского порядка

В последнее время вышло несколько статей о том, что искусственный интеллект так в итоге ничего и не изменил. Разумеется, это не так. Развитие ИИ приводит к повышению удельной продуктивности каждого конкретного сотрудника, и потихоньку все компании занимаются оптимизацией и сокращением штата.

Я занялся поисками кейсов, когда ИИ реально используют и он оказывает эффект.

Пожалуй, наиболее интересный случай — это история, как испанская полиция активно внедряет ИИ в свою деятельность. Например, ещё в 2021 году была внедрена VeriPol, которая проверяет отчетность.

В Испании полицейские нередко подают фальшивые рапорты об открытии дел. Обычно это дела средней тяжести. То есть полицейский говорит, что вот есть такое дело, расследует его и закрывает, получая поощрение.

Во время пилотного проекта точность модели составила 83%. Ожидалось, что точность будет 91%. Но систему приняли и используют. Возможно, спустя 3 года она стала точнее. Однако даже на старте ИИ оказался на 9% точнее, чем приглашенный полицейский эксперт.

На этом полиция не остановилась и внедрила алгоритм VioGén, который оценивает вероятность совершения преступления. Алгоритм используют с 2007 года, то есть это был довольно смелый шаг.

Алгоритм стали применять для разбора ситуаций, связанных с домашним насилием. Выглядит это так. Приезжает испанский полицейский на вызов, где происходят какие-нибудь семейные разборки. И тут испанская полиция ничем не отличается от российской или любой другой. Они могут лишь сделать внушение, а расследовать и наказывать будут только после совершения преступления. Думаю, все помнят фразу, облетевшую заголовки СМИ: «Вот когда убьют, тогда и звоните».

Испанцы решили попробовать действовать превентивно. Алгоритм VioGén содержит 35 вопросов, на основе которых выдает вероятность риска. Если показывает, что риск низкий, то полиция уезжает, а если высокий, то строго разговаривает с нарушителем порядка и только после этого уезжает.

Мировые СМИ любят пинать VioGén за его ошибки. Так, The New York Times приводит несколько историй, когда алгоритм говорил, что риск низкий, а потом женщина оказалась убита или забита до смерти. Однако тут хочется привести и положительную статистику, опубликованную местным министерством. За время действия алгоритм изучил 814 000 случаев домашнего насилия и ошибся только в 0,03%, то есть 245 женщин оказались убиты.

И вот тут тоже можно рассуждать о том, а стоит ли внедрять искусственный интеллект в расследование преступлений, потому что он, во-первых, как будто снимает ответственность. Полицейские говорят, что, мол, не виноваты, алгоритм же сказал, что риск низкий.

Во-вторых, как будто бы притупляются навыки и превалирует формальный подход: полиция приезжает, задает вопросы, вводит их в планшет, смотрит результат и уезжает.

В-третьих, тут можно приплести антиутопическую часть, когда человек ещё ничего не сделал — ну поорал, ну пнул пару раз (расскажите, как у вас происходит домашнее насилие) — а его сразу повязали и отвезли в обезьянник. Страшно представить, что будет, если распространить такую систему на другие сферы жизни.

Как вы ищете информацию

Помню, как меня научили в библиотеке пользоваться каталогами. Это ощущалось как какой-то взлом всей библиотечной системы. Для тех, кто подзабыл, как все устроено, напомню, что, помимо алфавитного каталога, существуют ещё предметный, систематический, географический и страноведческий. Приходишь такой в библиотеку быстро шлеп-шлеп-шлеп, и в школе у тебя лучший реферат с самым большим количеством источников.

Потом у меня появился интернет и поисковые движки. Запросы можно было писать и просто так, но гораздо лучший эффект получался при использовании синтаксиса. Сейчас, к слову, уже минимально пользуюсь поисковыми операторами, потому что Google научился точно понимать, что надо пользователю. В арсенале остались только кавычки для точной формулировки, исключение конкретных слов, да вот недавно пользовался оператором «loc», чтобы искать стоимость тарифов на мобильную связь в Венесуэле.

А вот операторы «Яндекса» забывать не стоит. Создается ощущение, что «Яндекс» понимает меня хуже, чем Google, но при этом для поиска по Рунету «Яндекс» необходим.

Однако обращаю внимание, что в последний год наметился переход в сторону нейросетей. И, честно говоря, произошло это как-то стремительно. Неожиданно оказалось, что мои самые технически-отсталые знакомые (это я их так окрестил, сами они, возможно, придерживаются иного мнения) вовсю пользуются достижениями нейросетей: генерируют картинки, создают музыку, используют для поиска информации. Причем делают эту зачастую так, как я бы даже не подумал. Так, один знакомый в туристической поездке просто скопом надиктовал ChatGPT достопримечательности, которые он хочет посетить, и попросил придумать ему программу. И нейросеть справилась: проложила маршрут, указала, что в этот музей лучше сходить с утра во вторник, потому что в 14 часов он закрывается, а в понедельник не работает, нашла место для обеда. Сюда бы банковскую карточку подключить, и, считай, полноценный персональный ассистент будет, который и маршрут придумает, и билеты закажет, и логистику организует.

Другой удивительный для меня пример — это как часто используют функцию Summary (это когда нейросеть читает документ за вас и дает краткую выжимку). Как можно подобное доверить нейросети? А вдруг она плохо прочитает, упустит какой-нибудь важный момент?

С одной стороны, вполне понятна причина, почему поиск через нейросети на подъеме. Из-за поисковой оптимизации и платного продвижения искать информацию относительно непросто, потому что надо прорваться через продвигаемые страницы. Нередко нужный контент находится на второй, а то и третьей странице поисковой выдачи. Хотя, согласно различным исследованиям, от 75% до 94% пользователей не заглядывают дальше первой страницы. Впрочем, большую часть этих исследований проводят маркетинговые конторы, занимающиеся оптимизацией, так что результаты могут быть предвзяты. Расскажите в комментариях, как вы ищете информацию.

Уже не раз писал, что проверить успешность того или иного изобретения довольно просто: нужно лишь задать вопрос, перевешивают ли положительные возможности от изобретения недостатки, с которыми нужно бороться. Например, с автомобилем множество хлопот (от обслуживания до загрязнения планеты), но положительных возможностей от его использования гораздо больше, и это оценили люди по всему миру.

В данном случае нейросеть быстро составляет тебе полноценный ответ. И пользователи готовы мириться с тем, что ответ может быть неполным, неточным, а иногда и ошибочным. Зато не надо тратить время на нудный поиск.

Вполне вероятно, что мы идем в том направлении, когда поисковая строка станет профессиональным инструментом для определенного круга: журналисты, аналитики, социологи и т.д.

Например, я поисковые движки (Google, «Яндекс», DuckDuckGo, Presearch) люблю, так как это возможность не только ответить на вопрос, но и попутно расширить кругозор. Нередко бывает, что, задав один вопрос, находишь много новой и полезной информации.

Однако зачастую люди ищут ответы на конкретные вопросы и не хотят задумываться, как сформулировать запрос и какой поисковик даст наилучший ответ. Вполне вероятно, что это приведет к определенной трансформации Интернета, так как многие сайты потеряют поток трафика. Например, наш сайт, ведь пользователь вместо самостоятельного чтения обзоров нескольких смартфонов будет спрашивать об этом нейросеть и принимать решение на основе ее ответа. В свою очередь, сайт будет получать «копеечку» за то, что ответ базируется на его данных.

К слову, в журнале «The Atlantic» вышла забавная статья, в которой автор вздыхает, что ИИ убивает любознательность. Мол, человек задает ИИ вопрос, получает ответ, и все. А мне сразу вспомнилось, как ровно то же самое говорили про Интернет. Это было время, когда «Яндекс», вооружившись слоганом, созданным для него Артемием Лебедевым, «Найдется все», мощно себя продвигал. По-моему, это был 2000-й год. И я по радио за завтраком слушал передачу, как приглашенный эксперт рассуждал, что с Интернетом люди будут меньше знать. И привел, в частности, пример про изучение иностранного языка. Без Интернета берешь словарь, листаешь, натыкаешься на другие интересные слова, пока ищешь нужный тебе перевод, потом пытаешься самостоятельно перевести предложение. А «Яндекс» тебе сразу дает перевод и таким образом лишает счастья познания.

А мне кажется, что с Интернетом люди, наоборот, слегка поумнели, потому что знания «на кончиках пальцев» и сразу можно удовлетворить любопытство, а энциклопедический словарь не у каждого дома есть. Да и рыться в нем лень.

Заключение

Пожалуй, главная опасность ИИ заключается в том, что люди хотят переложить на него все обязанности, чтобы кто-то за них принимал решение. Недаром так популярны статьи и рилсы в социальных сетях, где люди рассказывают, как на определенное количество времени поручают ИИ принимать все решения, а потом им следуют и в качестве вывода рассказывают, что стали продуктивнее, лучше высыпаться и т.д.

А на самом деле ИИ не более чем помощник, который должен помогать человеку успевать больше, но никак не принимать за него решения.