Появление AI в телефонах, необходимость или навязанная нам реальность

Привет.

Внутренний голос твердит, что мир развивается в лучшую сторону, как может быть иначе? Потом оглядываешься вокруг и подмечаешь то, что тебе вовсе не нравится. Как сказал мой случайный знакомый, с которым мы периодически сталкиваемся в разных уголках мира, «я вырос в Лондоне, любил этот город и хорошо его знал. Он существует в моей голове, в книгах и больше нигде. Мы потеряли этот город, а мне пришлось стать капитаном и путешествовать по миру, чтобы не быть чужаком в этом Лондоне». Не все, что происходит вокруг нас, однозначно заслуживает принятия, многие вещи хотелось бы изменить или оставить как минимум такими же, как раньше. И нечто подобное происходит с нашим миром, который мы порой перестаем узнавать.

Во мне есть черта, которую можно назвать здоровым консерватизмом, я не пытаюсь броситься, как в омут с головой, в новые технологии, не использую их нон-стоп. Звучит как некое признание, ведь моя работа связана как раз с новейшими технологиями и устройствами, мне легко их осваивать и постоянно пробовать что-то новое. А главное, никуда не исчезло любопытство, мне действительно не скучно изучать, что еще придумали в нашем мире и как эти штуки могут поменять нашу жизнь. Но одно дело — изучать, совсем другое — моментально менять свои привычки, сложившийся образ жизни. Тот же Telegram вошел в мою жизнь не сразу, доказывал право на существование постепенно, вместе с ростом числа пользователей, пока не стал главным приложением по времени использования (посмотрите на досуге, чем именно вы пользуетесь в течение дня больше всего, думаю, что тут возможны откровения). Сегодня же из каждого утюга доносится, что AI-алгоритмы превратят нашу жизнь в нечто чудесно-невообразимое. И мы покупаем то, что нам навязывают маркетологи, и у меня есть тьма доказательств этого факта.

Каждый производитель выделяет AI-алгоритмы, стремится доказать, что он участник гонки. Первой стала Samsung, которая создала Galaxy AI и последовательно развивает это направление, у нее получается лучше, чем у других.

Другие компании, как пылесосом, собирают все, что можно хоть как-то посчитать AI-функциями, например, realme обозначила GT6 как AI Phone. Маркетинг чистой воды, внутри нет ничего, даже отдаленно напоминающего то, что мы могли бы посчитать нейросетями и примерами их работы, а количество таких функций достаточно куцее. В новых аппаратах других производителей появляются разделы с AI-функциями, важно выделить их отдельно. Например, в Honor 200 Pro в таком разделе можно найти несколько опций.

Со стороны производителей идет однозначное развитие AI-фишек, появление тех или иных моделей нейросетей, которые умеют писать тексты, рисовать картинки, отвечать на вопросы или переводить тексты, это всего лишь вопрос времени для всех. На Android по умолчанию будет доступен Gemini, некоторые модели уже предлагают сменить Google Ассистента на эту нейросеть. Например, это предложил сделать мой Samsung Fold6.

Несмотря на поддержку русского языка, официально Gemini для России не работает, вам придется использовать VPN-клиент, чтобы его запустить на своем аппарате. Расстраиваться не стоит, так как на данный момент это достаточно куцее предложение, в нем нет ничего настолько интересного, чтобы кусать себе локти. Посмотрите сами на возможности нейросети, на то, что она умеет делать и как отвечает на вопросы.

Убираю за скобки запретные темы, которые отсутствуют в обычном поиске в том же Google, сегодня все компании стараются избежать обвинений во вмешательстве в выборы, личную жизнь и далее по списку. Число ограничений огромно. Но даже если закрыть на них глаза, то число правильных ответов всегда меньше, чем число неправильных (вот такие возможности, которые меняются день за днем, но все равно далеки от ожидаемого нами).

Когда внимание толпы привлекает анекдотичность ответа, создатели нейросети правят все руками, обучают ее, чтобы потом все повторилось снова уже с другими вопросами. И вот тут возникает стойкое ощущение, что мы все выступаем как бета-тестеры систем, которые будут реально работать не завтра и даже не послезавтра. На их обучение должны уйти годы, а все эти исключения создают систему, которая выглядит довольно однобоко.

Попробую сформулировать это следующим образом, чтобы раскрыть свою мысль. Например, я попробую попросить нейросеть написать текст про развитие России после 2020 года, упомянуть главные события. Что получится на выходе? Ничего. Запретная тема.

Политику можно любить или искренне ненавидеть, но именно она определяет жизнь государств, взаимоотношения между странами. И невозможно создать систему, которая игнорирует эти факты, но при этом претендует на всеохватность. Мы с вами фактически сами создаем инвалида, который не видит большую часть мира. У меня нет уверенности, что такой подход может сработать.

Вопрос цензуры для нейросетей встает все чаще и чаще, так как попытка скормить им в качестве обучающих моделей информацию, не соответствующую реальности, приводит к искаженным результатам. Например, по запросу «чернокожий нацист» та же Gemini создавала картинки, на которых были азиаты или негры в форме нацистской Германии. В ручном режиме такую возможность заблокировали. Для нас она выглядит как нечто невозможное и смехотворное, так как не совпадают взгляды на прошлое.

Но давайте представим, что нейросеть отправили смотреть фильмы на исторические темы. У нас нет документальных фильмов про викторианскую Англию, и все, что может посмотреть или прочитать нейросеть, — определенная степень упрощения, наши взгляды на то время. В том числе со всеми искажениями, что присущи человеку, мы живые существа. И я не вижу проблемы, если нейросеть сможет различать исторический труд и сериал от Netflix, например, «Бриджертоны», где герцогиня в Англии является чернокожей женщиной. Подобный фантазийный подход выглядит смехотворно. Но что произойдет, если нейросеть ошибочно посчитает такой пример валидным? Ничего хорошего.

Пока я привожу только примеры, в которых ошибка случайна, она не заложена по умолчанию. Но ведь искушение поменять историю всегда велико, отсюда цензура для нейросетей, которая будет подавать те или иные события в «правильном» ключе. И поэтому государства начинают волноваться об этом, требуют независимого контроля над нейросетями и теми моделями, что те используют. Дикий Запад в разработке AI-алгоритмов подходит к концу, мы переходим к регулируемому рынку, так будет в большинстве стран мира. Более того, многие страны начнут ограничивать использование AI-технологий на устройствах, в тех же смартфонах. И для этого есть примеры таких ограничений, существующие сегодня.

В умных часах и других аксессуарах появляются функции, напрямую связанные со здоровьем, например, измерение давления. По умолчанию, даже учитывая, что такие часы не медицинское устройство, одобрение функции требуется со стороны соответствующих органов в каждой стране. И получить его не так-то легко. Аналогичный подход мы увидим и для нейросетей. Более того, независимые и большие страны будут защищать свой цифровой суверенитет (вне зависимости от того, как понимать этот термин), как результат, запретят использование чужих нейросетей для многих задач, ограничатся только своими, родными.

Мы провели опрос о том, насколько вам нужна нейросеть на телефоне, получили довольно говорящие результаты, опрос можно найти вот тут.

Тех, кто готов использовать нейросеть, пока немного, но их число будет расти. На данный момент это игрушка, по большей мере развлечение, которое еще не обросло полезными функциями. Но они точно появятся и станут заметно лучше. Например, мне нравится то, что после конференц-звонков приложение само составляет список задач, описывает то, что обсуждалось, и указывает в календаре даты и время, когда мы планируем что-то внутри компании. Понятно, что за этой функцией нужен глаз да глаз, но подобная автоматизация полезна, главное, что она не создает никакого нового качества, а скорее работает с информацией, которую получает от людей. И вот тут, кажется, и пролегает для меня водораздел, большая часть полезных AI-функций — это не создание картинок, текстов или чего-то такого, а скорее работа с той информацией, что дается нейросети человеком (проверка текста на ошибки, подбор синонимов, поиск лиц на фотографиях или конкретных предметов и так далее). И в этом качестве мне нейросети точно нужны, они облегчают жизнь. Но писать тексты вместо меня они не могут, во всяком случае, сегодня, им не хватает опыта, глубины и анализа ситуации. Экспертные системы человечество пытается создать давно, но пока все они выглядят как большая энциклопедия, делать разносторонние выводы такие системы не научились. Благодаря нейросетям, безусловно, будет наблюдаться прогресс, но он не будет взрывным и будет относиться только к узкому спектру задач, где человек заведомо проиграет. Уверен, что большинство из нас проиграет калькулятору в скорости вычислений, но никому не приходит на ум считать калькулятор способным на что-либо, кроме тех самых вычислений. Нейросети интереснее, но стать чем-то большим, чем продвинутый калькулятор, они в обозримом будущем точно не смогут.