Эхо

#251. Nvidia дала владельцам RTX-карт 30-й и 40-й серий персонализированную нейросеть

Владимир Нимин
21 февраля

Table of Contents

Про Смуту

Всем привет.

В этом выпуске рассуждаем про личную нейросеть, которая доступна владельцам видеокарт RTX 30-й и 40-й серий.

Пока качал демо-файл нейросети (35 ГБ), зашел попутно обновить игры в Steam. И вспомнился мне недавний диалог с одним товарищем по поводу Baldur’s Gate 3. Я ему говорил, как мне нравится игра, а он, наоборот, рассказывал, какая это переоценённая ерунда.

Зайдя в статистику, увидел, что я наиграл всего 42 часа (у меня не очень хватает времени на игры, и с декабря я пока что ни разу не успел поиграть). А у него только за последние две недели 65 часов, а общая продолжительность перевалила за 900 часов, и в игре получены 87% всех достижений. И таких, как мой товарищ, много. Зачем вы так делаете?

К слову, «Смуту» (это главная российская игра 2024 года) перенесли с конца февраля на апрель. Зато 4 дня назад выложили целый час геймплея. И, честно говоря, по-моему, графика не сильно изменилась с этого семпла, который нам показывали несколько месяцев назад.

Моделька игрока по-прежнему бегает как будто отдельно от игрового мира. Например, когда наступает в снег или лужу, ничего не происходит. Зато в луже есть отражения. Да и пока что игровой мир выглядит мертвым. Заходишь в избу, а там NPC стоят практически в Т-позе. Честно говоря, пока по трейлерам и геймплею кажется, что «Ведьмак 3», даром, что вышел в 2015 году, и визуально, и по наполнению игрового мира выглядит лучше. Хотя, наверно, сравнивать «Ведьмака» и «Смуту» несправедливо. Всё-таки у студий разный уровень.

Напомню рекомендованные требования игры:

Если вам интересно, то вот первый час игры. Странно, что разработчики отключили комментарии. Обычно именно так принято собирать обратную связь.

Про рекламу на Android TV

Может, не обращал внимания, но, кажется, это первый раз, когда на Android TV так явно транслируется реклама.

У меня включен VPN на Канаду. И с включенным VPN обычно Android TV показывает картинки-трейлеры сериалов Amazon Prime и других сервисов. А тут картинки сериалов листаются быстро (по 7 секунд на сериал), а реклама Samsung – это проигрывание целого ролика (секунд 30). И это причина, почему я заметил рекламу Samsung. Как ни взглянешь на экран, там ролик Samsung.

При этом ролик выбрали бестолковый, так как смартфон там почти не показывают. Также сложно считать возможности ИИ, если не знаешь, о чем идет речь. Условный пользователь iPhone вообще не поймет, что продвигает Samsung.

Однако в данном случае примечателен сам факт. Android TV как открытая платформа всегда считался (по крайней мере, мной) вариантом, который, в отличие от обычного телевизора, не транслировал мне рекламу товаров и услуг. Максимум мне показывали фильмы, сериалы, а в случае с Nvidia Shield ещё и игры, которые, согласно алгоритмам, должны были мне понравиться. А тут прямая реклама смартфонов Samsung.

Сразу скажу, что я в курсе того, что на умных телевизорах может транслироваться реклама. Но предполагал, что это удел жадных брендов, стремящихся максимально нажиться на своих клиентах.

Так, например, где-то с 2019 года разворачивается драма с телевизорами Samsung, когда счастливый покупатель, заплативший за телевизор 2000 – 4000 долларов, обнаруживает «спонсорскую» плитку.

При этом баннеры могут быть и больших размеров.

В случае с Samsung тут новостей нет. Долгое время бренд развлекался тем, что вставлял рекламу в свои смартфоны. При этом делал это топорно и глупо. Получив отпор от пользователей, компания переключилась на телевизоры.

Однако Samsung – это производитель с собственной оболочкой, который, по сути, имеет право встраивать в оболочку всё, что хочет.

А вот чистый Android TV – это продукт Google, которая раньше была выше подобных мелочных пакостей.

Впрочем, возможно, это разовая акция и таким образом Google просто хочет поддержать своего партнера.

Google на защите YouTube Premium

Если и можно придумать положительные стороны того, что западные сервисы отвернулись от Руси, так это отключение монетизации YouTube. Теперь можно смотреть видео YouTube без рекламных прероллов.

За время заграничной поездки, честно говоря, ошалел от того количества рекламы, которое транслируется на YouTube. Это даже круче, чем на телевидении. Там обычно сетка вещания делится на блоки и на каждые 20-25 минут контента вставляется 5-10 минут рекламы. И контент подгоняется под эти нужды. Например, серия «Теории Большого взрыва» (или любого другого ситкома) имеет продолжительность 22-24 минуты. Остальные 6 минут занимает реклама.

В случае с YouTube аналогичный объём рекламы могут впихнуть в ролик продолжительностью 10 минут.

Однако некоторые фишки YouTube Premium с уходом Google стали недоступны. Одной из главных потерь стало фоновое воспроизведение. И тут на выручку пришли китайские бренды, которые предлагали вариант, как обходить эту историю. На Xiaomi, realme, Tecno, вызвав смарт-панель, можно было нажать на иконку «уха» и наслаждаться фоновым воспроизведением. Я так лекции во время тренировки слушал.

Я очень радовался этой функции и безжалостно издевался над iPhone и Samsung, которые так не умели. А тут на тест прилетел классный смартфон TECNO SPARK 20 Pro+, и, придя в спортзал, я завис, пытаясь найти привычную функцию. Первым делом, конечно, обвинил TECNO. Смартфон на Android 14 и функция не работает, в то время как модель TECNO SPARK 20 Pro (без плюса) на Android 13 и там функция есть.

Однако представители TECNO в ответ на моё обвинение в косолапости сказали, что это не они, а Google. И, видимо, не врут, потому что функция пропала и на моём Xiaomi, который всё ещё на Android 13. У смартфона декабрьская заплатка безопасности, и я хорошо помню, что до неё функция была.

Ситуация тем неприятнее, что Google, кажется, попутно заблокировала олдскульную технику, когда YouTube можно было открыть в браузере, включить ролик, заблокировать смартфон, включить экран и на экране появлялся аудиовиджет, позволяющий включить воспроизведение. Виджет появляется на мгновение, а потом пропадает.

То есть Google планомерно борется за увеличение подписочной базы YouTube Premium. Хочешь слушать YouTube? Покупай подписку.

И, кажется, только Samsung сделано послабление. Недавно Samsung, представляя обновление до Android 14, помимо прочего, сообщила, что фирменный браузер Samsung Internet получил возможность воспроизводить видео в фоне и в режиме «картинка в картинке». При представлении функций YouTube не упоминался. Однако очевидно, что подобная функция была согласована с Google, так как сейчас ни Chrome, ни Edge на смартфонах Xiaomi, realme, TECNO не могут воспроизводить видео в фоне. А вот Samsung Internet может с поправкой на то, что на странице YouTube опция «картинка в картинке» заблокирована.

Собственная нейросеть от Nvidia

В октябре 2023 года Lenovo в рамках своей ежегодной презентации LENOVO TECH WORLD поделилась планами, сказав, что вся будущая техника будет создаваться в формате AI-ready и с оптимизацией под AI-инфраструктуру.

Концепция Lenovo получила название «гибридный ИИ». Идея в том, чтобы брать/покупать существующие модели ИИ и помещать их на пользовательские устройства, чтобы они могли обучаться на данных из Интернета, но подстраиваться под пользовательские предпочтения, оставляя эти пользовательские предпочтения в пределах устройства. Речь как про обычных пользователей, так и про корпорации. Lenovo говорит, что такой подход позволит создать AI Twin, то есть ИИ-близнеца, который может быть как персональным, так и корпоративным.

И вот концепция начала реализовываться. Nvidia предложила владельцам видео карт RTX 30-й и 40-й серий попробовать создать такую собственную персонализированную нейросеть.

Зайдя на сайт Nvidia, пользователь качает демо-версию модели, которая весит 35 ГБ. В дальнейшем пользователь сможет сам выбирать модели, которые ему хочется. Например, в демо-ролике показывается, что пользователь переключает llama на Mistral. Дальше надо указать папки, в которые модели будет разрешен доступ. В демо-ролике выбирается папка «Мои заметки», где, по мнению Nvidia, пользователь хранит все важные мысли. И дальше можно задавать нейросети вопросы на основе данных, которые хранятся в папке. А там могут лежать документы, фото и видео. Например, если в папке хранится история переписки, то можно задавать контекстные вопросы.

Также в нейросеть можно скинуть ссылку на видео (в примере YouTube) и задавать вопросы по этому видео.

В качестве преимущества указывается тот факт, что вычисления (генерация ответов) происходят только на локальной машине без помощи постороннего сервера.

Другое преимущество в том, что исключительно пользователь выбирает набор данных, которые будет анализировать нейросеть.

В демо-версии модель идёт с охапкой документов в формате txt, которые можно использовать для проверки качества работы искусственного интеллекта.

Для рядового пользователя инструмент от Nvidia — это ещё и самый простой способ познакомиться с кучей нейросетей, которые в свободном доступе валяются в Интернете.

Я загрузил модель и попробую с ней поэкспериментировать. И через недельку поделюсь впечатлениями, если такие будут.

Пока что перспективы у проекта Nvidia больше видятся в коммерческом секторе. Например, юристы могут загружать сюда на проверку какие-нибудь документы, которые они не хотят отправлять в облако. Другой вариант – это адвокаты, которые будут собирать в одну папку все имеющиеся данные по судебному делу, а потом использовать ИИ для анализа и поиска. Условно говоря, если человеку понадобится несколько часов, чтобы отследить какую-то финансовую операцию, то ИИ, в который загружены все данные, легко сможет сразу ответить, сколько финансовых операций было проведено, на какую сумму и так далее.

В далеком будущем (лет 5 вперед) можно представить, как подобная нейросеть, живущая на домашнем сервере, будет помогать вести хозяйство. Например, подключать «Яндекс ГПТ» к банковскому приложению я не рискну, а вот персонализированную нейросеть вполне можно. И пусть она анализирует траты по всем банковским картам во всех банках, все расходы и так далее, а потом сообщает мне, могу я поехать в отпуск или не могу (спойлер: я без нейросети знаю, что не могу, просто хочется делать что-то назло).

Также вполне очевидно, что подобная персональная нейросеть заработает в полном объёме, только если дать ей полный доступ ко всем онлайн-аккаунтам. Возможно, у вас иначе, но у меня в папке «Мои заметки» нет заметок.

Впрочем, и в целом есть вопросы, какие возможности нейросети можно использовать в личной жизни. Единственный вариант, который я сумел выдумать, это попросить нейросеть вспомнить код от подъезда друга, который я каждый раз ищу в переписке, когда иду в гости.

Буду благодарен, если в комментариях вы поделитесь, как можно использовать личную нейросеть. Так как, скорее всего, у меня просто мало фантазии. В целом, можете рассказать, как пользуетесь нейросетями, потому что я хоть и понимаю, как это мощно и круто, не могу придумать, как это применить в жизни или работе. По-моему, и тексты я пишу лучше, и в Интернете информацию ищу качественнее. Картинки вот рисовать так же круто не умею, но, вроде, оно и не надо.

21 февраля
Владимир Нимин
[email protected]
развлеченияСервисытехнологии
наверх