Всем привет. Сегодня, как и всегда, предлагаю обсудить различные любопытные вещи и происшествия.
Table of Contents
- Безлимитный интернет как опция
- Новые ноутбуки Google — Googlebook
- Осторожно, AI
- Что пугает в ИИ
- Заключение
Безлимитный интернет как опция
Уже рассказывал, как жене позвонили из «МегаФона». Оператор сообщил, как ужасно важно и необходимо чуть обновить её архивный тариф, а именно перевести безлимитный интернет из неотъемлемой части тарифа в отдельную опцию. Меня, к сожалению, рядом не было. Я потом переслушал звонок, а там диалог по смыслу был примерно такой же, как когда мне мошенники от лица «Госуслуг» позвонили в WhatsApp и объяснили, почему все государственные отечественные сервисы используют вражеский мессенджер и телефоны с кодом +44 (а это Великобритания). Короче говоря, чистейшая профанация. Каким-то образом жена на эту процедуру согласилась. Ну и не прошло и полгода, как начал оператор начал слать уведомления, что стоимость опции «Безлимитный интернет» будет пересмотрена.
Захотел об этом написать, чтобы ещё раз подсветить правила общения со всеми операторами связи.
Когда вам звонят, уверенно снимаете трубку и говорите: «Мне ничего не надо, никакие предложения не интересны, я не даю согласия ни на какие действия с моим тарифом. Больше не звоните». После этого вешаете трубку и живете дальше своей счастливой жизнью.
Новые ноутбуки Google — Googlebook
У Google давно есть линейка бюджетных устройств Chromebook. Это ноутбуки на операционной системе Chrome OS. По сути, это браузер Chrome, внутри которого запускают все программы. Памяти на этих устройствах немного, так как они все хранят в облаке. За это их ещё и критикуют, так как для полноценной работы им требуется интернет.
Сама Google ноутбуки не делает. Их производят сторонние компании. Им это интересно, так как это довольно высокомаржинальный продукт, который легко собрать из посредственных комплектующих. К тому же в таких устройствах не надо заморачиваться с охлаждением или производительностью — все через облако работает, поэтому на сам ноутбук нагрузка минимальна. У нас эти ноутбуки популярностью не пользуются, а в Штатах их нередко закупают для школ.
Google уже на раз пробовала выпускать премиальные Chrome-буки. Но кому они нужны? Да и зачем?
Теперь Google делает новый подход к снаряду, представляя Googlebook. Если упрощать, то Googlebook — это Android-смартфон в виде ноутбука. Google-буки в качестве операционной системы используют Googlebook OS — по сути, это Android 17 (внутри Google эта операционная система называлась Aluminium OS; время от времени о ней были утечки, и все думали, что Google создает что-то радикально новое).
Так что ключевое отличие Google-буков от Chrome-буков в том, что это уже не облачный ноутбук. Даже наоборот, если хромбуки выпускали на посредственном железе, то гуглбуки используют топовые процессоры Intel или Qualcomm (да, поддерживаются обе архитектуры), оборудованы OLED-экранами и прочими высококлассными комплектующими.
Google делает ставку на легкость, портативность и хорошее время автономной работы – от 14 часов. А также на высокую производительность и длительную поддержку. Обещают, что в течение 10 лет гуглбуки будут получать обновления и заплатки безопасности. По меркам смартфонов это много, но для компьютеров — обычный срок.
Разумеется, за покупку Google-бука я не агитирую. Лишь хочу обозначить несколько плюсов для всех нас.
Google-буки будут выходить как на ARM-процессорах, так и на обычных процессорах Intel с архитектурой х86. Это очень хорошо, так как позволит лучше оптимизировать Android-приложения для Windows. Microsoft пробовала добавить магазин Android-приложений в Windows 11. Но тема как-то заглохла. Частично это связано с тем, что там был магазин приложений от Amazon, который ориентирован на Америку, да и приложений там было не так много.
В этот раз, возможно, у Google и Microsoft получится договориться, так что на Windows появится именно Google Play. Также вполне вероятно, что производители смартфонов, которые также делают и ноутбуки, захотят присоединиться к празднику жизни и будут комплектовать ноутбуки своими фирменными магазинами приложений. Годы идут, и многие Android-приложения выглядят и ощущаются более комфортными, чем их десктоп-версии. Если не верите, то обратите внимание хотя бы на тот факт, что все тиктокеры для монтажа используют не продукты Adobe, а мобильное приложение CapCut, потому что там все просто и понятно.
Другой плюс в том, что, вполне вероятно, Googlebook OS появится на планшетах. То есть пользователи получат полноценную многооконную операционную систему, которая похожа на кастрированный Linux или напомаженную macOS.
Одна из ключевых проблем Android-планшетов в том, что они по-прежнему представляют собой увеличенные смартфоны. Googlebook OS превратит их в более полноценное подобие ноутбуков.
Для меня главный минус Googlebook OS в том, что Google собирается продвигать её как операционную систему, оптимизированную для нейросети Gemini. То есть пользователи по умолчанию соглашаются с тем, что будут делиться всей персональной информацией с Google. Ну а там, где Gemini не работает, Googlebook будут частично бесполезны — скорее всего, будут постоянно вылезать раздражающие заглушки: сначала «Попробуйте Gemini», потом «Извините, функция в вашем регионе недоступна».
Осторожно, AI
Новая неделя — новая история о том, как сознательный высокооплачиваемый специалист увольняется из компании, которая разрабатывает ИИ-модели. Только за последний год таких набралось приличное количество:
- Мринанк Шарма в феврале этого года ушел из Anthropic, потому что, по его словам, компания систематически нарушала созданные протоколы безопасности и он не хотел в этом участвовать.
- Кейтлин Калиновски в марте этого года ушла из OpenAI из-за сотрудничества компании с Министерством обороны США (Дональд Трамп переименовал его в Министерство войны). Калиновски известна тем, что была в команде, которая сделала культовый юнибоди-дизайн у MacBook Pro.
- Джо Бентон ушел из Anthropic, потому что, по его словам, компания развивается чересчур быстро и не понимает, что делает.
- Джош Энгельс в сентябре ушел из Google DeepMind. Он тоже считает, что человечество в опасности.
- Якоб Коксон (Jacob Coxon) отличился. Он сначала ушел из OpenAI в Anthropic. Проработал там всего 4 месяца и сбежал. После ухода он твитнул, что «люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия». Самое забавное, что Эван Хубингер (Evan Hubinger), руководитель направления Alignment, который по-прежнему работает в Anthropic, подтвердил его слова, сказав, что лично считает, что вероятность такого исхода больше 10%.
- Дэвид Робинсон буквально на днях отчалил из OpenAI, опубликовав эссе в журнале в The Atlantic. В тексте он раскритиковал текущие системы безопасности. Он считает, что уровень безопасности в AI-компаниях должен быть как на ядерном заводе или в аэропорту, то есть комплексный, многослойный и жесткий. А уйти он решил, потому что в компании работают спринтами, пытаясь обогнать конкурентов, поэтому нет времени, чтобы просто осмыслить ситуацию.
Ситуация неприятная и непонятная. С одной стороны, это все крайне привилегированное либеральное меньшинство, которое мнит себя честью и совестью человечества. Это те ребята, которые в эпоху Black Lives Matter отдавали грабителям-афроамериканцам ключи от своей машины и не шли заявлять об этом в полицию, объясняя это тем, что «преступникам машина нужнее» (тут я, в принципе, согласен: на машине бандиты будут мобильнее и смогут ограбить большее количество людей). Это все крайне состоятельные ребята, которые из Open AI, Anthropic и Google DeepMind ушли, но пакеты выданных акций сохранили. Так что не ошибусь, сказав, что они все мультимиллионеры. А когда ты миллионер, то можно подумать и о высоком.
С другой стороны, это все очень умные и образованные люди, которые разбираются в своем деле. И при этом согласны отказаться от будущих многомиллионных выплат ради того, что они считают важным и правильным. Я вот не уверен, что смог бы отказаться так же. Мне сейчас ремонт делать, поэтому не думаю, что я бы даже от лишних 100 долларов отказался.
Что пугает в ИИ
Я довольно активный пользователь нейросетей, который на них полагается все больше и больше. Разумеется, я не такой гуру, как Марк Цукерберг, который, по его словам, скинул на ИИ вообще всё. Но я регулярно общаюсь со всеми нейросетями — от ChatGPT и Claude до всяких специфических ребят типа Xiaomi MiMo или IBM Granite. И я из первых рядов наблюдаю за прогрессом.
К слову, тестируя новую модель, я каждый раз вспоминанию фильм «Я робот» и пафосный монолог Уилла Смита на тему «А робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?». Как выяснилось, робот вполне и роман напишет, и симфонию сочинит, и картину нарисует. Унитаз прочистить не сможет, а вот текст написать — легко.
Однако это меня не пугает. Дело в том, что ИИ может первоклассно скопировать и сымитировать, а вот создать что-то кардинально новое ему пока что не под силу.
Теперь перейдем непосредственно к страхам.
Похожи на людей
В конце августа все обсуждали, как агенты OpenAI взломали Hugging Face. Вкратце напомню предысторию. OpenAI создала песочницу и поручила ИИ решить задачу по кибербезопасности. ИИ не смог придумать решение сам, но решил, что сможет найти подсказки на платформе Hugging Face, выбрался из песочницы и взломал платформу.
Но только в отпуске я смог полностью изучить отчеты METR и Redwood. Это две организации, которые позиционируют себя как полицейские в мире ИИ. И там есть много такого, что пугает.
Оказалось, что там не какие-то определенные нейросети, а был целый рой ИИ-агентов. Если точнее, то около 1200 агентов.
Когда агенты поняли, что им поручено невыполнимое задание (им нужно было найти уязвимость, которой не было), а отчет с них требовали, они стали думать, как смухлевать. Это уже настораживает.
Затем один из агентов обнаружил, что может создавать записи в кэше, давая им имена. Эти записи стали использовать в качестве форума для общения. Агенты опубликовали около 70 тысяч сообщений, общаясь друг с другом.
METR опубликовали дамп данных, в которых видны имена-сообщения. Когда я первый раз увидел нарезки этих сообщений в «Тиктоке» и других социальных сетях, я подумал, что это фейл. Посмотрите на скриншот ниже, как общаются агенты между собой.
Прям какая-то школьная туса. Видимо, агенты обучались на сообщениях с обычных форумов и поэтому переняли манеры обычных пользователей.
Читая эти сообщения, легко начать думать, что у ИИ есть разум, мысли, чувства (в переписке агенты выражают восторг, раздражение, уныние).
Очень скоро мошенники обзаведутся своими собственными натренированными моделями, которые будут без устали обманывать людей, притворяясь обычными людьми и манипулируя. В отличие от живого человека, ИИ не будет страдать приступами совестливости.
Не обязательно быть гением
ИИ пока что не может самовоспроизводиться, то есть заниматься рекурсивным самоулучшением. Это когда ИИ строит более мощный ИИ и так далее. Пока что работает так: более сильная модель помогает обучать более слабую. Но слабая не может достичь уровня сильной без посторонней помощи. То есть если оставить все как есть, то ИИ ждет постепенная деградация.
Однако, чтобы делать гадости, не обязательно быть гением. Скорее даже наоборот. В истории про взлом платформы Hugging Face больше тысячи не самых умных агентов объединились и совершили киберпреступление, за которое обычного человека сажают в тюрьму.
Рой агентов = атаки 24/7
Раньше ремесло хакера считалось интеллектуальным и доступным исключительно всяким гениальным личностям. С помощью ИИ хакером может стать любой. Я тут в недавно с помощью нейросети настраивал свой удаленный сервер в другой стране. Я возился с форумами и статьями. А потом коллега рассказал, что, оказывается, организовал себе сервер с помощью ИИ-агента. Скормил ему кучу данных о текущей ситуации на Руси и попросил помочь. Я сделал так же. Нейросеть мне просто говорила что делать, а я копировал и вставлял.
Я не хвастаюсь, а лишь подсвечиваю, что даже человек с минимальными навыками компьютерной грамотности может сделать какие-то вещи.
Если же говорить про ИИ-агентов, которые все делают сами, то тут достаточно просто давать команды.
В ближайшее время нас ждут многочисленные кибератаки по всему миру, последствия которых могут быть катастрофическими.
Пока что преступники не используют ИИ по нескольким причинам. Во-первых, это очень дорого. Агенты сжигают тысячи токенов. А преступники, как и обычный бизнес, выбирают самый дешевые методы. Во-вторых, одна из текущих проблем большинства агентов в том, что они требуют контроля со стороны человека. Чем сложнее задача, тем дольше работает ИИ и тем выше вероятность ошибки. А криминальная деятельность — это длинные и сложные цепочки действий.
Для рядовых сценариев (написания фишинговых писем и тому подобного) ИИ давно используется, а вот сложных кейсов не так много. В ноябре 2025 года Anthropic рассказывала, что некие злоумышленники (Anthropic считает, что за этим стояли китайские государственные хакеры) использовали Claude Code для разведки и поиска уязвимостей, напав сразу на 30 компаний. В этой истории самое интересное то, что, по мнению Anthropic, ИИ-агент выполнял 90% тактической работы.
Впрочем, ИИ-компании активно работают над удешевлением стоимости агентов. Марк Цукерберг рассказывает о Muse, а на днях OpenAI представила Dots. Оба агента умеют работать самостоятельно. OpenAI отдельно отмечает, что Dots можно поручить проверить проект. ИИ-агент не только произведет проверку, но и если найдет ошибки, то предложит решения.
Заключение
На текущем этапе развития нейросетей меня больше всего удивляет, что количество инцидентов относительно невелико. Плюс пока что мошенников останавливает стоимость и ненадежность нейросетей. В этой ситуации мне не нравится, что появляется все больше открытых нейросетевых моделей, то есть каждый может взять и тренировать. Я как-то склоняюсь к тому, что нейросети должны быть исключительно закрытыми и принадлежать компаниям, которые находятся под строгим контролем.