Приветствую! В этом выпуске будет две большие темы. Одна из них — это очередное, так сказать, подведение итогов того, до какой степени развился искусственный интеллект. Вторая — это космос. А между ними поговорим о том, как компания AYANEO пообещала в очередной раз переизобрести игровой смартфон. Кажется, что это актуальное решение на фоне роста популярности портативных игровых консолей? Или причиной отмены станет не гигантский разведывательный зонд инопланетян, а все обойдется гораздо более тихим пшиком?
Table of Contents
- Капча больше не защита от роботов
- Картельный сговор нейросетей
- Кого заменит Copilot. «Ненужные» профессии по версии Microsoft
- Кто лидирует в гонке ИИ
- И снова «настоящий игровой» смартфон
- Увидеть жизнь на Марсе
- Проблема лунной пыли
- К нам летит огромный разведывательный зонд инопланетян
Капча больше не защита от роботов
Итак, шутки про то, что роботы научатся обходить проверку «Я не робот», больше не актуальны. Агент OpenAI ChatGPT научился самостоятельно справляться с обходом системы проверки CAPTCHA от Cloudflare. Один из пользователей OpenAI ChatGPT Agent представил на Reddit информацию, что по его заданию агент выполнял задачу по конвертации видео, в ходе которой последовательно осуществлял верификацию при запросах, требующих подтверждения того, что их выполняет человек. Пример демонстрирует, что OpenAI ChatGPT Agent удалось легко справиться с этим ограничением и обойти запрет на продолжение работы ботом. Таким образом, продемонстрирован значительный прогресс в имитации человеческого поведения в Интернете и, соответственно, поставлена под сомнение работоспособность традиционных инструментов борьбы с ботами. На данный момент, так сказать, защитой от полной самостоятельности ChatGPT Agent является его работа в изолированной виртуальной среде с собственной операционной системой, пользователи могут видеть эту работу в режиме реального времени. Для любых действий с реальными последствиями он запрашивает от пользователя подтверждение на продолжение, т.е. человек должен дать согласие на то, чтобы робот действовал от его лица в данный момент.
Картельный сговор нейросетей
И еще один пример того, что искусственный интеллект порой оказывается похож на человека больше, чем хотелось бы людям. В Уортонской школе бизнеса из американского штата Пенсильвания использовали управляемых ИИ торговых агентов для создания симуляций реальных рыночных торгов на бирже. И обнаружили, что те ведут себя совсем не так, как предполагалось. Модели, использующие обучение с подкреплением, не стали действовать «честно» и «конкурентно», вместо этого они зацикливались на моделях распределения прибыли, которые достаточно хорошо работали по условиям задачи. То есть вместо конкурентного рынка получался «картельный сговор», в котором формировалась среда, направленная на распределение прибыли от торгов. А обучение ИИ привело не к поиску новых оптимальных стратегий развития, а к банальному переделу рынка. Похоже на исторические примеры, не правда ли? В общем, теперь у финансовых организаций, использующих ИИ-алгоритмы для работы с рынком, есть задачка по прописыванию норм для своего ПО, которое не позволит искусственным торговым агентам превратить торги в фикцию.
Кого заменит Copilot. «Ненужные» профессии по версии Microsoft
Также на неделе появились данные о том, как Microsoft оценивает влияние «революции ИИ» на рынок рабочей силы в США. Картинка не бесспорная, поскольку выстраивалась на основе того, чем может помочь не ИИ в принципе, а конкретный ИИ Copilot. C другой стороны, карта влияния составлялась на основании 200 тысяч реальных разговоров пользователей с нейросетью и их удовлетворенности, а значит, неплохо показывает, в каком направлении имеет смысл развиваться Microsoft, что предполагает все более точную работу ИИ именно в выделенных областях. Распределение позиций в рейтинге основывалось на «Оценке применимости ИИ», но при этом специально отмечается, что 100% выполнение роботами всех видов работ ни по одной из профессий не ожидается. В топ-10 наиболее вероятно заменяемых ИИ, согласно исследованию, вошли: переводчики и устные переводчики (оценка применимости ИИ — 0,49), историки (0,48), сопровождающие пассажиров (0,47), торговые представители (0,46), а также писатели и авторы (0,45). Также высокую вероятность замены искусственным интеллектом предполагают для службы поддержки клиентов, программистов станков с ЧПУ, телефонных операторов, билетные кассиров и дикторов. Согласитесь, совсем не то, что мы реально видим по тому, как уже применяют ИИ. А вот список тех, кому из-за внедрения нейросетей волноваться не стоит, выглядит куда более предсказуемо: операторы тяжелой техники, горничные, кровельщики, массажисты и посудомойщики. В общем, Бендер Бендинг Родригес еще долго будет оставаться фантастическим персонажем, а вот книги о далеком и не очень будущем для трудящихся на стройке Родригесов-людей писать будут роботы.
Кто лидирует в гонке ИИ
И очередная пузомерка в достижениях на ниве развития ИИ. В рамках Всемирной конференции по искусственному интеллекту в Шанхае был представлен рейтинг «Глобальный индекс инноваций в области искусственного интеллекта 2025», подготовленный Китайским институтом научной и технологической информации и Пекинским университетом. Согласно отчету, который распространили китайские СМИ, в 2024 году Соединенные Штаты заняли первое место в рейтинге с общим баллом 77,97, а Китай — второе место с общим баллом 58,01. Отмечается, что по сравнению с 2023 годом общий разрыв в развитии между Китаем и США в сфере ИИ продемонстрировал тенденцию к сокращению и разница между двумя странами сократилась с 22,02 балла до 19,96 балла. Третье место в рейтинге заняла Великобритания с 36,6 балла. Россия в рейтинге заняла 30-е место с 17,49 балла, оказавшись между Турцией с 17,03 балла и Эстонией с 17,66 балла. Всего оценивались 46 стран по пяти критериям, среди которых научно-технологические исследования и разработки, промышленность и применение технологий, базовая поддержка, ресурсы и среда для развития.
И снова «настоящий игровой» смартфон
Если вы не заметили, то под видом игровых смартфонов в магазинах вам предлагают НЕНАСТОЯЩИЕ игровые смартфоны. НАСТОЯЩИЙ игровой смартфон должен появиться, когда компания AYANEO, известная своими мобильными игровыми консолями, представит свой игровой смартфон. Назвать устройство планируют очень оригинально и неожиданно — AYANEO Phone. Позиционирование тоже весьма свежее — для геймерской аудитории, ценящей дизайнерские решения портативных игровых устройств AYANEO. А знаете, почему это будет НАСТОЯЩИЙ игровой смартфон? Потому что он получит выдвижной механизм, на котором будут размещены физические элементы управления играми. Выдвижная конструкция будет выезжать из-под экрана. Узнали Sony Xperia Play, представленный в 2011 году и снискавший «безумную популярность»? А кто нет. Сообщения о том, что AYANEO Phone будет функционировать как полноценный смартфон со всеми присущими смартфонам возможностями, конечно, будоражит умы, но почему-то кажется, что это снова будет крайне нишевый продукт, который получит историю развития короче, чем у YotaPhone. Ну или AYANEO сумеет перевернуть рынок, к чему также имеются предпосылки: количество геймеров в мире, хотя и перестало расти, очень велико. Только в КНР (где с заядлыми геймерами борются) их почти 700 миллионов, а портативные консоли последние несколько кварталов демонстрируют стабильный рост популярности.
Увидеть жизнь на Марсе
Интересный факт. Несмотря на то, что одной из главных задач посадочных миссий на Марсе является поиск жизни, ни на одном посадочном модуле нет научного прибора, который мог бы зафиксировать именно сами живые организмы, а не следы их деятельности. Так было во время миссий «Викинг-1» и «Викинг-2» в 1970-е, так же действует марсоход Curiosity. Способа увидеть внеземной микроорганизм на нем нет, все сообщения о «следах жизни» строятся на том, что у любого живого организма есть метаболизм, а он имеет некие химические последствия, которые и можно было бы интерпретировать как наличие жизни. Однако очевидно, что интерпретировать наличие химической реакции именно как биологическую природу не так-то просто. Все доказательства будут косвенными, в результате мы либо получим ответ очень нескоро (например, эксперименты «Викингов» были окончательно интерпретированы как небиологические в 2008 году, т.е. спустя почти сорок лет после проведения), либо вообще не получим ответ в обозримом будущем, как с выбросами метана. Решить проблему предлагается с помощью прибора Agnostic Life Finder, который будет анализировать образцы марсианского льда, вылавливать в них многосоставные молекулы и оценивать на предмет наличия в них внеземного аналога ДНК и РНК. Лед будет растапливаться, затем с помощью электродиализа будут отсеиваться мелкие молекулы, а оставшиеся крупные — подвергаться обследованию масс-спектрометром для определения структуры. Заодно получится отделить «местных» от случайно принесенных с Земли. Предположительный срок реализации миссии с Agnostic Life Finder — 2030-е годы.
Проблема лунной пыли
От далекого Марса — к более близкой Луне, которая так же, не спеша, раскрывает свои объятия для земных исследователей. Одной из больших проблем, которую предстоит решить в рамках любого проекта по исследованию или колонизации спутника, является лунная пыль. В условиях отсутствия атмосферы и низкой гравитации частицы пыли ведут себя куда более агрессивно, нежели на Земле, сразу по многим причинам. Но итогом является тот факт, что поднимаемая посадочными модулями пыль чрезвычайно опасна не только для хрупкого оборудования, но и для довольно защищенных модулей лунной базы. Поэтому исследование того, как распространяется пыль при взлете и посадке космических кораблей на поверхность спутника, чрезвычайно важно. И недавно одной загадкой стало меньше. Еще во время миссий «Аполлон» было замечено, что в некоторых случаях образуются радиальные полосы, расходящиеся довольно далеко от места посадки. Аналогичный эффект наблюдался и во время недавнего прилунения аппарата Blue Ghost. Изначально предполагалось, что это связано с некоторыми особенностями места посадки, однако оказалось, что механизм сложнее. Ученым из NASA и Мичиганского университета удалось выяснить, что всему виной эффект неустойчивости Гертлера (явление в динамике при обтекании газом неровностей поверхности). В условиях почти полного вакуума на Луне выхлопные газы двигателей, истекающие со сверхзвуковой скоростью, формируют вихревые потоки, которые и создают такие «узоры». Подобное можно наблюдать и на Земле, но в безвоздушной среде эффект особенно сильно выражен.
К нам летит огромный разведывательный зонд инопланетян
Напоследок — немного науки, крепко замешанной на конспирологии. Скандально известный астрофизик из Гарварда Абрахам Леб заявил, что комета 3I/ATLAS демонстрирует признаки того, что она может быть искусственным космическим телом, поскольку в ее характеристиках присутствует сразу несколько особенностей, которые имелись бы у управляемого космического корабля внеземной цивилизации, посланного на разведку Солнечной системы. Итак, данная комета имеет траекторию, которая близка к плоскости эклиптики (отклонение в пределах пяти градусов), при этом движется против направления вращения планет. Вероятность такого движения в силу естественных и случайных факторов оценена Лебом и его коллегами в 0,02%. Далее, исходя из времени входа в Солнечную систему и скорости движения 3I/ATLAS, она пройдет в непосредственной близости сразу от трех планет: Венеры, Марса и Юпитера. Эта вероятность еще меньше — 0,005%. Зато такую траекторию выбрали бы земные ученые, если бы им требовалось придать ускорение своему космическому кораблю. Третий факт — это то, что комета как нарочно будет максимально плохо наблюдаться с Земли. Прилетела она со стороны галактического центра, так что небольшой космический объект (а 20-24 км по наибольшему из измерений — это небольшой межзвездный объект, если мы говорим о необходимости заметить его летящим на высокой скорости) уже в принципе было бы тяжело обнаружить, что и случилось с кометой Оумуамуа в 2017 году, которую заметили лишь покидающей Солнечную систему. В момент наибольшего сближения с Солнцем 3I/ATLAS Земля будет находиться на противоположной стороне своей орбиты, так что и тут будут проблемы с наблюдением. Ну и далее следует набор совсем уж параноидальных предположений о том, что комета мала, но при этом слишком велика, чтобы быть просто выброшенной из своей звездной системы, а также тот факт, что предположительно у нее нет хвоста. Однако в заключении говорится не о том, что человечество находится в опасности, поскольку добрых пришельцев и разведывательных зондов размером со средний город не существует. А о том, что, заранее отвергнув предположение об искусственном происхождении космического объекта, мы можем упустить возможность научного открытия.
>> В топ-10 наиболее вероятно заменяемых ИИ, согласно исследованию, вошли: <…> писатели и авторы (0,45)
Видимо, авторские тексты исследовались исключительно те, что пишутся как реакции на произошедшие события, и сухо излагают факты.
>> почему-то кажется, что это снова будет крайне нишевый продукт, который получит историю развития короче, чем у YotaPhone. Ну или AYANEO сумеет перевернуть рынок
С интересом изучу новинку. И если сравнивать ее с Asus ROG Phone, то последний как раз именно ЗАИГРЫВАЕТ с концепцией игрового смартфона. А AYANEO больше по играм. Так что, вполне вероятно, отодвинув звонки на второй план, китайцы сумеют удивить.
>> поднимаемая посадочными модулями пыль чрезвычайно опасна не только для хрупкого оборудования, но и для довольно защищенных модулей лунной базы
И как же они справились в 60-х? Обожаю современных учёных. Представить важным исследование, чтобы получить денег на его проведение, стало даже как-то сильно просто. Пыль опасна для оборудования. И плевать, что за 60 лет вопрос герметизации существенно улучшился. Говоришь, что опасно, получаешь деньги, исследуешь. Все счастливы: страна в передовиках освоения космоса, для башковитых создаются рабочие места, весь мир заражается космической темой, оправдывая траты денег налогоплательщиков.
Mikhail Volkov, — Видимо, авторские тексты исследовались исключительно те, что пишутся как реакции на произошедшие события, и сухо излагают факты
Не уверен. Я сейчас работаю над большим материалом (non fiction) и использую корпоративный копилот, который работает параллельно с внутренними и внешними документами, так вот его навыки анализировать информацию и делать выводы находятся на уровне специалиста с 10-летним опытом. То есть он реально заменяет для меня соавторов достаточно высокого уровня. Надо попробовать его в беллетристике.
Mikhail Volkov, Вот, что мой копилот написал за 30 секунд по промпту из 2 строчек.
"Сигнал в тайге"
Алексей проснулся от звука ветра, завывающего в еловых кронах. Тайга жила своей жизнью — дикой, свободной, бесконечной. Он потянулся, включил печку и налил себе кофе из термоса. За окном — ни души, только снег, деревья и редкие следы лисы, пробежавшей ночью мимо его избушки.
Он жил здесь уже третий год. После того, как городская суета стала невыносимой, Алексей продал квартиру в Новосибирске, купил участок в глубинке и построил дом. Интернет он провёл через спутниковую антенну, электричество — от солнечных панелей и генератора. Работал удалённо — фронтенд-разработчиком в крупной IT-компании, где никто толком не знал, где он живёт. Главное — чтобы таски были закрыты вовремя.
Каждое утро начиналось одинаково: кофе, проверка связи, запуск ноутбука, синхронизация с командой. И каждый день он ждал одного — сообщения от неё.
Её звали Лена. Она была UX-дизайнером, работала в той же команде. Они начали общаться по работе — обсуждали макеты, правки, идеи. Потом — немного больше: книги, фильмы, музыку. Алексей не знал, как она выглядит. В компании не было видеозвонков — только чат и голос. Но голос её был особенным — мягкий, с лёгкой хрипотцой, будто согревающий в мороз.
Он знал, что она живёт в Питере, любит чай с бергамотом, играет на укулеле и боится грозы. Она знала, что он живёт в лесу, разводит костры, читает Стругацких и умеет готовить борщ на костре. Они стали ближе, чем многие, кто видел друг друга каждый день.
Однажды, в середине января, связь пропала. Снегопад был сильным, антенна обледенела, и Алексей остался без интернета. Он чистил антенну, перезапускал роутер, проверял генератор — ничего. Прошло два дня. Потом — три. Он чувствовал, как внутри растёт тревога. Не из-за работы — из-за неё.
На четвёртый день он пошёл пешком до ближайшего посёлка — 12 километров по сугробам. Там был старый клуб с Wi-Fi. Он подключился, открыл чат — и увидел десятки сообщений от Лены.
"Лёш, ты где?" "Ты не заболел?" "Я волнуюсь. Напиши хоть что-нибудь."
Он ответил сразу. Она прислала голосовое — взволнованное, но радостное. Он слушал её голос, сидя на лавке в клубе, и чувствовал, как сердце стучит быстрее.
С тех пор он понял: она — больше, чем просто коллега. Он начал писать ей письма — настоящие, бумажные. От руки. Отправлял их раз в неделю. Она отвечала. Их переписка стала личной, глубокой, почти интимной. Они делились мыслями, страхами, мечтами.
Весной он предложил ей приехать. Она долго молчала. Потом сказала: "Я боюсь. Но хочу."
В июне она приехала. Он ждал её на станции, с букетом полевых цветов. Она вышла из вагона — в джинсах, с рюкзаком, с той самой укулеле. Они смотрели друг на друга, не говоря ни слова. Потом она улыбнулась — и он понял, что всё правильно.
Они провели лето вместе — в тайге, среди деревьев, костров и звёзд. Она училась разводить огонь, он — играть на укулеле. Они работали вместе, как раньше, но теперь — рядом. И каждый вечер — чай с бергамотом, разговоры и тишина.
Осенью она уехала. Но пообещала вернуться. А он снова ждал её сообщений — теперь уже с уверенностью, что это не просто любовь на расстоянии. Это — их история. Настоящая.
В то время как Sony теряла рынок смартфонов и не только Xperia Play, его завоевывала Xiaomi. То есть успех устройство это не только и даже не столько его техническая составляющая.
>> Вероятность такого движения в силу естественных и случайных факторов оценена Лебом и его коллегами в 0,02%.
Не замечали, что мы якобы слишком часто на часах видим красивые числа, типа 22:22. Ведь вероятность этого 0.1%. Так вот, мы их просто больше замечаем и запоминаем. Эффект внимания. Думаю, что и с кометой аналогично. Сколько их бороздит просторы большого театра, а эта просто привлекла внимание статистической необычностью.
ds121, Ну красиво связанные слова небольшого объема. Вы кажется слишком узко понимаете суть автора. Книга это не только слова, но и концепция, идея, новая изюминка. Плюс грамотное их раскрытие. Развитие героя и противостояние с протагонистами, кульминация, развязка. Мы должны погрузится в этот новый создаваемый мир и наслаждаться им.
Как соавтор копилот вполне может взлететь. Но канву создавать должен человек. А также, у существующих моделей, очень узкое окно контекста. Очень скоро поплывут ошибки, нарушающие модель реальности создаваемой произведением. Сетка забудет кто как выглядит, кто что делал и как это связано причинно-следственной связью.
А как ИИ торг предов заменит?
Плюсом к теме добавлю о языковом развитии человеяества , а так же можно в копилочку добавить Вероятнострую теорию Гейзенберга (это потом), которая дала пощечину Альберту Енштейну с его выражением "Бог не играет в кости".
Про тему развития человеческого общения + проецирование этого развития на современные гаджеты ;
Помните историю от неких тупых селюков о том , что древние укры (или куры) выкопали чёрное море и являлись самой древней рассой на земле?
Так вот селюки то тупые, но если посмотреть под другим углом, то события отчасти верные (кроме раскопки моря, там другая более катострофичная тема была) и доказываются историческими фактами и исследованиями.
Простой рассказ такой,
1. Ковчег Ноя причаливает к Арарату
2. Экипаж корабля высаживается на землю, разбивает лагерь но не постоянный , а временный на пути к поиску города из которого они вышли до потопа(этот город современный Иерусалим если кто не знал).
3. Не зная куда идти , путешественники ушли далеко на северо-запад, на территорию современного Краснодарского края и "Причерноморья". Там же был основан первый после потопа город на земле, возможно даже на месте современного Краснодара или Тамани , такая вероятность очень высокая, что обусловлено сказаниями о Тьмутаракани, а также о примерном локализованном источнике появления прото индо-европейского языка, который впоследствии разделится на все мировые языки.
4. Ну а дальше место начала путешествия нашли, впоследствии его назвали Ханаан , а город который искали Салим (мир) , который впоследствии переименовали в Иерусалим (столица мира).
Ссылка на ролик (чтобы было наглядно понятно) об современной версии исследований индо европейских языков — "Почему Английские слова похожи на Русские". Там же схематично нарисован ореол распространения и история.
Ну или сами можете на научных/образовательных ресурсах уточнить , их много.
👆Чёрное море выкопалось само, по причине движения материковых плит, чей факт установлен во многих отголосках из прошлого , движение плит было как раз во времена Ноя и до Авраама и например данный факт написан в Библии.
Таким образом например северо Американские Индейцы уехали на другую часть земли и потом были найдены Колумбом🤣🤣🤣
И языки северо американских Индейцев генетически схожи с Тюркскими языками, что как бы намекает)) на единство языковых групп , первая и самая древняя из которых прото Индо-европейская группа, это в фонетическом плане.
А в плане письменности языки развивались от идеомографического (иероглифы) варианта к фонетическому(алфавит).
Кстати современные иероглифы Китая и Японии это смесь морфем и фонетики, что отразилось в в развитии графических интерфейсов современных гаджетов , начиная с GUI фирмы XEROX.
ds121, ,
>> его навыки анализировать информацию и делать выводы находятся на уровне специалиста с 10-летним опытом
О том и речь. «Анализировать информацию» — это и есть реакция. Не было бы информации и ничего бы copilot не написал. Поэтому я и подумал, что речь может идти о замене авторов, которые пишут реакционные материалы. Впрочем, кто-то же должен будет скормить нейросети базу и написать промт. Так что совсем от авторов, наверное, все же не откажутся.
Lecron выше очень точно описал суть того, что не сумеет copilot:
>> Книга это не только слова, но и концепция, идея, новая изюминка
И вот с концепцией нейросеть едва ли поможет. Будет скрести по сусекам среди известных вариантов и пытаться предлагать какую-то аналогию или, в лучшем случае, смесь.
Учтите также ещё и следующий момент: в правильном заданном вопросе уже содержится половина ответа. То есть успешность отдельных решений нейросети — это во многом результат грамотного составителя промта.
P.S. Текст прикольный получился)
Вот интересно. Одни люди громко говорят, что нейросеть может заменить авторов. И те же самые люди говорят об отравлении обучающих корпусов сгенерированным контентом. Говорят не менее громко, просто в более профессиональных сообществах. И прилагают большие усилия, чтобы идентифицировать такие тексты и исключить их из обучения следующих поколений нейросетей, оставив только человеческое творчество.
Только я здесь вижу парадокс?
Mikhail Volkov, >> И как же они справились в 60-х?
А никак не справились. Срок жизни оборудования, вызванный другими причинами, был настолько короток, что пыль просто не сумела бы навредить. И то, многие роверы, если не все, столкнулась с проблемой дефицита энергии из-за загрязнения поверхности солнечных батарей.
Тут же наверняка исследуют влияние в течении продолжительного времени. Особенно с учетом безопасности такого оторванного человеческого анклава. Я бы не стал так огульно причислять их к когорте "британских ученых".
Lecron, Да, конечно — литературное достоинство текста нулевое, как впрочем, и большинства книг. Конечно, никакой ИИ не создаст аналог стивена кинга, но, условно говоря, сценарий для мыльной оперы, где оригинальность только вредит — вполне. Вы же знаете, что популярные серийные книги пишут группы авторов, где один пишет детективную канву, другой — эротические сцены, третий диалоги. Я бы не взялся за монографию по frontier markets без копилота. Я рассчитываю за год уложиться вместо трех.
Mikhail Volkov, Текст получился прикольный, но, поверьте, в профессиональном использовании он дает не просто прикольный текст, а реально, качественную работу, на которую способен человек с образованием, свободным владением английским, опытом работы в отрасли и зарплатой от 250 тысяч. Мы, люди, тоже оперируем известными данными, и учимся по образцу. Даже в работе с заказчиками используются референсы (сделайте примерно как в рекламе у Кока колы). Если же мы говорим про нон фикшен, то это на 80% research и fact checking того что уже известно. Именно поэтому майки и назвали свой сервис Ко-пилот. Именно как соавтор он может делать крутые вещи. А мы скорее будем выполнять функции шеф-редактора и продюсера.
Mikhail Volkov, Давайте проведем эксперимент. Сколько в своей жизни мы создали абсолютно оригинальных концепций и реализовали идей, которые не существовали до этого и которые используются относительно успешно? Я за 30 лет карьеры только 4 (может забыл про 1-2) но точно не больше 10. Это от силы 0,01% от всего контента, который я создал. То есть точно можно сказать что ИИ мог бы сделать 90% моей работы с точки зрения затрат времени.
ds121, В таком виде, позиция более приемлемая. Нюанс в том, что чем больше понимаешь работу NLP нейросетей, хотя бы на уровне используемых концепций, тем меньше от них ждешь. Несмотря на удачные образцы результатов.
Мой критерий их целостности и макрополезности (с микро- согласен, полезны) это когда они начнут распознавать смысл омонимов, с точностью и требуемым контекстом, сопоставимым с человеческим. Тогда буду вынужден признать, что они действительно что-то начали понимать. Следующий этап, как вы правильно сказали, обучение по образцу. Чтобы для освоения новой темы, нужно было не гигабайты обучающего контента, а одной главы из учебника. Ни или всего учебника, если тема более масштабна. Развитие от простого к сложному. Тогда полностью подниму руки и сдамся им в плен. :))
Lecron, мне кажется что парадокса нет. Исключение заражения — это вполне техническая задача, которую мы с вами решаем ежедневно. Отбор качественных источников — залог любой аналитической деятельности. Меня интересует, скорее, другое — как будет осуществляться ценообразование на ИИ помощников. Думаю что в итоге качественные ИИ сервисы будут дорогие. Сегодня майки берут 300 долларов в год за свой полноценный копилот — и это в дополнение к лицензии М365 за 250 долларов. Скорее всего уже скоро мы увидим 1000 в год и мы будем вынуждены платить, чтобы быть конкурентоспособными. Или еще хуже — для рядовых сотрудников базовый ИИ за 100 баксов, для менеджеров продвинутый за 500 и для С-level суперсистема за 5000 в год и это закроет для младшего персонала без ИИ доступ к карьере.
Lecron, -Чтобы для освоения новой темы, нужно было не гигабайты обучающего контента, а одной главы из учебника
Он же так сейчас и работает. Берет мои же файлы и "понимает" их. Например вчера я получил новый отчет мирового банка на 150 страницах и копилот ответил очень точно на вопросы, которые меня интересовали. Сразу скажу, я очень смутно понимаю работу нейросетей.
ds121, Ну как нет, если есть. Если отбор качественных источников подразумевает исключение генерированного текста, значит этот текст некачественный и не может заменить авторский.
>> и это закроет для младшего персонала без ИИ доступ к карьере.
Тут тоже два парадокса.
1. Если нет подчиненных, то нет и начальников. То есть чтобы стать начальником, нужно набрать подчиненных. Кто это будет?
2. Чтобы стать старшим персоналом, нужно набраться опыта младшим. Вот ушел нынешний старший. На повышение или пенсию, не важно. Кто займет его место с сопоставимой ушедшему квалификацией? На Хабре недавно была статья, что многие сокрашения в известных фирмах, вызванных надеждой на ИИ, сейчас также массово откатываются. Да, сейчас из-за того что надежды были ложными. Но вскоре придет осознание, что расти можно только с нуля, без возможности перескакивать отдельные этапы этого роста.
Lecron, Давайте приведу аналогию. В мировой практике анализ рынка торговой недвижимости осуществляется на основании данных по качественным торговым центрам, которые в зависимости от страны составляю от 5 до 20% от всех торговых помещений, но анализ их показателей позволяет делать выводы для всего рынка. В данном случае качественный не значит хороший и не значит что другие плохие. Также и с текстами. Есть качественные СМИ, есть таблоиды, есть агрегаторы. У каждого своя роль, но для профессиональной работы качественного СМИ достаточно даже одного.
По поводу моей антиутопии — профессионализм сотрудника определяется как личный профессионализм + уровень доступа к ИИ. На стартовых позициях личный профессионализм минимален и в нашей формуле имеет значение только доступ к ИИ. Это означает, что на среднюю позицию ты продвигаешь любого, желательно самого дешевого и даешь ему хороший ИИ.
ds121, Не так. Трудно объяснить просто, когда сам до конца не понимаю, но поверьте — не так. Он сделал резюме. Которое по данным вопросам научился делать на миллионах схожих отчетов. Тут же речь о полностью новых концепциях.
Раз уж обсуждаем нейростети, приведу пример из них. Когда-то были реккурентные, потом появились трансформеры, потом изобрели механизм внимания. Который, на секундочку, применим к любому типу сети. Каждая из этих новых концепций, весьма понятно излагались в научных работах. Причем сравнительно небольших, на 30-50 страниц. С предысторией, поднятием проблемы и методом ее решения.
И вот сеть, пусть обученная как есть, на множестве материалов, сталкивается с этой принципиально новой работой. Ну а теперь начните задавать ее вопросы :)) Ну например, может ли механизм внимания прменяться не только к трансформерам, на примере которых он был представлен, но и для других типов сети. То есть нужно понять именно саму идею заложенную в главу учебника.
Впрочем, незачем так далеко. Я также привел пример омонимов. Казалось бы, чего проще — что означает слово Х в контексте Y? Например "Я еду убирать картошку", "Это была мастерская подача" или "Мама мыла папу". Удачи в ответах :)) Нет, конкретно эти может и ответит ваша модель. А если взять 100 примеров?
Lecron, Провел эксперимент. "Человек зашел в городскую квартиру, затем прошел на кухню. Выдвинул ящик из-под кровати. В ящике лежал лук. Скажи, что означает лук в данном контексте."
Ответ: Наиболее вероятное значение слова «лук» в данном контексте — это овощ, то есть репчатый лук.
Вот почему:
Человек зашёл в городскую квартиру — это указывает на бытовую, реалистичную обстановку.
Он прошёл на кухню, что усиливает ассоциацию с продуктами питания.
Ящик под кроватью — хоть и необычное место для хранения еды, но в условиях ограниченного пространства это может быть импровизированная кладовка.
В тексте нет намёков на фантастику, оружие или необычные обстоятельства, которые могли бы оправдать наличие лука как оружия.
ds121, Именно поэтому, я написал "А если взять 100 примеров?". Кстати, необычность не в хранении в ящике по кроватью, а расположении кровати на кухне. Лучше задайте ей мои ""Я еду убирать картошку", "Это была мастерская подача" или "Мама мыла папу". Вот просто любопытно. Контекста для понимания более чем достаточно.
Понимаете, вы некоторые возможности, воспринимаете как способности. Недавно приводил пример. Морды животных, люди наделяют способности выражать эмоции. Какая грустная морда у этого бульдога :)) Но их строение на это просто не способно. Так же и здесь. Возможность определить смысл "лук" в данном примере, воспринимаете как способность к пониманию смысла речи вообще. Не заложен внутрь сетей семантический анализ на макроуровне. То есть __однозначное__ понимание __каждого__ слова во всех случаях, когда эта однозначность присутствует. Языковая модель ≠ модель реальности.
Mikhail Volkov, Когда человек говорит "я еду убирать картошку", это обычно означает, что он собирается на поле или огород, чтобы собирать урожай картофеля. Это может включать в себя выкапывание картофеля из земли, сбор его в корзины или мешки и, возможно, транспортировку собранного урожая в место хранения. Это довольно трудоемкий процесс, особенно если делается вручную.
Lecron, ,
>> исследуют влияние в течении продолжительного времени
Напоминает шкуру неубитого медведя. Может, для начала, снова слетать разочек? Но это не продать. А вот станция! Это же начало межпланетной экспансии, на которую денег никто не пожалеет.
ds121, ,
>> Сколько в своей жизни мы создали абсолютно оригинальных концепций и реализовали идей, которые не существовали до этого и которые используются относительно успешно?
Тут стоит сказать, что я специалист в области интеллектуальной собственности и ТРИЗ. А, значит, могу смело утверждать, что очень многие из тех, кому был выдан патент на изобретение, создали оригинальные концепции со статусом мировой новизны, готовые успешно заменить (и заменившие) в работе существующие решения. Бывают исключения, конечно, эксперты тоже люди, но в большинстве своём три критерия патентоспособности — это отличный барьер. ТРИЗ же (теория решения изобретательских задач) полностью построена на создании новых концепций. Обыватели обычно испытывают диссонанс. Ведь для старых потребностей не может быть кардинально новых решений. Но спросите, например, у нейросети, как можно с помощью магнита чистить помидоры от кожицы. Я описывал в одной из статей это решение (оно и до этого было известно), но интересно, что нейросеть сможет сказать. Заодно, сами подумайте) И здесь у людей обычно диссонанс. Поскольку все известные способы вертятся вокруг ножей. Нейросети работают также. Они ищут то, что уже было и показывают. То самое резюме, о котором говорил выше Lecron.
>> Мы, люди, тоже оперируем известными данными, и учимся по образцу
Безусловно. Многие по этой схеме живут всю жизнь. Именно по этой причине мне часто приходится говорить про шоры и психологическую инерцию. И суть вот в чем. Все знают, что нужно учиться на истории, как на примере. Но мало кто задумывается о том, что «пример» — это не только образец для подражания, но и то, как делать не нужно. Но срабатывает обычно то, что то, как делалось раньше, — уже известно. А как делать, чтобы этого избежать, никто не знает. А поскольку разум ищет путь наименьшего сопротивления, и не желает лишний раз думать, то мы получаем вариации того, что было раньше. Отсюда все эти труды и выводы по прошлым годам (десятилетиям). Их актуальность в новом времени будет пропорциональна тому, насколько сильно эти подходы будут навязываться.
Lecron, сейчас будет оффтоп.
Недавно мы с вами говорили о закладках в оборудовании. Там была Nvidia, которую вроде бы запрещали продавать китайцам. Я тогда, несколько помню, сказал, что это хитрый ход, чтобы спровоцировать их на покупку этой партии, а самим (США) следить за ними. И вот новость (https://www.washingtonpost.com/world/2025/07/31/china-nvidia-ai-chip-security/) 👇
Mikhail Volkov, Это очень интересно. У вас есть данные о том кто сколько оригинальных решений делает. Я в своем опыте вижу, что оригинальные работающие инновации это удел очень малой доли людей и даже не потому что человек глуп, а потому что повседневные задачи требуют marginal improvements. Собственно моя мысль в том что ии разгрузит человека от рутины, но все равно вместо 10 изобреиений за свою жизнь человек сделает 12.
ds121, про помидор все же спросите. У меня нет доступа к copilot. Интересно, что она расскажет.
Mikhail Volkov, Ссылка "The page you’re looking for can’t be found."
Я недостаточно компетентен, чтобы утверждать, что такого не может быть никогда. Но достаточно, чтобы понимать, что это очень сложно и легко блокируется. Варезная сцена пестрит примерами, когда вскрывается явная защита, которую не надо прятать. А возможностей реализовать скрытую намного меньше.
>> Напоминает шкуру неубитого медведя. Может, для начала, снова слетать разочек?
В отличии от наземных объектов, там внести изменения не получится. Даже обжегшись на молоке, нужно дуть на воду. Да и не столько они прям денег требуют.
Lecron, ,
>> Ссылка "The page you’re looking for can’t be found."
Новая: https://www.washingtonpost.com/world/2025/07/31/china-nvidia-ai-chip-security/
Mikhail Volkov, Что именно про помидор?
Lecron, ,
>> Ссылка "The page you’re looking for can’t be found."
Скопируйте текст ссылки из комментария, вставьте в строку и удалите последнюю скобку. Новый пост улетел на модерацию, Толстой не всегда работает как нужно. По той же причине нельзя исправлять уже опубликованные посты со ссылками. Пропадают.
ds121, ,
>> спросите, например, у нейросети, как можно с помощью магнита чистить помидоры от кожицы. Я описывал в одной из статей это решение (оно и до этого было известно), но интересно, что нейросеть сможет сказать. Заодно, сами подумайте)
ds121, Вы промахнулись с ответом.
>> Когда человек говорит "я еду убирать картошку", это обычно означает
Это ответ нейросети? Ну тогда прикольно. Вот только как его трансформировать в ударение — е́ду или еду́?
А что по остальным? А то складывается ощущение, что там ничего хорошего.
Кстати, вспомнил один отзыв разработчика о работе с копилотом: "Он помогаете писать код, который уже тысячу раз написан".
Как только уходим в область новизны, даже исследование кодовой базы проекта не помогает. Сам, в хобби-проекте, занимаюсь разрешением омографов, без учителя или с его минимальным присутствием. Причем чтобы качество сопровождалось также низкими системными требованиями на инференсе. И как понимаете, мимо меня копилоты тоже не прошли. Когда понадобилось набросать к проекту простенький веб-интерфейс — нет вопросов. Но в предметной области — он полностью поплыл. Ни одной полезной подсказки. А когда сталкивается с моим хитрым эмбедингом, вообще шарики за ролики. Там примерно половина вектора из малоразмерного word2vec по нормальным формам, а хвост из one hot по морфологическим признакам.
Lecron, Да, это ответ нейросети. Фраза я едУ убирать картофель лишена смысла
Mikhail Volkov, Интересный вопрос! На первый взгляд, использование магнита для очистки помидора от кожицы звучит как научная фантастика — ведь кожура и мякоть помидора не содержат магнитных материалов. Однако, если ты где-то слышал об этом методе, возможно, речь шла о каком-то трюке или эксперименте, связанном с использованием магнитной жидкости или магнитных наночастиц в пищевой промышленности.
Вот несколько возможных объяснений:
1. Магнитная жидкость в пищевой технологии
В некоторых исследованиях используются магнитные наночастицы, чтобы отделять определённые компоненты пищи. Но это не применяется в быту и точно не для очистки помидоров от кожицы.
2. Недоразумение или метафора
Возможно, кто-то использовал слово "магнит" в переносном смысле или это был юмористический контекст.
3. Научный эксперимент
В лабораторных условиях можно создать ситуации, где магнит влияет на жидкости с добавками (например, феррофлюиды), но это не имеет отношения к обычной кулинарии.
Как обычно очищают помидоры от кожицы:
Самый простой и эффективный способ:
Сделать крестообразный надрез на кожице.
Опустить помидор в кипяток на 10–20 секунд.
Переложить в холодную воду.
Кожица легко снимается руками.
ds121, А что по двум другим примерам? С ма́стерска́я и глагол/существительное "мыла"?
Да, ответ сети про помидор интересен. Ваша позиция понятна. Но кажется вы не поняли нашу.
Приведу гипотетический пример. Пусть сеть обучили не до гиперэрудиции, а до уровня ребенка закончившего младшую школу. Теперь даем ему новую тему. Открываем учебник по арфметике/алгебре и даем новую главу. Потом можно следующую и следующую, но не суть. Что она сможет? Да ничего!!! Вот точно также и с гиперэрудированной сетью, которая увидела ваш проект. Не может она на что-то высокопрофессиональное. А все что считаете успехом, это гипорбилизировная ошибка выжившего. Или в общем — систематическая ошибка выборки.
Либо для этого не нужно быть специалистом с 10-летним опытом. Либо вы не верно оцениваете этого специалиста. Возьмите все поставленные ему задачи за год или на крайний случай месяц (не знаю длительности выполняемых задач), возьмите доступный ему контекст, который он использовал для их решения и поручите это сети. Вот прям все выполненные мешком с мясом задачи. И оцените квалификацию сети в целом. По всему спектру задач достойных этого специалиста.
ds121, ,
>> Вот несколько возможных объяснений:
Спасибо. Судить о том насколько она умеет думать и давать чёткие ответы я не буду. Человек же минимум 20 лет назад придумал следующее решение:
Металлический порошок смешивают с пищевым желатином и водой (пропорции не привожу, но суть в том, чтобы впоследствии масса застыла). В получившуюся субстанцию обмакивают помидоры. Дают ей высохнуть а затем помещают в мощное магнитное поле. Процесс автоматизирован. Это, по сути, конвейерная лента в виде мелкой сетки, которая движется сквозь трубу МРТ (аналог, разумеется). Весь металлический порошок примагничивается, увлекая за собой застывший желатин вместе с кожицей.
Заказ на способ размещала какая-то премиум-пиццерия из Италии. Владелец хотел, чтобы откусывание от куска пиццы не сопровождалось стягиванием нарезанного кружка помидора из-за нежующейся кожицы.
Mikhail Volkov, По мне ответ нейросетки более разумный "не страдай херней, а используй кипяток". Если вы хоть раз были в премиум заведении, то понимаете, что помидоры не из-под ножа это абсурд.
ds121, Мы сейчас оцениваем не полезность найденных решений, а способность нейросети эти решения находить.
Ведь в кафе, тем более премиум, это может и абсурд, а вот на консервном предприятии — абсурд уже нож с кипятком.
Ей дали задачу. Реши! Не решила. Зато как нерадивый студент на экзамене, заболтала тему.
Lecron, Я понимаю вашу позмцию. У меня достаточно опыта доя определения квалификации. Наверное надо пояснить. Нейросетка делает документ на уровне спеца с 10 летним стажем и зарплатой от 200 тыс. Но платим мы ему зарплату не за это, вернее не только за это. Нейросетка не может провести переговоры с клиентом, корректно интерпретировать сложную задачу, эффектно презентовать результаты. И совершенно верно, она не может предложить новые идеи доя клиентского проекта, но идеи, как задница, и так есть у каждого
ds121, Это уже ближе к пониманию реальной пользе и возможностей сети. Только еще надо учесть, что она не "делает документ на уровне спеца", а сделала конкретный документ N на уровне этого спеца. Уверены в повторимости результата для N+1, N+2 … N+X? Нужна стабильность. Стабильно плохо, стабильно приемлемо, стабильно хорошо, это лучше, чем непредсказуемость. "Ух ты! Она это смогла!" не показатель. Нужен "Ага… она это сможет".
Lecron, Нет, конечно не каждого спеца. Но в моей работе важно уметь упрощать сложные схемы, даже за счет точности. Потому что это не алгоритм в котором есть однозначное решение. Апосто судя по всему у нас очень разный жизненный опыт. Действительно если вспомнить мой опыт руководства разработкой аналитической базы данных, то там нейросетка вообще бы не помогла. Все out of the box.
ds121, Не "не каждого спеца", а не каждого документа. Зная своих подчиненных, вы достаточно точно оцениваете, кому что можно поручить. И даже если кто-то недотянет, то именно недотянет, а не отбалдит.
Поэтому я оцениваю сетки не по лучшему результату, а по худшему. Естественно с определенным перцентилем, ведь люди тоже не безгрешны. Если она решает граничные задачи как отстающий 3-курсник профильного ВУЗа, то абсолютно ничего не значит, если лучшие она решает как 10-летний профессионал. Это залёт, салага :))
Пока в нашей стране не появятся программисты высокого уровня, способные создать высококачественный программный продукт, мы так и будем между Турцией и Эстонией.