Пятница будущего: о доверии к ИИ, которого он совершенно не заслуживает, потому что все еще не понимает людей

Приветствую! На этот раз выпуск «Пятницы будущего» выходит несколько нестандартным, поскольку одна новость имеет очень большое значение для понимания того образа будущего, которое нам уготовано. А именно давайте поговорим о том, как так получилось, что умная колонка от «Яндекса» вдруг рассказала ребенку настолько страшную сказку, что этим озаботились аж в Заксобрании Санкт-Петербурга. Ну и о космических и других технологических новостях не забудем.

Table of Contents

• Слишком страшная сказка от ИИ
• Конец консольных эксклюзивов
• Время лунное
• Субтерагерцовый телескоп на Луне
• Эскизный проект станции РОС
• Гиперзвуковой самолет
• Суперкомпьютер за $100 млрд
• Как популярность электромобиля может убить Xiaomi

Слишком страшная сказка от ИИ

Немного предыстории, из-за чего весь сыр-бор. На минувшей неделе детский омбудсмен вынесла на обсуждение Заксобрания Санкт-Петербурга историю о том, как умная колонка с голосовым помощником «Алиса» от «Яндекса» на невинный детский вопрос, почему в мультфильме «Маша и Медведь» Маша живет без родителей, ответила: «Она всего лишь призрак девочки, и именно поэтому она не растет и видеть ее могут только животные. Родители же не смогли выдержать потери ребенка и уехали, оставив пустой дом. А мучает Маша медведя, потому что он и лишил ее жизни». Депутаты впечатлились и переадресовали вопрос представителям «Яндекса». Те закономерно ответили, что такие единичные случаи могут происходить, а конкретно такой ответ «Алиса» больше давать не будет. Поскольку ничего нового в том, что голосовые помощники время от времени дают как минимум странные ответы, нет, вряд ли последует какая-то реакция сверх того, что ИИ законодательно запретят пугать детей и вообще говорить глупости. Разумеется, этот закон будет бесполезен. И вот почему.

В этой истории есть сразу несколько проблем, каждая из которых делает задачу поиска лния если не невыполнимой, то крайне трудной. Первая из них — это сам принцип обучения ИИ. Да, нейросети обучаются на неких массивах данных, и эти массивы данных можно даже тщательно отфильтровать для того, чтобы алгоритм ориентировался на детей. Т.е., например, изъять весь контент, который будет считаться потенциально вредным и опасным для ребенка. Вот только этот стерильный ИИ в реальной жизни попадет в некую среду, которая уже будет далеко не стерильной, как не является стерильной реальная жизнь. И ограничения алгоритмов тут никак не помогут. Например, потому, что может быть и так.

Некоторое время назад очень популярны были детские игрушки «ферби». По нынешним временам их бы объявили обладающими искусственным интеллектом, но тогда это была просто кукла с простейшим алгоритмом, который позволял из услышанного составлять бессвязные наборы слов, накладывая их на ритм детских песенок, под которые игрушка танцевала. Идея создателей была проста — гаджет слышит детский разговор и из самых часто употребляемых слов складывает бессмысленный, но забавный «фербиш». Чего создатели не могли предусмотреть, так это того, что первое включение может осуществляться вовсе не ребенком, а взрослыми, которые будут потом это чудо дарить. В одном случае у знакомых случился казус. Первый раз «ферби» включили и забыли выключить в чисто мужской компании, которая в расслабленной обстановке жарила шашлык. Алгоритм запомнил самые часто встречающиеся слова (а это слова-паразиты, разумеется), из которых сложил детскую песенку, привести которую даже частично невозможно из соображений цензуры. Конечно, современная версия с нейросетевым алгоритмом такого прокола уже не допустит, но и понять нечто более сложное тоже не сможет.

Например, в зависимости от семьи и возраста ребенка страшная сказка про мертвую девочку действительно может быть рассказана. Насколько уместно это сделает ИИ? Для него нет готовой системы описания человеческих взаимоотношений, которая учитывала бы если не все, то хотя бы основные параметры выбора допустимого в межличностных отношениях, а сам ИИ вполне тянет на участника таких взаимоотношений. Проблема заключается в том, что для того, чтобы компьютер делал верные выводы из входящей информации, нам требуется перевести все условия в машинную логику. Описание может быть сколь угодно большим, но в конечном счете все сводится к тому, что нам нужен математический алгоритм для того, в чем вообще нет логики и рациональности. Т.е., возвращаясь к ответу «Алисы», он может быть и верным, и неверным одновременно, приемлемым для ребенка пяти и неприемлемым для ребенка 12 лет. Причем вероятность того, что когда-либо ИИ сможет оценить допустимость такой шутки исходя из контекста, минимальная. Даже профессиональный психолог не сможет дать ему однозначной подсказки, только предложить несколько концепций.

Третья проблема кроется не в алгоритмах, а в нас самих. Пожалуй, это единственный момент во всей истории, который можно объяснить и предложить действенное решение. Заключается он в повышенном внимании к новой технологии. Вспоминая ту же историю с «ферби», надо сказать, что вряд ли она могла привлечь внимание омбудсменов и депутатов. Всеобщая истерия вокруг генеративного ИИ ведет к тому, что неизбежные на стадии разработки и освоения технологии проблемы рассматриваются с лупой, а каждый второй эксперт считает своим долгом сказать о том, что потенциально нейросеть сможет превзойти человека. Вот даже на этой неделе в серьезных изданиях появилась информация о том, что исследователи выяснили, что GPT-4 в большинстве случае может переспорить человека, а также может проконсультировать пациента лучше, чем врач-человек. Все это накапливается и валится единым комом на обывателя, который непроизвольно начинает неверно оценивать возможности ИИ. Решение этой проблемы максимально простое. Нам просто нужно дать время. Нам — это людям. Чтобы привыкнуть к тому, что генеративный ИИ существует, что голосовой помощник — это просто еще один сервис, который в чем-то хорош, а с чем-то не справляется.

Конец консольных эксклюзивов

От новостей экзистенциальных — к повседневным мелочам. По мнению ресурса IGN, в ближайшие годы рынок видеоигр ждет очередная глобальная трансформация. То, что Xbox больше не будет выпускать эксклюзивные тайтлы для консолей, — это не новость, но по следам Microsoft с большой вероятностью последует PlayStation, и даже Nintendo рассматривает стратегию, в которой игры больше не будут привязаны к аппаратной платформе. А значит, уходит безвозвратно то время, когда для того, чтобы играть в определенную игру, вам нужна была конкретная консоль (а еще раньше это и вовсе был игровой автомат). Справедливости ради, это не первый раз, когда на рынке хоронят консоли как эксклюзивное игровое средство, но похоже, что сейчас мир классических видеоигр подошел к моменту, когда все крупные компании сосредоточились на том, чтобы извлекать максимум прибыли любой ценой. Давление со стороны мобильных игр таково, что борьба внутри одного сегмента уже не выглядит оправданной. Создание ААА-тайтлов требует все больше средств, но при этом не приносит больше прибыли, чем казуальные игры на мобильных платформах. Прокатившаяся волна увольнений из самых верхних этажей управления крупных игровых студий говорит о том, что грядут большие изменения, да и прогноз Sony, снизившей ожидания продаж консолей с 25 до 21 миллиона, намекает на то, что старые стратегии не работают. Так что не исключено, что всего через пару лет покупка консоли ради игры станет историей.

Время лунное

Пока освоение Луны продвигается больше теоретически, чем практически, но и в теории есть свои интересные моменты. NASA вынесло на обсуждение мирового научного общества идею создания отдельной временной зоны для Луны. То есть предлагается ввести некий аналог временного пояса для нашего естественного спутника подобно тому, как на Земле для удобства, помимо универсального времени, используется местное. Рациональным фактором в добавлении лунной временной зоны является тот факт, что за счет меньшей гравитации там иное течение времени. Каждые сутки отличаются от земных на 58,7 микросекунды. Для человека эта разница практически никак не может быть заметной, но вот для точных приборов такое расхождение в ходе атомных часов весьма значительно. И вместо того, чтобы их постоянно корректировать, логичнее вести отдельное «лунное время». Единое для всей поверхности спутника и используемое всеми странами, отправляющими на Луну свои экспедиции.

Субтерагерцовый телескоп на Луне

Идея построить телескоп для наблюдения за чем-нибудь на Луне не нова, но в силу конкретизации планов по освоению становится все более близкой к реализации. Так что уместно будет поговорить и о российском плане. Коллектив российских астрономов из Астрокосмического центра ФИАН предлагает таким образом решить проблему строительства радиотелескопа терагерцового диапазона. Такие используются для наблюдения за черными дырами, но сейчас в России нет ни одного телескопа, работающего на частотах более 100 ГГц, а единственный проект, космическая лаборатория «Миллиметрон», постоянно сдвигается по срокам вправо и всех задач решить в принципе не сможет. Поэтому ученые предлагают заняться разработкой субтерагерцовых радиотелескопов, которые могли бы быть размещены как на Земле, так и в одном из кратеров Луны. В таком случае можно будет объединить наземные и лунные антенны в одну гигантскую виртуальную антенну подобно тому, как это было реализовано в проекте «Радиоастрон», что позволит проследить за движением материи в самых ближайших окрестностях сверхмассивных черных дыр, в том числе у черной дыры Sgr A*, расположенной в центре Млечного Пути.

Эскизный проект станции РОС

Также на этой неделе был сделан очередной шаг в создании российской орбитальной станции РОС. Ее эскизный проект был утвержден «Роскосмосом», и теперь предстоит детальное проектирование отдельных узлов. Среди особенностей РОС, которых ранее не было, — модульная конструкция. В одном из предыдущих выпусков я уже писал о том, что в основе станции должен быть узловой модуль, который подразумевает возможность своей замены и замены любого из пристыкованных к нему модулей. У него будет шесть стыковочных портов, а расчетный срок службы станции за счет такой конструкции можно будет продлевать десятилетиями. Также, в отличие от всех иных проектов орбитальных станций, у РОС будет полярная орбита с углом наклонения до 97 градусов. Такой вариант нужен для надежной связи с расположенным на территории РФ комплексом управления и обзора всей земной поверхности, включая стратегически важные регионы Северного морского пути. Также в «Роскосмосе» отметили, что станция проектируется с высокой энергетикой, что позволит отрабатывать на ней космические радиолокаторы и антенны большой мощности, а также РОС не будет требовать постоянного присутствия космонавтов на борту. Автоматизация должна позволить ей работать без режима посещения.

Гиперзвуковой самолет

В прошлом выпуске мы говорили о стартапе, который занимается созданием нового поколения сверхзвуковых авиалайнеров, а теперь время поговорить о другом стартапе, который имеет целью создание гиперзвукового самолета. Стартап под названием Hermeus в конце прошлой недели представил свой проект Quarterhorse. В переводе — лошадь для спринтерских заездов на четверть мили. Однако в планах отнюдь не драгрейсинг на самолетах, а создание целого семейства летательных аппаратов, которые будут в пять раз быстрее скорости звука. Показанный Quarterhorse Mk1, впрочем, до таких скоростей разогнаться не способен — в проекте предусматривается, что на нем будет проводиться отработка полетов в принципе, а максимальная скорость, которой по плану достигнут к 2026 году, — это 4М. Почти, но все же не гиперзвук. Вероятно, компания страхуется, поскольку предыдущая модель Mk0 вообще не полетела, потому что слишком много всего потребовалось отработать на земле, так что прототип из летного стал пригодным для статических испытаний. Как пойдет с Mk1, покажет время, но за Hermeus стоит Пентагон, так что пока компания будет показывать результат, финансирование сохранится. Что делает в рубрике, где я принципиально не пишу про разработки нового оружия, проект Пентагона? Все просто. Министерство обороны США — лишь один из заказчиков разработок Hermeus, у компании есть планы и по гражданскому применению своих разработок, включая строительство гиперзвуковых авиалайнеров, первый из которых, впрочем, все равно достанется Пентагону, но как борт №1 для президента США.

Суперкомпьютер за $100 млрд

Очередной факт из серии «почем нейросети для народа». Обычно вспоминается о том, сколько нужно электричества для того, чтобы запитать компьютеры, на которых можно развивать нейросети, но на этот раз поговорим о том, сколько стоит создать подобный компьютер. Компании Microsoft и OpenAI планируют создать центр обработки данных стоимостью $100 млрд. Проект получил название Stargate AI («Звездные врата ИИ») и должен быть завершен до 2028 года. Цель проекта – покрыть растущие потребности в области генеративных нейросетей и других технологий, построенных на базе ИИ. Компания Microsoft возьмет на себя основную часть финансирования проекта, тогда как OpenAI займется технической стороной вопроса. Суперкомпьютер Stargate AI будет расположен в Соединенных Штатах. Построен он будет на основе множества специализированных чипов компании Nvidia, стоимость одного такого чипа составляет от $30 000 до $40 000. Однако добавляется, что в проекте могут быть использованы решения и от других поставщиков, но в любом случае, речь идет об уже отработанных решениях, а не о экспериментальных чипах на новых принципах. Вложения в такие проекты вообще не выглядят поддающимися точным подсчетам.

Как популярность электромобиля может убить Xiaomi

Компания Xiaomi наделала много шума своим проектом по созданию собственного электромобиля, и теперь, когда он поступил в продажу, шума не стало меньше. Модель SU7 получилась крайне интересной как по характеристикам, так и по стоимости. Что и неудивительно с учетом того, что партнером Xiaomi выступила BAIC, а над дизайном трудились выходцы из BMW. А вот над ценовым позиционированием и разработкой модели продаж работали уже в самой Xiaomi. И это может совершенно неожиданным образом сказаться на судьбе не только автомобильного проекта, но и всей компании. Дело в том, что по опыту завоевания рынка смартфонов в Xiaomi решили сдобрить выдающиеся характеристики еще и демпинговой стоимостью. Топовый Xiaomi SU7 Max оценили в сумму, эквивалентную $40 000, тогда как прямые конкуренты по характеристикам подбираются, а то и переваливают за отметку в 100 тысяч долларов. Результат — за 48 часов продаж предзаказы оформили свыше 100 тысяч покупателей. Т.е. 2/3 автомобилей Xiaomi, которые компания способна произвести за год, уже куплены. По меркам авторынка ожидание заказанного несколько месяцев не проблема. Достаточно вспомнить дебют Porsche Cayenne или нового Land Cruiser, очередь на которые растягивалась на годы. Интереснее другое. Рассчитывали ли в Xiaomi на такой спрос, когда решались на продажу электромобилей себе в убыток? А убыток, по некоторым подсчетам, может составлять до 10 тысяч долларов с каждой проданной машины. И это только прямые вложения компании, без учета сопутствующих издержек и последующего гарантийного обслуживания. Впрочем, Xiaomi славится минимальной поддержкой выпущенных смартфонов, так что тут ущерб может быть минимизирован. Но все же убытки свыше миллиарда долларов могут больно ударить по компании, поставив крест не только на автомобильном проекте, но и вообще на ее судьбе.