Пятница будущего: о творческой импотенции нейросетей и о том, как iPhone служат в ЦРУ

Приветствую! За прошедшую неделю в мире был установлен новый рекорд по количеству человек, одновременно находящихся на орбите, а Японское аэрокосмическое агентство, кажется, обещает, что именно Страна восходящего солнца станет лидером в гонке за получение солнечной энергии прямо с орбиты. Тем временем в России признали, что создать литограф самостоятельно ничуть не проще, чем атомную бомбу, а ФСБ раскрыла слежку американских спецслужб через iPhone. Компания Google решила, что пользоваться Ассистентом для составления заметок и списков сторонним разработчикам не следует, а OpenAI обещает, что отучит ChatGPT выдавать свои фантазии за реальные факты. Впрочем, российские ученые обосновали, что любая нейросеть полноценными творческими способностями не обладает. А китайские выяснили, какая категория людей оказалась в наибольшей зависимости от чат-ботов. Но чтобы вам не показалось, что в будущем все грустно, вот немного позитива: ARM обещает, что уже в следующем поколении смартфонов будет графика ПК-уровня, а компании Neuralink все того же неугомонного Илона Маска разрешили проводить испытания на людях. Дальше — обо всем об этом подробнее.

Table of Contents

• Apple на службе ЦРУ
• Литограф не проще атомной бомбы
• Солнечная энергия прямо из космоса
• Рекорд космонавтов на орбите
• Google Ассистент не поможет составлять заметки и списки
• ARM обещает графику ПК уровня для смартфонов
• Neuralink разрешили испытания на людях
• ChatGPT отучат от вранья
• Доказано: нейросеть неспособна на творчество
• Кто зависим от чат-ботов

Apple на службе ЦРУ

Начнем с самой свежей и самой громкой новости последних дней. Федеральная служба безопасности Российской Федерации сообщила, что компания Apple тесно сотрудничает с американским разведсообществом, в частности, АНБ США, а декларируемая политика обеспечения конфиденциальности персональных данных пользователей устройств Apple не соответствует действительности. Официальное заявление гласит: «В ходе обеспечения безопасности российской телекоммуникационной инфраструктуры выявлены аномалии, характерные только для пользователей мобильных телефонов “Apple” и обусловленные работой ранее неизвестного вредоносного программного обеспечения (ВПО), использующего предусмотренные производителем программные уязвимости». Расследованием было установлено, что заражению подверглись несколько тысяч смартфонов. При этом также выявлены факты заражения зарубежных номеров и абонентов, использующих SIM-карты, зарегистрированные на диппредставительства и посольства в России, включая страны блока НАТО и постсоветского пространства, а также Израиль, САР и КНР. По данным ФСБ, Apple предоставляет американским спецслужбам «широкий спектр возможностей по контролю как за любыми лицами, представляющими интерес для Белого дома, включая их партнеров по антироссийской деятельности, так и за собственными гражданами». Стоит отметить, что ФСБ не первая национальная служба безопасности, которая заявляет о том, что американские спецслужбы шпионят за иностранными политическими деятелями через их смартфоны. Наиболее громкий скандал был в Германии, когда подобную слежку выявили в отношении Ангелы Меркель. А если вам кажется, что это в спецслужбах профдеформация и паранойя, то информацию ФСБ подтверждают в «Лаборатории Касперского» — там тоже десятки iPhone оказались заражены ВПО.

Литограф не проще атомной бомбы

Отечественный импортозамещенный литограф — частый гость выпусков «Пятницы будущего» и в определенном смысле идея фикс российской микроэлектроники. Но на этот раз новость не о том, когда и какой техпроцесс планируется освоить, а о том, что вроде бы появилось понимание, что оптимистичные прогнозы в деле разработки — это одно, а суровая реальность — это совсем другое. Руководитель «Ростелекома» Михаил Осеевский в недавнем интервью изданию «Ведомости» высказался о перспективе создания отечественного литографа для производства чипов. Он сравнил решение этой задачи с построением атомной бомбы и признал, что достичь этой цели будет очень непросто. Компания «Ростелеком» весьма заинтересована в его создании, но ни на какие ближайшие перспективы не рассчитывает, «это сложная и отдельная задача». Проблемой занимаются на уровне правительства, но это не значит, что получится быстро справиться со всеми возникающими трудностями, главная из которых состоит в том, что в мире есть только одна компания, производящая подобное оборудование, — нидерландская ASML. Компания поддерживает режим санкций и отказывается от каких-либо поставок в Россию. Впрочем, довольно очевидно, что даже без режима санкций ASML вряд ли проявляла бы энтузиазм в деле создания альтернатив собственной продукции.

Солнечная энергия прямо из космоса

С дел земных переключимся на перспективы космические. Накаляется новая глобальная гонка за разработку технологии передачи солнечной энергии, собранной в космосе, на Землю. И похоже, что лидером станет японское государственно-частное партнерство, которое уже в 2025 году будет готово к проведению натурных испытаний. Концепция, которую реализуют, заключается в запуске солнечных батарей в космос для выработки электроэнергии на высоте 36 000 километров. Солнечная энергия преобразуется в микроволны и отправляется на наземные приемные станции для преобразования в электрическую энергию. Микроволны (такие же, как в СВЧ-печи) могут проходить сквозь облака, обеспечивая стабильную подачу излучаемой энергии независимо от времени суток и погоды. Исследование возглавляет группа под председательством бывшего президента Киотского университета Хироси Мацумото. В 2009 году группа использовала дирижабль для передачи энергии с высоты 30 метров на мобильный телефон на земле. В 2015 и 2018 году были успешно проведены эксперименты по передаче микроволновой энергии по горизонтали и вертикали на расстояние 50 метров. Сейчас готовятся к вертикальной передаче на расстояние от одного до пяти километров. Основным препятствием остаётся стоимость: для выработки одного гигаватта энергии потребуются солнечные панели в четыре квадратных километра. Стоимость только самой батареи такого масштаба составит более 7,1 миллиарда долларов, без учета всей прочей инфраструктуры и сопутствующих затрат.

Рекорд космонавтов на орбите

Для того, чтобы оценить грандиозность масштабов будущих космических проектов, стоит посмотреть на то, что мы имеем сегодня. Например, на этой неделе был в очередной раз побит рекорд по числу людей, одновременно находящихся на орбите. После запуска китайского корабля «Шеньчжоу-16» астронавтов, космонавтов и тайконавтов за пределами Земли стало сразу 17 человек. Т.е. примерно как в маршрутке в час пик, но все же чуть поменьше. Впрочем, такое множество людей на орбите пробыло недолго. Частная миссия компании Axiom Space AX-2 вернулась на Землю в тот же день, что взлетел «Шеньчжоу-16», а сам китайский запуск — это ротация тайконавтов на космической станции «Тяньгун», так что еще трое землян покинут космос в самое ближайшее время, и на орбите останется всего 10 человек. А это на три меньше, чем было в рекордном марте 1995 года. Тот рекорд продержался до 16 сентября 2014 года, когда на орбите также за счет ротаций и частного полета оказалось 14 человек. Рекорд же 1990-х обеспечили российская станция «Мир» и многочисленный экипаж шаттла «Индевор».

Google Ассистент не поможет составлять заметки и списки

А теперь немного о грустном. Компания Google, чувствуя нарастающий уровень конкуренции, постепенно делает свои решения проприетарными. Так, в скором времени Ассистент Google перестанет поддерживать работу со сторонними приложениями для создания списков и заметок. Разумеется, это выльется в то, что Google получит рост аудитории своих собственных приложений, а вот всем прочим придется или сокращать функционал для пользователя, или заниматься собственной разработкой, или искать аналогичный сервис, который будет более открытым. Если вам привычнее ваше приложение, то на какое-то время вы точно пострадаете (кстати, не забудьте сохранить все созданное через Ассистент до 20 июня, с этой даты оно будет недоступно). В противном случае — переходите на Google Keep. При этом созданные в Google Shopping списки покупок будут перенесены в Google Keep, но синхронизации сторонних приложений для покупок с Google Keep не будет. От себя отмечу, что для Google подобное решение может как обернуться успехом и упрочением своей аудитории, так и стать первой ступенькой вниз, к потере монопольного положения на рынке. Различные голосовые помощники активно внедряются многими компаниями, и ограничение возможностей Ассистента Google по взаимодействию со сторонними приложениями означает расширение базы для альтернативных предложений.

ARM обещает графику ПК уровня для смартфонов

Не опять, а снова. Производители платформ для мобильных устройств обещают нам графоний «на уровне ПК». Компания ARM анонсировала графические процессоры пятого поколения: Immortalis G720, Mali G720 и Mali G620. Заявляется, что самое производительное решение в линейке, Immortalis G720, способно предложить уровень графики, «ранее доступный только в настольных ПК». У него имеется поддержка аппаратной трассировки лучей, шейдинга с переменной скоростью (VRS — Variable Rate Shading), 2 блока расчета сглаживания типа MSAA, а также технология Deferred Vertex Shader (DVS). Ее работа заключается в уменьшении времени доступа к памяти, что положительно влияет на итоговую частоту кадров при уменьшенном энергопотреблении. В целом, утверждается, что производительность Immortalis G720 увеличена в среднем на 15% по сравнению с предшественником Immortalis G715. Это позволит реализовать отображение таких графических эффектов, как динамическое освещение, глубина резкости, окружающее затенение экранного пространства (SSAO) и других. В общем, ARM отреагировала на вызов со стороны MediaTek, которая уже выкатила решения с производительностью «ПК-уровня», что на практике оказалось мобильной графической подсистемой с функцией трассировки лучей. На практике же мобильные игровые устройства пока сильно проигрывают в графике компьютерным конкурентам. Причем не менее важной составляющей ограничения роста их потенциала является не только голая производительность чипсета, но и эффективность системы охлаждения. В этом отношении даже ноутбуки на световые годы отстают от десктопов.

Neuralink разрешили испытания на людях

На самом деле, это новость еще прошлой недели, но у нас нет опции «пока верстался номер», так что об очередном достижении сонма стартапов Илона Маска поговорим сейчас. Компания по производству чипов для мозга Neuralink получила разрешение регулятора для клинических испытаний на людях. В начале 2022 года Neuralink, основанная в 2016 году, уже обращалась за разрешением на такие испытания в американское Управление по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA), но ведомство отклонило заявку компании. Теперь же в соцсетях представители компании написали: «Мы рады сообщить, что получили разрешение FDA на начало клинических исследований на людях! Этот результат невероятной работы команды Neuralink в тесном сотрудничестве с FDA представляет собой важный первый шаг, который однажды позволит нашей технологии помочь многим людям». О наборе участников клинических испытаний будет объявлено в ближайшее время. Ранее Маск заявлял, что «революционный мозговой имплантат» Neuralink поможет в преодолении таких состояний, как паралич или слепота. В случае, если компания добьется успеха, Илон Маск сможет аргументированно заявлять, что если он не популярнее Иисуса Христа, то только по причине того, что пока не пробовал накормить все население Земли парой рыб и буханкой хлеба. Ну и некромантия в списке его чудес пока не значится.

ChatGPT отучат от вранья

Тот, кто общался с нейросетевыми чат-ботами, не мог не заметить, что в случае, если у ИИ не хватает данных для ответа на вопрос, пробелы начинают заполняться фантазиями на тему, которые не имеют никакого отношения к реальности и получили название «галлюцинаций нейросети», или же попросту вранья. И это действительно большая проблема для их разработчиков, поскольку отделить «галлюцинации» от реальных фактов вы сможете, только если сами немного разбираетесь в предмете, по которому задаете вопрос. Однако это противоречит главной идее современного использования языковых моделей — давать общее представление, когда сам вопрос сформулирован недостаточно ясно для четкой поисковой выдачи ссылок. Соответственно, то, что озвучено нейросетью как твердые факты, многие могут воспринять как истину и получить категорически неверный результат. Возникают такие ошибки, когда на каком-то этапе логических рассуждений ИИ допускает ошибку, неверно связывая факты, что нарушает всю дальнейшую логику построения ответа. На данный момент абсолютно все большие языковые модели подвержены этому недостатку, но действенного решения пока нет. Представители Open AI говорят, что им, кажется, удалось найти способ победить такое непредумышленное вранье нейросети. Для того, чтобы избежать «галлюцинаций», требуется изменить обучение модели так, чтобы ИИ получал «вознаграждение» за каждый верный шаг в рассуждениях. Сейчас при обучении вознаграждение получается за верный итоговый ответ. Впрочем, не совсем понятно, как изменение подхода к обучению поможет со случаями, когда нейросеть самостоятельно придумывает цитаты и источники, чтобы подтверждать свои «галлюцинации». Непохоже, чтобы причина этого явления заключалась именно в неправильной связи фактов, скорее тут наблюдается противоречие с попыткой придать нейросети креативные способности.

Доказано: нейросеть неспособна на творчество

Но вот в креативных способностях нейросетей как раз есть большие сомнения. В РТУ МИРЭА провели масштабный эксперимент, призванный проверить, может ли нейросеть помочь в написании научной работы и будет ли возможно отличить ее творчество от работы человека. 200 студентов были случайным образом разделены на две группы, половина писали научно-практическую работу с помощью сервисов ChatGPT, Ai search, Gerwin AI, «Балабоба» и TurboText, а половина — по старинке. После чего 20 преподавателей должны были не только проверить правильность и качество работ, но и определить, какие из них были созданы при помощи ИИ. В результате помощь компьютерного разума была определена с 96% точностью. Оставшиеся 4% работ оказались существенно отредактированы студентами, так что трудно было установить, какая доля труда принадлежит нейросети. Общая причина легкости определения работы ИИ была сформулирована как «все тексты, созданные нейросетью, представляли компиляцию тезисов и предложений из написанных ранее научных трудов и работ и не содержали оригинальных суждений и выводов». В 72% случаев в работах нейросетей допускались грубые фактические и логические ошибки, а 86% преподавателей отметили, что такие работы имеют стилистические и орфографические особенности, не характерные для текстов, написанных человеком. В итоге вердикт таков: «…нейросеть неспособна создать принципиально новый научный или творческий продукт, так как её работа строится исключительно на переработке заложенных в неё человеком знаний. О несовершенстве технологии заявили и студенты».

Кто зависим от чат-ботов

А вот китайские исследователи как раз задумались о проблеме, когда люди, наоборот, не могут отличить чат-бота от реального собеседника и попадают в зависимость от разговоров с Siri или ChatGPT. Ученые из Гонконгского Городского университета провели анкетирование 516 человек, которые наиболее часто обращались к нейросетям за последнее время. Опрос проводился с целью выяснения степени одиночества, склонности к размышлениям, наличия навязчивых мыслей, восприятия ума ИИ и количества времени, потраченного на использование нейросетей. Во всех случаях отмечалось, что респонденты имеют социальные проблемы, испытывают чувство одиночества, тревожности и склонны к самостоятельным размышлениям. Детали исследования пока недоступны, но специалисты высказывают предположение, что таким образом может компенсироваться недостаток социального взаимодействия с реальными людьми. При этом именно возможность неограниченного общения с ИИ и выдаваемая им информация удовлетворяют потребности в виртуальном пространстве. Так что ученые рекомендуют соблюдать баланс, а нейросети с чат-ботами если не ограничить, то как минимум предупреждать пользователей о потенциальных рисках слишком длительного общения.