Привет.
Заготовка для текста была сделана довольно давно. Если судить по тем ссылкам, что я прикрепил к краткому перечню мыслей, это май 2024 года. Одной из предпосылок к созданию материала послужили «Бирюльки №799», где Эльдар написал о том, что школьники злоупотребляют возможностями нейросетей, генерирующих картинки, используя их для того, чтобы рисовать обнаженных учителей и сливать в Интернет в целях мести. Подробнее с заметкой можно ознакомиться по ссылке ниже:
Тогда у меня появилась мысль, что появление большого количества подобных неуместных кадров в Сети — это скорее плюс:
«На мой взгляд, появление ИИ для генерации обнаженных снимков быстро “очерствит” людей. Это не фотошоп, который нужно было пилить 20 лет до состояния возможности создавать фотореалистичные скетчи. Быстро оказавшись доступным всем, алгоритм также быстро научит всех говорить в ответ на обнажёнку: “фейк”. Доказать ничего будет нереально. Любой компромат автоматически обесценивается. Личная жизнь становится защищена, поскольку никто никому уже не поверит».
Безусловно, первые случаи будут чем-то резонансным и начнут широко обсуждаться, но ситуация быстро придет к тому, что подобным вещам просто перестанут верить. Я вынес в анонс упоминание о том, что события вокруг нас быстро множатся. И это не преувеличение. Информационный фон настолько вязкий, что ты буквально тонешь в данных. А благодаря умным рекомендательным алгоритмам, темы еще и плавно перетекают одна в другую, и вот ты уже забыл, с чего все началось, а время, проведенное за просмотром разного рода информации, перевалило за пару часов. Подобным образом работают видео жанра shorts. Огромная аудитория видеохостингов наплодила их столько, что жизни не хватит, чтобы их посмотреть. А ведь они еще и прибавляются ежесекундно.
Я, например, залипаю на короткие видео мануальных терапевтов. Очень уж нравится умелое обращение с суставами и последующий расслабляющий эффект. Но когда только начал интересоваться данной темой, роликов от подобных специалистов было не так уж и много. Однако сейчас их стало столько, что листать не успеваешь. Ну и, разумеется, нейросети не могли пройти мимо. И пока настоящие спецы проявляют свое мастерство, приобретают специальные тренажеры, конструируют уникальные массажные столы, закрепляют качественные микрофоны для лучшей слышимости хруста и т.п., кто-то просто дополняет свои видео соответствующим звуковым рядом. Я не против нейросетей. Периодически встречаются намеренно смешные сюжеты. Но практически все они сопровождаются водяным знаком и абсолютно нереалистичным развитием событий. Цель — рассмешить. И она видна невооруженным глазом.
Однако если в случае с мануальными терапевтами речь идет о чем-то незначительном и не затрагивающем благополучия людей, то есть весьма чувствительные темы, от которых отмахнуться не получится. Политика, например. Там восприятие информации выходит на первый план. И от наличия каких-то чувствительных сведений, которыми располагает недоброжелатель, вполне себе могут пострадать чьи-то интересы. Например, если принять во внимание события сериала «Карточный домик» (я досмотрел только тот сезон, когда Кевин Спейси стал президентом и вошел в Овальный кабинет в новом статусе), то сенаторы, ведомые своими избирателями, обязуются отстаивать их интересы (ну или хотя бы в какой-то мере учитывать). Думаю, что реальное положение дел недалеко от сказанного. Но в подобных вопросах всегда может возникнуть та самая вилка из намерений и обстоятельств, которые вынудят того или иного конгрессмена принять весьма спорное с точки зрения его изначальных установок решение (лоббизм, давление, компромат и т.п.). Уверен, спустя годы люди узнают истину, но к тому моменту ценность информации потеряет всякое значение. Недавно на глаза попалась новость касательно событий в США:
Ролик в русской озвучке можно прочитать в Telegram-канале автора новости. Я же процитирую небольшой кусок, который весьма занимателен:
«На видео журналист-расследователь Том О’Нил рассказывает подробности программы “МК-Ультра” и о том, что по ее результатам удалось подменять воспоминания подопытных.
Он связал ряд убийств группировки Чарльза Мэнсона (на тему снят фильм “Однажды в Голливуде” с Дикаприо), как результат работы программы “МК-Ультра”».
Предполагать ничего не будем. США — это, в конце концов, страна, которая очень любит шоу и готовит мир к тому, что вот-вот покажет нам инопланетные технологии. Спилберг, вон, даже фильм наскоро запилил (на Rutube в ужаснейшем качестве уже лежит, но я смотреть не смог). Так вот. Информационные технологии и политика неразрывно сплелись. Сегодня с их помощью можно протолкнуть в голову общественности что угодно. Успех будет зависеть от сроков обработки подопытных. Взять пример с подменой воспоминаний. Информация не нова. Об этом даже фильмы целые снимали. «Манчжурский кандидат» 2004 года как раз с таким сюжетом. После долгой обработки разума сына влиятельного политика тот поверил, что он герой войны. Более того, в его разуме появилась подпрограмма, которая делала его управляемым. Если связать сюжет с новостью, то получается, что завтра нам повально начнут рассказывать о том, что те или иные политики принимали решения, руководствуясь не здравым смыслом, а исключительно чьей-либо волей. Пока мы видели только прецеденты со слушаниями, где опрашиваемый политический деятель ссылался на деменцию и потерю памяти, которые не позволяли ему свидетельствовать.
И все было бы прекрасно, но появились те самые нейросети. И поначалу мне даже встретилось несколько новостей о том, что на них начали ссылаться некоторые представители властей в попытках объяснить свои спорные действия. При желании новости можно найти в поисковике самостоятельно. И не составит труда расценить это как еще одну лазейку для чиновников, но ведь на большом временном отрезке подобная технология будет работать против них. Поясню свою мысль. Не так давно мне попалось на глаза упоминание о том, что у нас ведется разработка законопроекта, ограничивающего рискованное внедрение генеративного искусственного интеллекта. На самом деле, работа важная. Ведь, будем честны, одно дело, когда некий сенатор пытается отвертеться от спорной личной славы, ссылаясь на происки недоброжелателей, владеющих навыками генерации компрометирующего видео, и совсем другое, когда ИИ какой-нибудь Palantir определяет цели для атаки баллистическими ракетами на основе названий из Google-карт. Может показаться, что беспокойство законодателей вызывает тот факт, что ИИ начнет выдавать на-гора не меньше «умных» мыслей, ставя под сомнение саму необходимость некоторых должностей. Но идея, как мне кажется, не совсем в этом. Эффект обесценивания мыслей некоторых особенно словоохотливых товарищей действительно будет иметь место. Однако ИИ, также как подобные ораторы, не сможет идти дальше слов, обещаний и т.п. Будет необходимо предпринимать шаги в реальном, физическом мире, чтобы довести до результата обещанное. И если на уровне красивых слов, оторванных от реальности, начальники смогут первое время тягаться с программой, то вот в обработке данных обратной связи людей на местах они проиграют вчистую, поскольку всем нам хорошо известно, как любят работать «в поле» топ-менеджеры. А при возросшей скорости генерации предложений поражение человека будет еще более очевидным.
Опасения во многом основываются еще и на том, что люди, жизни которых зависят от принимаемых решений или, по крайней мере, очень чувствительны к ним, перестанут ориентироваться на слова и обратят свои взоры на дела. Казалось бы, схема логичная. И если ты один раз пообещал что-то, а потом не сделал, то во второй раз тебе верить не будут. Или, по крайней мере, не должны. Но человек устроен так, что верит. И в подобной ситуации одно невыполненное обещание перекрывается другим. И вот снова где-то в мозгу забрезжила надежда, что, возможно, в этот раз не обманут. Про время раздачи подобных обещаний ничего говорить не будем. Вы и сами все прекрасно понимаете.
На мой взгляд, относительно бесконтрольное распространение ИИ уже существенно очерствило людей, о чем я писал в комментариях в 2024 году. Входящие звонки от разных компаний уже практически на 100% (личные впечатления) состоят из роботов-операторов, которых без зазрения совести игнорируешь. Скандалы, интриги, расследования в СМИ с появлением каких-нибудь фотографий, гражданств и собственности уже не вызывают никакого интереса. Внезапные же компроматы или угрозы репутации просто игнорируются благодаря той самой вероятности поверить искусственно созданным сведениям (возможно, раньше было то же самое, только с более длительным сроком создания). И вот ИИ хочет взять высоту, где традиционно были только люди. И, с одной стороны, профессионализм робота в сугубо человеческих вопросах сегодня пока еще вынуждает сомневаться. Но с другой — новое поколение некоторых управленцев также вызывает вопросы откровенной недалекостью их обещаний. Внедрение же ИИ быстро выведет обещания из уравнения. Не нужно будет полагаться на компетентность того или иного руководителя, размышляя о том, получил ли он актуальные сведения по насущной проблеме. Возможно, не нужно будет и переживать о том, сумеет ли он выбрать верное решение, ведь тот же самый алгоритм вполне может оказаться сильнее в аналитических способностях. А вот о чем переживать придется, так это о том, чьим будет этот самый ИИ. Ведь ответственность уже будет лежать в большей степени на его программистах.
Поделитесь своим мнением по данному вопросу. Есть ли смысл новой поросли управленцев заботиться о репутации, компроматах и т.п., чтобы уберечь себя от общественного порицания, или этот вопрос закроется сам собой из-за невозможности отличить ложь от правды? Возможно ли принимать чувствительные решения, ориентируясь на анализ ситуации искусственным интеллектом? Ждем ваших доводов в комментариях.
Смелых идей, отличных изобретений и успешных продуктов. Удачи!