Трансгуманизм Шваба и Харари

Привет.

Технологический прогресс достиг небывалого уровня, и размышления многих ученых и популяризаторов науки постепенно заходят на территорию природы и эволюции. Отчасти это случилось потому, что развитие тела не поспевает за технологическими новинками. Способность долго смотреть в экран, умение отсеивать посторонние звуки или адаптирующийся к виртуальной реальности вестибулярный аппарат человеку сегодня бы очень пригодились. Зачем городить в каждую модель наушников систему подавления шумов, когда можно единоразово интегрировать в слуховой канал чип с устройством воспроизведения и со смартфона соединять его с источниками звука, которым ранее выдано разрешение на воспроизведение? Впрочем, это довольно радикальное применение технологических возможностей нашего времени. Есть пример попроще. Наткнулся на него в высказывании Юваля Харари. Википедия называет его историком и футурологом, но я узнал о нем как о советнике основателя и президента Всемирного экономического форума в Давосе Клауса Шваба. И раз уж сегодня модно говорить о роботах и ИИ, уместно будет звучать и мнение Харари. Не так давно мне попалось его выступление, где он рассуждал о том барьере, который выставляется между роботами и людьми.

Если взглянуть на те возможности, которые сегодня демонстрируются роботами от Boston Dynamics, то можно смело утверждать, что подвижность и человеческая пластика уже не являются недостижимой фантастикой, а представляют собой вопрос нескольких лет, когда машины не только окончательно повторят, но и превзойдут естественные возможности тела человека. Стоять, ходить и прыгать роботов уже научили. Сегодня дело за движениями пальцев, удержанием предметов в равновесии, перехватыванием и т.п. Кинематика посложнее, помельче и куда более разнообразная. Но ничего невозможного нет. Специалисты смогут. Однако тот барьер, который упомянут выше, все же есть, и он не про конструктивные особенности. Речь идет о чувствах, на которые, как утверждают многие, роботы неспособны. Однако Харари так не считает.

Все дело в том, что если не брать в расчет биохимическую составляющую, то какими бы сложными, тонкими и глубокими ни были чувства, они возникают на основе эмоций. Человек учится распознавать и различать эмоции всю свою сознательную жизнь. Например, смех. Веселый, горький, ироничный, сумасшедший и т.п. При этом далеко не всегда его удается точно определить. И здесь важно то, что, обучаясь определять эмоции, человек учитывает не только непосредственно их проявление, но и контекст. Основные маркеры — это мимика и жесты. Но также есть и информационные. Например, знание о ключевых событиях в жизни человека, недавних происшествиях, родственных связях и прочем. Робот с искусственным интеллектом (или тем, что мы считаем таковым) этого не умеет. Но может научиться.

Может возникнуть логичный вопрос: зачем? Все дело в том, что люди очень остро нуждаются в специалистах с высокоразвитой эмпатией и эмоциональным интеллектом. Главная мысль Харари в том, что развитие ИИ не должно быть абстрактным. И его идея уже сейчас не выглядит фантастикой. Она заключается в обучении искусственного интеллекта на большом количестве эмоциональных шаблонов для наращивания навыка взаимодействия. Не просто для получения человеком конкретных сведений, которые сегодня можно выяснить с помощью поисковика и без обращения, например, к умной колонке, а для максимального эмоционального раскрепощения в доверительной обстановке. И если вам кажется, что непрактичность этого решения равносильна созданию робота для ручного труда на низкооплачиваемой работе, то не спешите с выводами. Низкооплачиваемый ручной труд и правда глупо заменять роботом. Чтобы он выполнил его с тем же КПД, что и человек, машина должна быть ну очень продвинутой. Попробуйте навскидку перечислить тот пласт работ, который необходим, чтобы робот сумел вот так:

А это у него еще и серп в руках. Тем же людям, которые хоть раз в жизни пололи грядки, очевидна бесперспективность использования человеческой копии для вытаскивания травинок. Но невозможного, безусловно, нет. Можно настроить распознавание образов на все возможные на грядке сорняки, место хвата, силу сжатия в зависимости от толщины стебля, усилие и угол тяги и т.п. А потом еще решить вагон задач, что делать, когда сорняк оборвался, оставив корень в почве. Апогеем будет стоимость морковочки с такой грядки, которую уместно будет продавать не на базаре, а на торгах с аукциона.

С умеющими распознавать эмоции роботами ситуация другая. Все потому, что для их обучения и считывания показателей уже все имеется. Прямые маркеры вроде языка тела может распознавать камера. Мимика, тон голоса, жестикуляция. Все это поддается анализу. Информацию о событиях, предшествующих разговору, робот может получить из социальных сетей, истории просмотров браузера, переписки в мессенджерах, разговоров, которые сегодня очень ловко используют маркетплейсы. Недавно в очередной раз подставил жену, сказав, что в этом году обязательно куплю себе шуруповерт. Ее завалили рекламой. А меня нет, поскольку на всех «подслушивающих» устройствах авторизована она. А ведь к упомянутым источникам информации добавляются усилители в виде сведений с носимых устройств. Взять самый обычный датчик пульса и сопоставить с временем использования смартфона. И вот мы уже видим, что пульс участился при взгляде на рекламу нового автомобиля. А если камера еще и движение взгляда по изображению зафиксирует, то станет понятно, что максимальная реакция возникла при взгляде на цену. И что, спрашивается, мешает использованию подобных сценариев взаимодействия с людьми сегодня? Во-первых, человеческий фактор. В частности, конфиденциальность. Хотя и существует защита соответствующей информации, все равно проблема довериться незнакомцу в личных вопросах существует. Во-вторых, снова человеческий фактор. Помните серию из «Теории Большого Взрыва», когда Раджеш впал в депрессию из-за расставания с девушкой и закрылся в квартире?

Друзья пришли поддержать его, но когда услышали, что он теперь никогда не выйдет из квартиры из-за того, что Amazon может доставлять ему даже лобстеров, переключились на эту «потрясающую» новость и начали обсуждать свой гипотетический ужин и интересоваться условиями доставки, напрочь забыв о проблеме друга. Если не уловили, то человеческий фактор в данной ситуации выражается в том, что умение считывать эмоции других людей не избавляет от собственных, которые могут точно так же проявить себя в самый неподходящий момент. Обученный же на тысячах примеров искусственный интеллект избавлен от личного мнения по сути проблемы. Его заключение будет продиктовано исключительно заложенными в него алгоритмами. При этом тон, мимику и жесты робот скорректирует под обстановку и того человека, с которым ведется беседа. Однако это снова довольно сложный сценарий использования, близкий к идеальному конечному результату. А на пути к нему, между тем, есть обширная серая зона «удовлетворительных».

И Харари упоминает как раз один из таких. Сформированное многими событиями в течение дня настроение едва ли кому-то даже самом близкому удастся распознать только лишь по одному внешнему виду. А вот датчики на теле, микрофон в смартфоне, переписка в социальных сетях, динамика и скорость езды на автомобиле по пути домой дадут более точную картину. А представьте, что все эти сведения проанализированы и на их основании соответствующие команды переданы каждому из устройств, объединенных в умный дом. В колонках играет соответствующая мелодия, свет настроен на малую яркость, а холодильник предлагает (тут просится изобретение) максимально подходящую под обстановку пищу.

Под занавес выступления он задается вопросом, нужны ли нам будут люди, если машины окажутся более чуткими и понимающими и при этом не перетягивающими одеяло на себя. Иронично, что изначальный посыл о развитии способностей ИИ в профессиях, требующих эмоционального вовлечения, привел к тому, что подобное развитие ставит под сомнение не только место человека в профессии, но и самого человека как такового. Кому же это может быть выгодно?

И тут на сцену вышло выступление экономиста Эрнста Вольфа. Главным его доводом можно назвать то, что, отдавая максимальное количество задач для решения искусственному интеллекту, мы теряем себя как естественных управляющих процессами в нашей жизни. Вольф утверждает, что как только ИИ станет умнее человека, он не только сможет помогать в выборе блюд на ужин, сначала проанализировав всеми доступными датчиками ваше состояние, а затем подобрав оптимальные рецепты по наличию продуктов в холодильнике, но и начнет управлять нами. Выгоду он приписывает управляющим крупных IT-компаний и тем, кому они подконтрольны.

И я заметил одну интересную особенность. Та самая утрата самоопределения уже фактически произошла. Это случилось благодаря рекламе. Средств ее доставки хватает. Она буквально повсюду. Да, нас не заставляют покупать товар насильно, но часто не оставляют выбора. Согласитесь, обстоятельства редко позволяют задуматься даже о банальном посещении нескольких магазинов. Зачастую мы делаем покупки там, куда пришли изначально. А если проанализировать наши предпочтения, то можно обнаружить, что редко когда мы выбираем в качестве места покупки новую торговую точку. И если несколькими годами раньше можно было задуматься о пошиве чего-то по индивидуальному заказу, то сегодняшний максимум — это уникальный принт на типовую футболку, толстовку или куртку. Там же, где речь идет об электронике, вариантов еще меньше. Поэтому, когда я услышал слова Вольфа о том, что процесс проникновения технологий ближе к человеку должен быть остановлен любой ценой ради спасения самой природы человека, я подумал о зависти. Экономисты теряют бразды правления миром. На их место приходят технократы. Они будут способны заставить человека купить что угодно. Им не будет нужна реклама, оценка характеристик и обзоры новинок. Они просто переключат пару нейронных маршрутных веток в мозгу, и мы сначала захотим, а потом и купим.

Заключение Вольфа о том, что все технологические новшества используются не во благо большинства, а для меньшинства, можно назвать лицемерным. Ведь когда у руля экономический сегмент, привилегированными снова оказываются единицы. И, несмотря на то, что чипирование всяческими датчиками не выглядит чем-то оправданным, аргументная база у технократов сильная. Нас приучили говорить с колонками, следить за своими показателями с помощью носимых устройств, полагаться на оптимальность таргетированной рекламы. А главное, для этого мы позволили торговать своими данными. То есть тем самым самоопределением, о неприкосновенности которого так переживает Эрнст Вольф. Нам это преподнесли как удобство. И это правда удобно. Но не получится ли так, что мы планомерно перестроим себя ради того, чтобы не думая выбирать правильную одежду благодаря тому, что утром чип в мозгу получил и обработал данные о прогнозе погоды, распорядке дня и запланированных встречах? Этот сценарий, кстати, был бы удобен.

Шапочку из фольги надевать, безусловно, не стОит, но задуматься однозначно нужно. Ведь удешевление технологий делает многие ранее фантастические вещи доступными каждому. Где та самая грань, за которой мы перестанем быть самими собой и превратимся в ведомых? Или мы ее уже перешли?

Поделитесь своими соображениями. Какие из повседневных размышлений вы были бы готовы отдать на откуп ИИ? И заметьте, речь не идет о том, чтобы машина думала, а вы проверяли и контролировали. В подобных системах есть смысл только тогда, когда весь процесс происходит фоном. Будем рады вашим мнениям.

Смелых идей, отличных изобретений и успешных продуктов. Удачи!