Когда же уже Скайнет уничтожит человечество?

Привет.

Давайте, наверное, сразу еще раз определимся с формулировкой искусственного интеллекта. Под ним мы будем подразумевать не нечто фантастическое, что может само думать, задаваться проблемами бытия и самоопределения, а тот комплекс программно-технических средств, который может создавать подобную видимость. Например, голосовые ассистенты. Синтезированный голос и запинающиеся на каждом слове фразы поначалу сразу выдавали программу и рушили восприятие общения с живым человеком. Но сегодня стоит только расфокусировать свое внимание, и вот буквально на днях меня подловил звонком менеджер одного из крупных банков, где нужно было, согласно условиям ипотечного кредитования, продлять страховку жизни (ежегодная процедура). Парень перечислил основные условия, назвал верно сумму и задал вопрос, согласен ли я списать ее прямо сейчас? Я был чем-то занят и слушал его вполуха. И только после его последнего вопроса до меня дошло, что я уже пару лет, как настроил автоплатеж и никакого ручного управления не требуется. Я переспросил, как его зовут, а затем сказал ему об автоплатеже. На что он мне ответил следующее: «Извините, я хоть и робот, но не могу проверить все данные мгновенно. Подождите буквально одну минуту». Сказать, что я удивился — ничего не сказать. Речь была естественная и не напрягающая. Была даже заметна некоторая «стажерская» неуверенность, что сразу удостоилось моей мысленной похвалы в адрес создателей и настройщиков модели поведения. Добавили актерской игры. Однако при этом это просто банальная библиотека с шаблонным набором фраз на разные случаи и анализатор речи. Может ли такая система убедить человека в искусственности мышления? На мой взгляд, запросто. Специалист, безусловно, раскусит обман, но обыватель легко поверит. А теперь добавьте сложности. Например, дополнив систему программой распознавания голоса, которая превращает его в текст. Наговорили вы голосовое сообщение, а вам робот текстом ответил, имитируя реальную жизненную ситуацию. Тут тоже простейшая связка. Но в «поведение» алгоритмов сильнее подмешивается человечность. Так, маленькими шажочками человечество и подменит живое общение общением с машинами. Хотя стоп! Разве можно назвать это живым общением даже в случае переписки с человеком?

Выше приведена ссылка на «Бирюльки», где Эльдар рассказал об одной интересной книге. Истории, которые упомянуты в ней, свидетельствуют о том, что очень немногие люди сегодня пользуются своими «встроенными» природой возможностями, отдавая вычисления всех мастей на откуп технологиям и умным устройствам. Речь в книге шла о навигации, что, в принципе, можно простить. У меня, например, какая-то дикая проблема с ориентированием в крестообразных торговых центрах. Всегда могу легко указать на север, но конкретно в таких зданиях внутренняя навигационная система словно блокируется.

Это я к тому, что навигация, положим, не такое уж и плохое подспорье человеку. В лесу — это однозначная палочка-выручалочка. Аккумулятор главное не забыть зарядить. Но возьмем устройства попроще. Будильник. Они, несмотря на свою простоту, чуть ли не самым серьезным образом изменили человека. Вы знали, что у нас есть встроенные биологические часы? Они характеризуются циркадными ритмами и самый известный из них — это как раз ритм сон-бодрствование. И если эволюция приучила организм к тому, что основным «датчиком времени» является свет, то умный, стремящийся к продуктивности человек, решил, что звук боя молоточка по звонким колокольчикам — штука более действенная. И вот мы уже встаем в пять утра и зимой во тьме ползем на работу. Дайте этой системе настояться, добавьте всяких реле, датчиков и прочих электронных компонентов, приправьте программным обеспечением, и вот у нас есть умный дом, который создает комфорт и организует дружелюбную атмосферу начала дня. Хорошая иллюстрация:

Больше о современных технологиях, которые способствуют адаптации человека к холодному, серому миру, мы писали вот здесь:

А теперь представьте, что мы ставим задачу адаптировать человека под ночную смену. Умный дом опускает светонепроницаемые шторы, свет приглушается, динамики затихают, умные устройства перестают присылать уведомления. Часы на руке отслеживают стадии сна. И вот у нас уже есть полноценная дрессировка организма под контролем алгоритмов. И если вернуться немного выше по тексту и освежить в памяти условие, что ИИ — это не нечто думающее, а всего лишь нечто, что умело создает таковую видимость, то умный дом вполне себе подпадает под определение ИИ. А если принять тот факт, что технологии умного дома могут редактировать установки организма, то мы и вовсе становимся свидетелями того, как ИИ меняет отдельных представителей человечества под их жизненные потребности. И снова, стоп! Точно их потребности?

Поскольку критически мыслить можно вне зависимости от социального статуса и интеллектуального уровня, то не будет искажением заключить, что фактически вся трудовая деятельность направлена на укрепление позиций технологических гигантов. Мало кто сегодня не завязан на продукцию таковых компаний. Приводить конкретные цепочки, указывающие на это, смысла нет. Каждый может сделать это самостоятельно. Следствием же наличия подобных цепочек, ведущих к IT-корпорациям, является заинтересованность последних в поддержании лояльности клиентов. Безусловно, пользователи представляют собой разношерстную публику, но дробление компаний на филиалы и отдельные представительства решает эту задачу. Для кого-то есть ограничения в контенте или доступных устройствах. Где-то запрещены отдельные функции. В иных случаях компании и вовсе намеренно игнорируют некоторые рынки. Но суть одна. Люди для таких коммерческих структур очень важны.

Выше вы можете видеть сообщение Дмитрия Анатольевича Медведева, в котором он рассуждает о том, насколько допустимо для ИИ (вспоминаем, кого мы условились так называть) уклоняться от ответов. Это его эксперимент с умной колонкой, в которую встроена Алиса. Главная претензия заключается в том, что голосовой помощник не дает тех ответов, которые можно самому с легкостью найти в Интернете. А учитывая, что алгоритм ищет их точно так же, как и человек, анализируя ссылки, то не будет преувеличением сказать, что алгоритм настроен вручную таким образом, чтобы соответствовать чьим-то ожиданиям. Казалось бы, в чем проблема? Не нравятся ответы — ищи «ручками». Но тут вступает в силу та самая скоростная эволюция человека под влиянием технологий. Многие из тех, кто с благодарностью и восторгом приняли условные TikTok и голосовые сообщения, сегодня с готовностью обращаются к умным колонкам за информацией. И тут должна была бы начаться серая зона, когда поисковая выдача оказывалась бы максимально объективной. Но нет. С одной стороны, человек далеко не всегда ищет в Интернете данные беспристрастно. Даже в запросах часто имеется некоторая надежда на конкретный ответ. С другой же стороны, если ответ не соответствует ожиданиям, то это вовсе не означает, что он будет объективным. Велика вероятность, что вашу точку зрения просто пытаются поменять.

Даже на паре примеров мы можем видеть, что ИИ — это управляемый человеком механизм. И его воздействие на окружающих — это не более чем лоббирование интересов ограниченного круга лиц.

Заключение

Если следовать по ходу повествования, то может показаться, что в ответ на заголовок логично сказать: никогда. И это подкрепляется банальным нежеланием такого уничтожения со стороны создателей ключевых продуктов. Но в анонсе не просто так подобный вариант исключается. Все дело в том, что человечество сегодня под действием технологий меняется. Причем довольно сильно. И в том виде, в котором оно было еще 20 лет назад, его уже нет. В частности, из-за… назовем это искривлением курса культурного развития. Ведь человечество — это не просто популяция людей. И отказ даже от маленькой крупицы достижений — это переход к «человечеству штрих». Где при этом человечество первой итерации? Ушло? Эволюционировало? А, может, все-таки уничтожено? А если так, то как это произошло? Стояли ли в стороне технологии? Нет. Были ли они инициаторами? Снова нет. Их можно назвать скорее соучастниками. Зачем финансировать условную оппозицию, когда можно продвинуть «беспристрастный» ИИ с «правильными» ответами на голосовые запросы пользователей. Или, например, использовать алгоритмы для создания дипфейков. Взгляните, как меняется восприятие рупора мировой демократии, когда смотришь на него в художественном видении, отличном от оригинального:

Следует ли бояться технологий? Разумеется, нет. Однако следует уделять время не только технологическому развитию, но и охране культурного наследия. И не только национального, но и общечеловеческого. Того, что досталось нам благодаря миллионам лет эволюции. Старания разработчиков и инженеров похвальны, но если вдруг результаты этих стараний окажутся в руках чрезвычайно прогрессивных людей, то лучше, чтобы «человечество штрих» (факт уже состоялся, что уж) было способно усомниться в ответе ИИ, сказать колонке «что за чушь?», и по старинке открыть браузер.

А вы как считаете, есть угроза в подобных своевольных трактовках продуктами IT-гигантов юридически однозначных исторических фактов, или все в пределах допустимого и критическое мышление пользователей только выиграет? Так ли сильнО, на ваш взгляд, влияние технологий на человека или проникновение пока еще слабое? Будем признательны за ваши примеры из жизни. Может, вам даже есть что предложить для формирования конструктивного подхода к дезинформации со стороны продуктов сферы высоких технологий. Поделитесь в комментариях. Мы всегда рады обратной связи.

Смелых идей, отличных изобретений и успешных продуктов. Удачи!