Привет.
Давайте, наверное, сразу еще раз определимся с формулировкой искусственного интеллекта. Под ним мы будем подразумевать не нечто фантастическое, что может само думать, задаваться проблемами бытия и самоопределения, а тот комплекс программно-технических средств, который может создавать подобную видимость. Например, голосовые ассистенты. Синтезированный голос и запинающиеся на каждом слове фразы поначалу сразу выдавали программу и рушили восприятие общения с живым человеком. Но сегодня стоит только расфокусировать свое внимание, и вот буквально на днях меня подловил звонком менеджер одного из крупных банков, где нужно было, согласно условиям ипотечного кредитования, продлять страховку жизни (ежегодная процедура). Парень перечислил основные условия, назвал верно сумму и задал вопрос, согласен ли я списать ее прямо сейчас? Я был чем-то занят и слушал его вполуха. И только после его последнего вопроса до меня дошло, что я уже пару лет, как настроил автоплатеж и никакого ручного управления не требуется. Я переспросил, как его зовут, а затем сказал ему об автоплатеже. На что он мне ответил следующее: «Извините, я хоть и робот, но не могу проверить все данные мгновенно. Подождите буквально одну минуту». Сказать, что я удивился — ничего не сказать. Речь была естественная и не напрягающая. Была даже заметна некоторая «стажерская» неуверенность, что сразу удостоилось моей мысленной похвалы в адрес создателей и настройщиков модели поведения. Добавили актерской игры. Однако при этом это просто банальная библиотека с шаблонным набором фраз на разные случаи и анализатор речи. Может ли такая система убедить человека в искусственности мышления? На мой взгляд, запросто. Специалист, безусловно, раскусит обман, но обыватель легко поверит. А теперь добавьте сложности. Например, дополнив систему программой распознавания голоса, которая превращает его в текст. Наговорили вы голосовое сообщение, а вам робот текстом ответил, имитируя реальную жизненную ситуацию. Тут тоже простейшая связка. Но в «поведение» алгоритмов сильнее подмешивается человечность. Так, маленькими шажочками человечество и подменит живое общение общением с машинами. Хотя стоп! Разве можно назвать это живым общением даже в случае переписки с человеком?
Выше приведена ссылка на «Бирюльки», где Эльдар рассказал об одной интересной книге. Истории, которые упомянуты в ней, свидетельствуют о том, что очень немногие люди сегодня пользуются своими «встроенными» природой возможностями, отдавая вычисления всех мастей на откуп технологиям и умным устройствам. Речь в книге шла о навигации, что, в принципе, можно простить. У меня, например, какая-то дикая проблема с ориентированием в крестообразных торговых центрах. Всегда могу легко указать на север, но конкретно в таких зданиях внутренняя навигационная система словно блокируется.
Это я к тому, что навигация, положим, не такое уж и плохое подспорье человеку. В лесу — это однозначная палочка-выручалочка. Аккумулятор главное не забыть зарядить. Но возьмем устройства попроще. Будильник. Они, несмотря на свою простоту, чуть ли не самым серьезным образом изменили человека. Вы знали, что у нас есть встроенные биологические часы? Они характеризуются циркадными ритмами и самый известный из них — это как раз ритм сон-бодрствование. И если эволюция приучила организм к тому, что основным «датчиком времени» является свет, то умный, стремящийся к продуктивности человек, решил, что звук боя молоточка по звонким колокольчикам — штука более действенная. И вот мы уже встаем в пять утра и зимой во тьме ползем на работу. Дайте этой системе настояться, добавьте всяких реле, датчиков и прочих электронных компонентов, приправьте программным обеспечением, и вот у нас есть умный дом, который создает комфорт и организует дружелюбную атмосферу начала дня. Хорошая иллюстрация:
Больше о современных технологиях, которые способствуют адаптации человека к холодному, серому миру, мы писали вот здесь:
А теперь представьте, что мы ставим задачу адаптировать человека под ночную смену. Умный дом опускает светонепроницаемые шторы, свет приглушается, динамики затихают, умные устройства перестают присылать уведомления. Часы на руке отслеживают стадии сна. И вот у нас уже есть полноценная дрессировка организма под контролем алгоритмов. И если вернуться немного выше по тексту и освежить в памяти условие, что ИИ — это не нечто думающее, а всего лишь нечто, что умело создает таковую видимость, то умный дом вполне себе подпадает под определение ИИ. А если принять тот факт, что технологии умного дома могут редактировать установки организма, то мы и вовсе становимся свидетелями того, как ИИ меняет отдельных представителей человечества под их жизненные потребности. И снова, стоп! Точно их потребности?
Поскольку критически мыслить можно вне зависимости от социального статуса и интеллектуального уровня, то не будет искажением заключить, что фактически вся трудовая деятельность направлена на укрепление позиций технологических гигантов. Мало кто сегодня не завязан на продукцию таковых компаний. Приводить конкретные цепочки, указывающие на это, смысла нет. Каждый может сделать это самостоятельно. Следствием же наличия подобных цепочек, ведущих к IT-корпорациям, является заинтересованность последних в поддержании лояльности клиентов. Безусловно, пользователи представляют собой разношерстную публику, но дробление компаний на филиалы и отдельные представительства решает эту задачу. Для кого-то есть ограничения в контенте или доступных устройствах. Где-то запрещены отдельные функции. В иных случаях компании и вовсе намеренно игнорируют некоторые рынки. Но суть одна. Люди для таких коммерческих структур очень важны.
Выше вы можете видеть сообщение Дмитрия Анатольевича Медведева, в котором он рассуждает о том, насколько допустимо для ИИ (вспоминаем, кого мы условились так называть) уклоняться от ответов. Это его эксперимент с умной колонкой, в которую встроена Алиса. Главная претензия заключается в том, что голосовой помощник не дает тех ответов, которые можно самому с легкостью найти в Интернете. А учитывая, что алгоритм ищет их точно так же, как и человек, анализируя ссылки, то не будет преувеличением сказать, что алгоритм настроен вручную таким образом, чтобы соответствовать чьим-то ожиданиям. Казалось бы, в чем проблема? Не нравятся ответы — ищи «ручками». Но тут вступает в силу та самая скоростная эволюция человека под влиянием технологий. Многие из тех, кто с благодарностью и восторгом приняли условные TikTok и голосовые сообщения, сегодня с готовностью обращаются к умным колонкам за информацией. И тут должна была бы начаться серая зона, когда поисковая выдача оказывалась бы максимально объективной. Но нет. С одной стороны, человек далеко не всегда ищет в Интернете данные беспристрастно. Даже в запросах часто имеется некоторая надежда на конкретный ответ. С другой же стороны, если ответ не соответствует ожиданиям, то это вовсе не означает, что он будет объективным. Велика вероятность, что вашу точку зрения просто пытаются поменять.
Даже на паре примеров мы можем видеть, что ИИ — это управляемый человеком механизм. И его воздействие на окружающих — это не более чем лоббирование интересов ограниченного круга лиц.
Заключение
Если следовать по ходу повествования, то может показаться, что в ответ на заголовок логично сказать: никогда. И это подкрепляется банальным нежеланием такого уничтожения со стороны создателей ключевых продуктов. Но в анонсе не просто так подобный вариант исключается. Все дело в том, что человечество сегодня под действием технологий меняется. Причем довольно сильно. И в том виде, в котором оно было еще 20 лет назад, его уже нет. В частности, из-за… назовем это искривлением курса культурного развития. Ведь человечество — это не просто популяция людей. И отказ даже от маленькой крупицы достижений — это переход к «человечеству штрих». Где при этом человечество первой итерации? Ушло? Эволюционировало? А, может, все-таки уничтожено? А если так, то как это произошло? Стояли ли в стороне технологии? Нет. Были ли они инициаторами? Снова нет. Их можно назвать скорее соучастниками. Зачем финансировать условную оппозицию, когда можно продвинуть «беспристрастный» ИИ с «правильными» ответами на голосовые запросы пользователей. Или, например, использовать алгоритмы для создания дипфейков. Взгляните, как меняется восприятие рупора мировой демократии, когда смотришь на него в художественном видении, отличном от оригинального:
Следует ли бояться технологий? Разумеется, нет. Однако следует уделять время не только технологическому развитию, но и охране культурного наследия. И не только национального, но и общечеловеческого. Того, что досталось нам благодаря миллионам лет эволюции. Старания разработчиков и инженеров похвальны, но если вдруг результаты этих стараний окажутся в руках чрезвычайно прогрессивных людей, то лучше, чтобы «человечество штрих» (факт уже состоялся, что уж) было способно усомниться в ответе ИИ, сказать колонке «что за чушь?», и по старинке открыть браузер.
А вы как считаете, есть угроза в подобных своевольных трактовках продуктами IT-гигантов юридически однозначных исторических фактов, или все в пределах допустимого и критическое мышление пользователей только выиграет? Так ли сильнО, на ваш взгляд, влияние технологий на человека или проникновение пока еще слабое? Будем признательны за ваши примеры из жизни. Может, вам даже есть что предложить для формирования конструктивного подхода к дезинформации со стороны продуктов сферы высоких технологий. Поделитесь в комментариях. Мы всегда рады обратной связи.
Смелых идей, отличных изобретений и успешных продуктов. Удачи!
Опасно так вольно обращаться с трактовкой терминов. А потом еще на ИИ жалуемся :)) Ну да ладно…А средство защиты, только одно — учить думать. В первую очередь обращать внимание на факты, а не трактовки. На уроках истории учить причинам событий и их последствиям, а не тупо заучивать даты и список войн. Указывать не только принятые (со)обществом теории, но и альтернативные. Многократно проходить по списку когнитивных искажений и подробно разбирать каждое. Но грамотный человек опасен не только корпорациям, но и самому государственному устройству. Как решать эту дилемму, не знаю. Наверное только надеяться на самообразование.
Моя главная претензия к ИИ, что он может предполагать (не знать!) как правильно, но даже не догадывается (про знать вообще молчу), как неправильно.Периодически достаю модельки вопросами "Может ли мама пить раму?" или "рыть?". Не требуется специфичиских знаний. Любой среднеразвитый младшекласник ответит "Нет!" и легко обоснует. Для моделек это недоступно. Она просто знает часто встречающееся "мыла раму" и никаких дальнейших поползновений. Интеллектом назвать такое не могу. Только имитацией интеллекта.О! Точно! ИИ — имитация интеллекта.
Lecron, Учить думать тоже бывает чревато. Вот, все в 1990 думали, что СССР себя изжил, и то, что идёт ему на смену — хорошо. Если бы думали меньше, а приказы исполняли лучше — глядишь, такой трагедии и не случилось бы
Lecron, Что характерно, в комментах к соседней статье меня кое-кто убеждал, что думать надо только в строго отведенных автором статьи рамках. Что думать и рассуждать про более общие проблемы, например, что побудило именно этого автора написать именно эту статью именно таким образом — строго воспрещается и жестко банится. А вы говорите — думать, думающих людей никто не любит, даже…
не бояться, а опасаться стоит скорее скорости проникновения новейших технологий в нашу жизнь. но это вечный холивар опять-таки — стоит ли бездумно внедрять инновации в повседневный образ жизни или сначала надо эти инновации вдумчиво тестировать?
Филипп Мастяев, ,>> надо эти инновации вдумчиво тестироватьЯ бы добавил, что логично продумывать решение задач, а не применение инноваций. А то получится как с гибкими дисплеями. Придумать — придумали, а объяснить реальную необходимость забыли.
Lecron, ,>> На уроках истории учить причинам событий и их последствиямС этим, на мой взгляд, огромная сложность из-за отсутствия однозначной оценки. Ниже привели пример с распадом СССР. Сегодня среди причин называются подчас противоположные вещи и однозначного «утверждённого» мнения просто нет. Самостоятельное же изучение будет успешным только при наличии практики. То есть, когда ты замечаешь, что некоторые события цикличны, то начинаешь увязывать их в систему. И теоретическая писанина в данном случае лишней уже не будет и может дополнить картину. Отсюда вытекает ошибочность следующего утверждения:>> грамотный человек опасен не только корпорациям, но и самому государственному устройствуГрамотность не равно начитанность. Без практики — знания ничто. А на практике теория порой сильно отклоняется от своих основ. Так что сколько бы не теоретизировали над некоторыми событиями прошлого, полной правды иногда можно и не добиться. При этом знание общих концепций банально опасно. Вот и приходим к тому, что только скрупулёзное изучение вопроса и полное погружение может дать грамотность. Но готовы ли к этому? Так что опасность государству надумана. Если иностранное спонсирование «грамотных» теоретиков отсутствует, то их вой — пустой звук. Невозможность применить свои выкладки на практике — главное условие безопасности. Причём под невозможностью я подразумеваю их фактическую неосуществимость в силу несостоятельности, а не препоны со стороны оппонентов.
GrishaTav_SE, ну чего началось-то 😁>> что побудило именно этого автора написать именно эту статью именно таким образом — строго воспрещается и жестко банитсяНе так там было)>> Никого тут не банят за умные мысли. За неумение общаться, провокации и оскорбления — легко. А за аргументированные комментарии мы только благодарны.Впрочем, если вы можете рассмотреть в этом тексте побудительный подтекст отличный от озвученного, который сможете осудить, то мне честно будет интересно услышать эту мысль.
Kip_Thorne, ,>> все в 1990 думалиА думали ли? Может просто хотелось верить в лучшее и сладкий обман сработал? Нам на политологии в университете преподаватель сказал такую мысль: программы кандидатов в России имеют вес для избирателя, если они обещают сразу все. Социалку, работу, зарплату, отпуск в Турции два раза в год, автопром на уровне Японии и победу в ЧМ по футболу. Обама же между тем победил с программой всеобщей медицинской страховки, которую потом отменил Трамп.Так что, на мой взгляд, не думать чревато, а игнорировать риски.
«В ТК три входа, четыре этажа, и стоит мне зайти в магазин меньше условного «Спортмастера», как я начинаю теряться в пространстве.»А может это просто человечество атрофировало интеллект немного?)))
Поисковую выдачу легко подкрутить и в браузере. И, насколько я понимаю ситуацию, её и подкручивают. Каждый в свою сторону.
Mikhail Volkov, А вот, кстати, подумаю немножко в сторону, насчет оскорблений — ведь то, что тут может осуждаться, в среде тех же торгашей может служить очень даже положительной характеристикой — тут обернулся, тут перекрутился, тут покупателя обманул (привлек), с поставщиков денег взял, с покупателей денег взял, короче, лучший торгаш месяца, портрет над кассой )) А в остальных сферах это типа скрывается, обсуждения не приветствуются и все такое… и ведь журналисты именно с торгашами общаются, не могли ли они у них научиться плохому… нет, точно не буду больше думать, забанят )))
GrishaTav_SE, ,>> не могли ли они у них научиться плохому…Могли. Но это домыслы как бы.Я вот хочу какой пример привести. Работал в Евросети (2010 год). Пришёл парень покупать какую-то достаточно дорогую звонилку. Я сам был обладателем Dell Streak. Я его уговаривал на какой-нибудь Android, но он ни в какую. Я сдался и пошёл за коробкой Nokia (модель не помню). Включаю, чтобы показать ему основные фишки аппарата и понимаю, что устройство отлично работает. Быстро загружается, красивые анимации, приятно лежит в руке, все как-то продумано и т.п. Моё описание становится ярким, парень покупает и уходит счастливым. Коллега похвалил мою «продажную» натуру, а я взял свой Dell и в который уже раз испытал схожие эмоции (нравился девайс). Это я к тому, что оценка качества устройства, даже если оно рекламное, вполне может быть честной. Учтите также, что многие гаджеты сегодня идут со схожими оболочками, а, следовательно, опыт взаимодействия частично подхватывается. Да, когда пользовался iPhone любой Android покажется неудобным и нелогичным. Но и в противоположной ситуации происходит аналогично. Это привычка.
Ктулху, ну варианты-то все равно будут. Колонка из озвучивать не будет, сразу выберет.
simbat, не без этого)
Mikhail Volkov, Ну вот даже в вашем примере, после некоторых размышлений, можно выделить некую пристрастность и даже предположить причину — что, огрызка и выньмобайла (в 2010 оно вроде еще жило) в продаже не было, почему были предложены только нокла и ведро? А ведь можно даже худшую причину предположить…
Mikhail Volkov, Грамотность в данном контексте — умение думать. Которая/ое сильно снижает эффективность пропаганды. Опасность государству в массовом снятии розовых очков.
Mikhail Volkov, >Так что, на мой взгляд, не думать чревато, а игнорировать риски.Так, выше правильно написали, думать мало, надо иметь практику. Кто из советских граждан имел опыт жизни на Западе? То-то и оно, что при таких вводных риски не просматриваются.
ха ха ха прикольно сделали пресс секретаря белого дома !!! прямо красивая кукла клоун
Lecron, >>> Опасность государству в массовом снятии розовых очков.Не только государству. Если в любой магазин без розовых очков зайти, можно такое увидеть… А если статью какую-нибудь не в розовых очках прочитать … ))))
Чтобы уничтожить человечество, ИИ нужно две вещи, которые пока у него напрочь отсутствуют:1. Собственные желания2. Собственная инициативаПонятно, что "собственные" здесь чисто условно, но даже так ничего подобного не имеется.Проще говоря: что делает ИИ, когда ты с ним не контактируешь? Правильно — ничего. Он ждёт команды, и активируется только в ответ на запрос.Тогда как желание (мотивация) уничтожить что-либо должно возникнуть именно "внутре", в неонке.
romanlt, 3. Ошибка в приказе.4. Баг в коде.
GrishaTav_SE, ,>> почему были предложены только нокла и ведроБыла ещё Bada OS, которую я был бы и рад продать, но тот Samsung стоил как три выбранных парнем Nokia и два с половиной предложенных мной Android) А почему я предлагал именно робота, так потому, что знал как все работает. Видел тенденции к популярности платформы, на которой можно и в игры поиграть и разные плееры установить и ещё много всего. Сам был на его месте и не хотелось, чтобы человек жалел, что не выбрал больше возможностей. Парняга же слепо шёл за Nokia, потому что бренд. Но, повторюсь, в пользовании устройство не вызывало претензий. Я это сам прочувствовал при включении и был даже немного удивлён.>> можно выделить некую пристрастность и даже предположить причинуНу и как, совпало ваше предположение с реальностью? Всегда ведь можно поинтересоваться причиной, разве нет? И сделать это креативно и деликатно. При этом ответ (или его отсутствие) будет красноречивей любого ошибочного предположения.
Lecron, ,5. Диверсия.
Mikhail Volkov, 3 и 5 это внешние воздействия. Т.е. приказать кого-то убить. Это и сейчас есть — дроны со свободным поиском, штаты уже были критикованы за такое.4. максимум даст неверный ответ/реакцию. Но колонка первая не заговорит, если это не предусмотрел её разработчик.
Mikhail Volkov, А огрызок-то, огрызок? Тогда уже вышел iPnone 4? Который уже просто уничтожил всех конкурентов или еще был 3Gs, который был весьма неплох и всяко был достоин хотя бы упоминания уж по сравнению с теми убогими ноклами и андроидами 1.6. Почему про Айфон не упомянули? У меня уже есть ошибочные предположения, но я хочу подождать вашего ответа )))
romanlt, 3. Не совсем внешнее. Приказ может упустить некие граничные условия, по которым пойдет фактическое решение. Скорее можно охарактеризовать, как несоблюдение техники безопасности. Или ошибка в бизнес-логике системы человек-машина.4. Вы рассматриваете модель, в принципе неспособную нанести вред. А если взять хотя бы автопилот. Тут же вообще речь о системе __потенциально__ способной уничтожить человечество.5. Не обязательно приказ убить. Достаточно создания нештатной ситуации, которая может развиться… в п.3 и 4.
romanlt, ,>> Но колонка первая не заговорит, если это не предусмотрел её разработчикОна может неверно распознать очередность звуков, спутав ее со своим именем и интерпретировать сказанное дальше, как команду. У меня колонка от Сбера. Она откликается на «Салют» и «Джой». Второе имя, как мы понимаем, может быть созвучно многим сочетаниям звуков в словах русского языка. Например, как-то ночью мы сидели с женой смотрели фильм. Я поставил на паузу и произнес буквально следующее: «Знаешь, что я думаю?» — эта зараза включилась в разговор и выдала: «Конечно знаю». В звуках слов «что я» она нашла «джой» (можно притянуть). Но слово «знаешь» в любом случае сказано было до обращения к ней, но она ответила с его учетом. Так что не только может неверный ответ дать, но и выполнить действия, о которых ее никто не просил)
romanlt, А лучше вообще не делить на такие мелкие пункт, а проанализировать причины уже случившихся ЧП. Их можно разделить на а) "так хотели", любой теракт и б) "так случилось", например Чернобыль. Плюс гибрид, который при таких масштабах нельзя сбрасывать со счетов — хотели просто вывести из строя, а оно как бахнет.
Ха, ИИ, можно подумать поиск в поисковике ответы не фильтруются.
GrishaTav_SE, я работал на такой точке, где iPhone был не по карману большей части аудитории. У меня на точке его не было.
Mikhail Volkov, Вот!!! Я так и знал!!! А ведь грамотный продавец-консультант должен был обязательно дать хотя бы быстрый обзор рынка, даже если у него на точке нет нужного товара. Впаривать только из наличия — это первая фаза падения, вторая — это впаривать только товары с высоким бонусом продавцу, модель продаж компании … (удалено самоцензурой).Да и разница цены между Dell Streak и iPhone 3Gs не такая чтобы превышающая процентов 20, а то и меньше.
GrishaTav_SE, ,>> грамотный продавец-консультант долженВы неправы. Технологии продаж не строятся на принципе «давайте я вам сейчас расскажу что там на рынке». Для начала необходимо выяснить, что хочет клиент, а потом выводить его на конкретные варианты. И когда парень сказал, что ему нужна «кнопка», впаривать ему iPhone не будет грамотным ходом. А ведь за стандартными приемами следует множество ситуативных маневров… Впрочем, я вижу, что вы говорите все это с некоторой иронией, поэтому прощаю вам отсутствие знаний технологий продаж.
Mikhail Volkov, >>> И когда парень сказал, что ему нужна «кнопка», впаривать ему iPhone не будет грамотным ходом.Но Андроид вместо кнопки вы все же предложить попробовали. В принципе, это еще один аргумент в пользу ненужности розничной торговли, если даже лучшие из продавцов действуют не самым оптимальным для покупателя образом. Чел хотел Нокию — чел и получил Нокию, с таким же успехом он ее мог взять из ячейки постамата, еще и дешевле. Попытки убедить его купить лучший в мире телефон сделано не было.
GrishaTav_SE, ,>> Но Андроид вместо кнопки вы все же предложить попробовалиА знаете почему? Потому что любят глазами и впечатления от сенсорного смартфона иногда перевешивают. iPhone на точке отсутствует и стоит кратно больше, проблематично уговаривать купить его, не имея возможности банально даже продемонстрировать его работу.>> это еще один аргумент в пользу ненужности розничной торговлиГод 2010. Людям ещё хотелось потискать в руках телефон перед покупкой.>> Попытки убедить его купить лучший в мире телефон сделано не былоВы помните какими были первые огрызки? Там по Bluetooth файлы можно было только на iPhone передавать. Сложно назвать это лучшим предложением 🤣И о чем мы вообще дискутируем? Вы же сами сказали:>> то, что тут может осуждаться, в среде тех же торгашей может служить очень даже положительной характеристикойПродажа состоялась. Деньги получены, клиент доволен. Мог ли он быть доволен больше? Да. Если бы купил сенсор на Android. Переплатил бы немногим больше, но возможностей также было бы больше. iPhone бы стоил существенно дороже, но ограничил бы в самых насущных вещах. Если помните, там не сразу можно было без бубна даже музыку загрузить.