Привет.
На тему разумности ИИ рассуждать довольно сложно по трем причинам. Первая — слишком мало знаешь. Даже поверхностное знакомство с матчастью в данном вопросе не раскроет механизма его работы и оставит перед условным черным ящиком, который выдает результат. Вторая — слишком много знаешь. Ты условный разработчик и досконально изучил вопрос. Пара строк кода за авторством твоей карающей длани, и нейросеть будет всех ругать за то, что они ходят с iPhone (шутка). Третья — мало кто доподлинно знает все механизмы работы собственного разума. Сначала я написал «никто не знает», но потом подумал, что это слишком категорично. Так вот. Незнание того, как работаешь сам, существенно усложняет процесс сравнения с конкурентами. Но давайте все же проделаем это упражнение. Катализатором подобного размышления явилась пятничная колонка Константина Иванова про новости будущего. Подробнее с текстом можно ознакомиться по ссылке ниже:
В комментариях я высказался по поводу заметки о том, что по итогам западных исследований новости в пересказе нейросетей искажаются, додумываются или просто содержат устаревшую информацию. Мое мнение состояло в том, что нейросети подобными действиями все больше напоминают проявление характера. Личный стиль, если угодно. Константин со мной не согласился, сославшись на то, что авторское мнение — это в существенной части эмоции, которых у нейросети, судя по всему, нет. Но что-то меня в этом вопросе не отпустило. Как оказалось, не зря. Давайте вместе порассуждаем. Итак, мнение:
Видно, что здесь существенную роль играют эмоции. А еще ясно, что мнение — это что-то личное, субъективное. Что ж, приняли. А что такое эмоция?
Определение эмоции уже отсылает нас к психике, а психика, как ни странно, снова ссылается на эмоции. Меня еще умилило, что после определения ИИ деликатно сказал, что это сложное понятие:
С таким аргументом спорить довольно сложно. Это из той же оперы, что и просьба объяснить, которую парируют фразой, что это слишком сложно и спрашивающий не поймет. Суть же в том, что это реально сложный вопрос, для которого, весьма вероятно, еще и исследований было проведено недостаточно. Как в физике. Квантовая механика есть. Теория относительности есть. Наблюдения, подтверждающие их состоятельность, тоже есть. А вот матанализа, чтобы объединить их, не хватает. Так и с нашим разумом, внутренним миром и поведенческой психологией. Теперь же давайте рассмотрим возможные причины искажения информации нейросетями. Рассуждение будет субъективным, так что подключайтесь в комментариях.
Что произойдет, если человеку дадут задание пересказать последние новости? Сначала потребуется уточнить, какие именно. Технологии, мода, политика и т.п. Возможно, от инициатора просьбы последуют какие-то уточняющие вводные. В итоге в процессе небольшого обмена фразами адресат просьбы справится с задачей. С рядом оговорок, разумеется.
А как происходит общение с нейросетью? Во-первых, человек пока еще предпочитает использовать их исключительно в качестве прикладного инструмента. Статистику я не изучал, но весьма вероятно, что те, кто связывает себя узами брака с умными колонками, в меньшинстве. А если использование исключительно потребительское, то мы строим взаимодействие по принципу «вот тебе задача, реши». И любой уточняющий вопрос или корректировка расценивается нами как проявление глупости или несовершенства. Во-вторых, у нас существует крайняя степень нетерпимости к результату, которая формирует нашу личную предвзятость к алгоритмам. На этом вопросе, кстати, стоит остановиться подробнее, поскольку это весьма серьезная статья расхода компаний-разработчиков нейросетей. Не так давно попалась на глаза статья, где утверждалось, что Open AI тратит миллионы долларов на обработку каждого «спасибо». Авторы ссылались на Сэма Альтмана. И хотя приводились доводы, что это исключительно для задания нужного тона беседе, истина, думается мне, немного в другом. Скорее всего, подобным ходом алгоритмы пытаются оценить, какие источники им впоследствии использовать, разговаривая конкретно с тобой. В-третьих, мы обладаем кругозором. И если всегда интересовались мобильной электроникой, то мнение технаря в вопросе принятия родов нам, весьма вероятно, будет неинтересно. И недовольство с нашей стороны будет оправдано. Вроде как проиндексированы же уже давно все страницы, чего ты тормозишь? В-четвертых, мы ожидаем от нейросети того, на что она, вполне возможно, неспособна. Даже тот самый поиск информации. Например, если сайта уже нет в живых, то мне не довелось получить от ИИ ссылку на архив Интернета. А вот выдать кучу чуши — это запросто.
Я веду к тому, что в случае с вопросом в адрес человека мы параллельно пообщаемся и, скорее всего, даже частично скорректируем свои запросы, поскольку общение будет не «вопрос — ответ», а «вопрос — уточняющий вопрос». Как с тем самым продавцом, который на вопрос о наличии конкретного смартфона обязательно попытается продать какой-нибудь другой (с большей маржой). А ведь если начать общаться с людьми по схеме для ИИ, то они ничем не будут от него отличаться. Мне вспоминаются сцены разговоров директоров с подчиненными. Все ровно то же самое. Вопрос — ответ. Начальник недоволен, задает вопрос по-другому. Сотрудник сориентировался, ответ верный. Спасибо от начальника. Сотрудник делает отметку, что тактика перевести стрелки сработала, и берет ее на вооружение. И так далее.
Можно парировать, что человек куда больше, чем только его обязанности. Но вот скажите, много ли сотрудников плотно общаются вне рабочего коллектива? А сколько из них строят это общение не из-за работы? Будут ли они общаться после увольнения одного из них? Все это реальные жизненные вопросы, поскольку очень часто мы не более чем функция.
Согласитесь, схожесть с нейросетью есть.
Теперь об искажениях информации. Здесь также прослеживается параллель с человеческой памятью. Уверен, вы слышали теорию о том, что событие мы вспоминаем только один раз. Все последующие воспоминания — это уже воспоминания о воспоминаниях. И я нередко ловил себя на мысли, что замечаю, как мои одногруппники нередко помнят события иначе, нежели я. Безусловно, иногда речь заходит о той самой эмоциональной составляющей впечатлений, но часто меняются даже отдельные детали. Тут можно отметить влияние тех самых глубоких психологических особенностей. Память, характер, темперамент и т.п. Казалось бы, у нейросетей нет памяти, характера и темперамента. Но здесь всплывают те самые глубинные настройки от разработчиков. Например, игнорировать высказывания о ноутбуке сына президента. Вроде бы полностью искусственное ограничение, которое легко отследить. Но в процессе использования программного продукта ты не видишь ограничений, если сам не владеешь всей полнотой информации. Все же остальные, кто использует продукт, что называется, «как есть», просто получают «закладки» в мышление и стереотипные взгляды. Подобного состояния мышления можно добиться и без нейросетей. Вместо них разум корректируется страхами, подростковыми переживаниями, наставлениями родных и т.п.
И снова, на мой взгляд, параллель. В человеке взгляды воспитываются людьми. В нейросети установки задаются людьми.
Ну и самое интересное, пожалуй, с откровенным искажением информации, когда нейросеть придумывает факты. Здесь хотелось бы снова вспомнить материал со стороннего сайта, где рассказывалось о том, как автор «Википедии» выдумывала статьи. Название текста вот такое: «„Нужно лгать еще больше“. Википедия много лет публиковала вымышленную историю России. Как обман удалось раскрыть?». Ознакомиться с ним можно вот по этой ссылке.
Для начала давайте подумаем, что двигало женщиной, которая выдумывала несуществующие сведения? Причем не просто выдумывала, а выстраивала целую доказательную базу с перекрестными ссылками на свои же материалы, которые встраивались в основные статьи в качестве подтверждения изложенных фактов. Некоторые писатели проводят меньше работы при подготовке к новым романам. Оставим за скобками вероятность влияния текстов о серебряном руднике России, который привел к войне между Тверским и Московским княжествами в XIV веке, и восстаниями татар в XVII веке на общественное мнение. Актуальность информации близка к нулю. Возможно, всему виной та самая потребность «знать и понимать». Другой же стороной медали является не менее интересная особенность человеческой натуры. Она состоит в том, что люди хотят сказки в собственной жизни. Им хочется быть обманутыми, чтобы мир казался не таким уж однозначным. И аналогичные действиям автора «Википедии» поступки помогают строить свой собственный мир. Бодипозитив, а не ожирение, например. Пара перекрестных ссылок на улучшение настроения вследствие принятия себя таким, какой ты есть. Несколько упоминаний абьюза со стороны несогласных. Сотня другая лайков, и вот у нас уже опасная для жизни тенденция считается нормальной. Как оценит информацию о вреде лишнего веса человек из такой реальности? Минимум скажет, что данные устарели. А максимум — что нейросеть в бреду галлюцинаций. Если же нейросети скармливать подобные статьи, то удивляться выдумыванию фактов не придется. Вполне возможно, она воспользуется принципом, который называется «китайская комната». Я узнал о нем в ходе чтения романа Питера Уоттса «Ложная слепота». Его (принципа) суть в том, что, проанализировав вопрос, система попытается угадать ответ, предоставив вам тот, что будет похож на вопрос. Возможно, названием. Может быть, в тексте ответа будут встречаться ключевые слова.
Здесь мне вспомнился пример из университетского опыта использования поиска. Я искал информацию, как сделать очки для стереоскопического эффекта, и поиск Google мне выдал ссылку на статью с таким же названием, где в тексте автор смеялся над тем, что есть дела поважнее, чем заниматься подобной ерундой, и никакой схемы, разумеется, не приводил. Типа юмор. И несмотря на то, что на мой запрос ответа в его тексте не было, комментариев он собрал выше крыши. Сегодня такое маловероятно. Те самые «спасибо» от пользователей свое слово сказали. Но вот в вопросах серебряного рудника и восстании татар провалы еще остаются.
Это я к чему. В подобных случаях глупость машины сводится к уровню людей. Учим нейросети на своих материалах — извольте пожинать плоды. Второй же вывод в том, что при наличии экспериментального формата люди восхищаются продуктом. Картинки, простенькие программы, осмысленные тексты. И все это без человека. Это впечатляет. Но стоит подобным продуктам начать использоваться дальше, и вот мы начинаем беситься с этих шести пальцев, программы приходится править вручную, а тексты вызывают только улыбку. Все как и с людьми. При нехватке специалистов ты довольствуешься любым лоботрясом, лишь бы хоть немного разгрузить себя, а когда выстраивается очередь соискателей — устраиваешь соревнование, где уже важен результат, а не факт того, что кто-то просто пришел.
Смелых идей, отличных изобретений и успешных продуктов. Удачи!