Привет.
Волна публикаций о нейросетях нарастает вместе со скептическими откликами на потенциал продуктов на их (нейросетях) основе. Подливают масла в огонь комментарии специалистов о подмене понятий. Мол, мы говорим «интеллект», а имеем в виду просто программу с очень ограниченным набором возможностей в узкоспециализированной сфере. О терминологии и ситуациях, когда ее соблюдение — скорее минус, мы рассуждали вот здесь:
Сегодня приглашаем вас взглянуть на искусственное мышление под новым углом. Мы уже предпринимали несколько попыток. В частности, говорили о том, что то, что мы называем ИИ, могло бы помочь в прогнозировании поступков на основе больших данных. Благое начинание, на мой взгляд. Также были мысли о том, что уничтожения человечества рукотворным интеллектом ждать не стоит. Оно уже случилось. Мы просто не заметили. С материалами можно ознакомиться по ссылкам ниже:
Но, признаться, меня почему-то не убеждают доводы о том, что ИИ управляем. Сомнения возникают в связи с крайне податливым характером человека и его гибкостью в каких бы то ни было вопросах, которая еще и имеет свойство проявляться в кратчайшие сроки. То есть ИИ, разумеется, управляем. Это всего лишь программа. Но где гарантия, что предоставленная человеку программа не станет корректировать человека?
Немного терминологии
Если закопаться в определения интеллекта, то можно обнаружить, что подмена понятий обусловлена введением человека в заблуждение еще на стадии знакомства с первоначальными определениями. Сбивает с толку не только разнообразие трактовок, но и сама разница между словами «intellect» и «Intelligence». В первом случае это то самое логическое мышление и умение вставить в треугольное отверстие именно треугольник.
Если объяснять, что такое интеллект (который «intellect») простыми словами, то подходят такие слова: реализуемый на физическом объекте алгоритм. А вот с интеллектом (который «intelligence») все несколько сложнее. Несмотря на то, что переводится на русский язык это точно так же — «интеллект», значение термин имеет более широкое. Если кратко, то уместнее говорить в данном случае о разумности. А разумность характеризуется не только умением правильно распределить фигурки по отверстиям головоломки. Разумность, кроме логики, составляют интуиция, познание, способность мыслить, понимание, воображение. И можно было бы сразу закончить рассуждение. Ведь искусственный интеллект все вышеперечисленные навыки никогда не освоит. Ведь так?
Для понимания того, почему вопрос выше вызывает у меня сомнения, я предлагаю вам подумать над аналогией. Представьте себе программу на каком-нибудь простом языке программирования типа BASIC (мы в школе его изучали). Вот, нашел небольшую программку, которая, думаю, будет понятна всем:
Операторов для выполнения команд в BASIC не сказать, чтобы сильно много, но, тем не менее, даже в школьном факультативном кружке мы делали много разнообразных штук. Даже простенькие двухмерные платформеры получались. А теперь предлагаю взглянуть на механику создания игры в Unreal Engine:
Я не программист, и, скорее всего, следующие слова не будут соответствовать привычной спецам терминологии, но, думаю, не ошибусь, если скажу, что все, что мы видим на картинке выше, не более чем надстройка над бесконечными строками кода, аналогичными программе на BASIC. Это я к тому, что независимо от сложности и уровня достижений сегодняшних программных продуктов мельчайшие строительные кирпичики остались прежними. Да, сегодня есть множество библиотек с готовыми подпрограммами и функциями, которые ускоряют разработку, но основа не изменилась.
А теперь давайте вернемся к интеллекту, разумности и тому, возможно ли добиться их искусственного воплощения. Напомню, что разумность составляют интуиция, познание, способность мыслить, понимание, воображение.
Интуиция
Если описывать это явление наукообразными словами, то получится что-то вроде определения из «Википедии»: единомоментный бессознательный вывод или озарение. Если же попытаться представить интуицию в виде программного продукта применительно к компьютеру, то это будет просто выбор ответа на основе заложенных ограничений. Собственно, человеческий разум делает точно так же. Просто скорость принятия решений разными людьми варьируется в широком диапазоне из-за разных умственных способностей. Память, усвоенные сведения, концентрация на исследуемом вопросе, самочувствие, болезни, врожденные расстройства и т.п. Компьютеры же лишены этих особенностей. И даже если они построены на разных компонентах и эксплуатируются в разных условиях, то разница в скорости принятия решений устройствами одного поколения будет незаметна человеку. Можно назвать это отсутствием чутья у машины, а можно сказать, что чутье — это лишь следствие более быстрой работы мозга у отдельных представителей человеческой расы. У компьютеров же каждый представитель оказывается таковым, а следовательно, чутье присуще каждому из них как само собой разумеющееся свойство.
Познание
Применительно к человеку данный процесс распространяется на все без исключения сферы его жизни. Формы бывают разные. Духовная, научная, художественная, обыденная и так далее. У философов и древних мыслителей картина более простая. Они говорят о познании чувственном и умственном. Но все исследования сходятся в том, что познание — это процесс, который происходит в течение всей жизни человека и формируется с учетом развития каждой из его форм. И тут хотелось бы обратить внимание на временные ограничения. Я считаю, что именно из них и проистекают те самые чувственные стороны познания. Ведь даже не погруженный в научные изыскания человек легко согласится, что, например, восхищение — это состояние, которое можно притупить множественными повторениями приведших к этому состоянию событий. Вкус еды, интересные кинематографические сюжеты, упоение интеллектуальными достижениями, физиология… Все это рано или поздно превращается не более чем в моторику или даже рутину. Человек часто осознанно растягивает процесс познания подобных сторон своей жизни, чтобы моменты счастья не приелись. Но что произойдет, если диковинка станет обыденностью? А ничего смертельного. Ее просто можно будет проанализировать и понять, почему нравятся те или иные блюда, ароматы, фильмы или книги. Интеллектуальные свершения превратятся в спираль, которая с каждым витком будет выводить на решения, превосходящие ранние достижения. Таким образом, человеку банально не хватает времени на формирование большой базы данных, чтобы чувственное познание превратилось в научное. А это неизбежно произойдет, когда машина эмпирическим путем придет к ответу, почему то или иное явление вызывают определенные чувства.
Способность мыслить
Мышление — это любопытная штука. Главным образом потому, что у нее двоякий результат. Аналогично познанию оно основывается на способности воспринимать окружающий мир. Ключевым же отличием является навык обобщать полученные сведения и выводить аналогии. Однако в мышлении также видно ограничение возможностей человеческого организма, которое проявляется в проработке только тех сведений, которые были усвоены в процессе познания. Это, в свою очередь, приводит к тому, что результатом мышления может быть как истина, так и всего лишь личное мнение. Вот если бы человек обладал бесконечным объемом памяти и мог обрабатывать бесконечное количество сведений быстро и не отвлекаясь…
Понимание
К пониманию приводит мышление. Здесь мне нравится теория трех полей. Первое поле — это факты. Второе — доказательства. Третье — связь первого и второго. Простейший пример — это тексты. Они построены из слов, которые, в свою очередь, построены из букв. Буквы самодостаточны, слова требуют обоснования, а тексты — сочетания самодостаточного и оригинального. Понимание — тренируемый навык. Мало кто из нас сразу умел читать с выражением или ставил верно ударения в словах с первой попытки. А уж понимать контекст мы, кажется, учимся всю жизнь. Всему виной снова физиологические ограничения и те самые искусственные «торможения» в познании ради сохранения привычного состояния. Кто-то может читать разноплановые книги каждую неделю, а кому-то приятно погружаться исключительно в привычный мир, по кругу перечитывая знакомые произведения, каждый раз находя в них что-то новое. Искусственный интеллект здесь снова в лидерах. Он не ограничен предрассудками, может усваивать информацию в любых объемах и искать множество смыслов, не тратя времени на повторное перечитывание.
Воображение
Это слово почему-то вызывает у сторонников человеческого превосходства особенную гордость. Типа робот не может сочинить симфонию или превратить кусок холста в произведение искусства (кто понял отсылку — молодец). Все потому, что воображение основано на построении образов, представлений и идей, которые не встречаются в усвоенной ранее человеком информации в целостном виде. Например, увидел человек облака в небе, которые сложились в простенький узор, напоминающий реальный объект. Человек взял холст и «нарисовал» облаками сложную картину. Это тот самый новый виток спирали развития искусства. Однако если вспомнить сегодняшние нейросети, генерирующие картинки, то построение изображений из частей других изображений вполне себе тянет на принцип работы воображения. При этом нейросети умеют еще и стиль менять.
Если идти еще дальше, то можно выделить сознание как составную часть человеческого интеллекта (разумности). Но и оно в привычном нам виде трактуется как субъективное восприятие реальности. Субъективность же, как выше уже проговаривалось, основывается на ограниченном познании и т.д.
Таким образом, я бы сделал вывод о том, что сегодняшний ИИ несправедливо отказываются считать равным человеческому. Проблема исключительно в носителе. Ведь если настроить все компоненты интеллекта и ставить перед ним задачи, которые ежесекундно ставятся перед развивающимся человеком, то мы и получим знакомый нам разум, только без тела. Сегодня же мы в большей степени заинтересованы в том, чтобы ИИ сразу взрослел до узконаправленного специалиста.
В тексте по ссылке выше были интересные слова:
«Системы искусственного интеллекта также не имеют «желаний« или «мотивации» за пределами предопределенных алгоритмов. Они ничего не могут сделать по своей воле, потому что для этого потребуется сознание».
И у меня вопрос. А нужно ли это самому искусственному интеллекту? Мы же, обладая грузом пережитого, являемся сегодня неким усредненным существом, которое и отжиматься умеет, и пару стихотворений с выражением прочитает, и в Excel знает, как среднее по колонке посчитать. При этом навыки для первого, и второго, и третьего даже не догадываются о существовании друг друга. Станет ли ИИ работать лучше, если, генерируя картинки, он будет способен и вычислять дискриминант? Или поможет ли ему в решении квадратных уравнений информация об оптимальном объеме потребления белка атлетами на этапе подготовки к соревнованиям?
Как вы думаете, способен ли искусственный интеллект на большее или развитие идет абсолютно верным путем с разделением областей знаний на отрасли? Может быть, вы можете привести отрасль, в которой ИИ пасует перед человеком? Поделитесь своими соображениями.
Смелых идей, отличных изобретений и успешных продуктов. Удачи!
…Он не ограничен предрассудками, может усваивать информацию в любых объемах и искать множество смыслов, не тратя времени на повторное перечитывание…Ну какие предрассудки ему в интернете скормили, такие смыслы он и ищет. Предрассудки изменились, можно и перечитать в поиске новых смыслов. Раньше на картинах пухленьких рисовали. Сейчас аниме с большими … японскими глазами.;)
"Вот, нашел небольшую программку, которая, думаю, будет понятна всем"Обиделся и дальше не читал-съ!
Вы рассматриваете "искусственный интеллект" как абстракцию и соответственно у вас всё сходится. Ибо в абстракции, все уточнения понятия интеллект, как то "искусственный", "машинный", "нечеловеческий", можно просто отбросить. Но как это относится к существующим алгоритмам в моменте? С перечисленным в статье они даже рядом не лежали.>> Как вы думаете, способен ли искусственный интеллект на большее или развитие идет абсолютно верным путем с разделением областей знаний на отрасли?Интеллект, это способность оперировать данными. Если он есть, не важно, какую отрасль его попросят изучить и потом в ней работать. А если хватит памяти и времени, то и две отрасли, и три, и всю науку. Если же интеллекта нет, как в наше время, то и суда нет.
Где-то слышал фразу, что интеллект, это инструмент разрешения противоречий. То есть должен определить критерии нормы, зафиксировать отклонение от неё, найти причины, построить альтернативный путь, зафиксировать в памяти граничные условия принятия решения. Это касается как рабочих противоречий (выполнение действий), так и информационных, если для разрешения рабочих нужны новые знания (дообучение). И все это многократно, циклически, непрерывно повторяется. Уточняются критерии, отклонения, причины…Просто представьте возникающие в сознании цепочки, когда ребенок тыкает фигурки в отверстия.
Deodorant, верно. Здесь необходимо, чтобы ИИ был в «непредвзятых» руках (утопия), чтобы поглощал всю информацию по теме, а не только одобренную. Тогда результат будет близким к объективности.
Поручикъ Ржевскій, там же была подпись со ссылкой на разъяснения! Моя совесть чиста 😀
Lecron, ,>> это способность оперировать даннымиОперировать в соответствии с определенными правилами (алгоритмами). Если алгоритм написан, то оперировать труда не составит. Это я и называю интеллектом. Не разумностью, а именно отдельной составной ее частью.
Lecron, ,>> представьте возникающие в сознании цепочки, когда ребенок тыкает фигурки в отверстияУ ребенка возникает множество посторонних задач, которые он должен решать. Неуверенная координация, неправильный хват фигурки, расфокусирование зрения, внезапные колики в животе и т.п. Разум решает все одновременно. Интеллекту же, в том числе компьютерному, — это не нужно. Он оценил геометрию фигур, которые есть у него в наличии, сравнил с шаблоном и принял решение. Мешающие факторы можно учесть, но, учитывая, что от компьютера нам нужен ответ я не вижу в этом смысла. Если отбросить ненужные «колики в животе», то это тот самый интеллект. Я бы назвал его «частичным».
Mikhail Volkov, Нет. Категорически. За хайпом человекоподобных моделек и расплывчатостью понятия интеллект, потеряли предельно простую суть. Интеллект, это способность оперировать данными, __второго__ порядка. Система манипуляции системами принятия решения — создание, модифицирование, связывание. Или в ваших формулировках — алгоритм создания алгоритмов.Например GPT 2, оперирование первого порядка (алгоритм написан), без участия программистов, исключительно в диалоге с пользователем, не станет GPT 3 (ChatGPT) ни за день, ни за год, ни за век. А если он будет интеллектом — станет. Вопрос только, насколько быстро?
Mikhail Volkov, >> Он оценил геометрию фигур, которые есть у него в наличии, сравнил с шаблоном и принял решение.И снова мимо. Интеллект должен вывести необходимость шаблона и затем вывести сам шаблон. А сравнить с шаблоном, может и простая функция if… elif… elif… else…Понимаете, между такой функцией и ChatGPT нет качественной разницы. Только количественная. И если машстабироваться if…else… тоже нужно называть интеллектом, только очень очень ооооооочень тупым.
Lecron, Следование алгоритму — программа. Написание, следование, корректировка, следование алгоритму-интеллект?
Lecron, ,>> должен вывести необходимостьЯ, признаться, этот момент не понимаю. Почему он должен вывести? Ребенку показали картинку с инструкцией. Он начал делать по инструкции. Мне видится банальное запоминание и очередность соответствующих действий.>> тоже нужно называть интеллектомИменно. В этом и состояла мысль. Если перебрать очень много данных, найдешь верные. А если делать это быстрее грубой силой, чем по сложным «человеческим» схемам, то почему это не должно быть интеллектом? Потому что не соответствует формальным определениям?
Lecron, ,>> без участия программистов, исключительно в диалоге с пользователем, не станет GPT 3А зачем? Мы ведь говорим о интеллекте именно как о программе в конкретной области. В другой ветке вы говорили о масштабах. Так вот именно масштабы, на мой взгляд, и определяют «умность».
Mikhail Volkov, А почему мы говорим об интеллекте, как о программе в конкретной области, если это абстрактная способность?И да, не путайте "умность" с "интеллект". Может от этого и недопонимание? Интеллект ребенка и взрослого практически идентичен (и еще неизвестно, чей мощнее), и превращает глупого ребенка в более умного взрослого.Во, точно. Интеллект — инструмент наращивания умности. Впрочем, как и говорил, оперирование данными, второго порядка.
Mikhail Volkov, Вы видели как дети начинают играть с этими кубиками? Кто им показывал инструкции и что они там поймут? Все методом проб и ошибок.>> Потому что не соответствует формальным определениям?Путаете причину со следствием. Для любого термина выводится формальное определение. И только потом проверяется соответствие явления этому определению, можно ли его называть этим термином. Всё что вы можете — дать свое формальное непротиворечивое определение интеллекту. Велком! Пока я такого не слышал.
Lecron, ,>> формальное непротиворечивое определение интеллектуПрям в статье указал: реализуемый на физическом объекте алгоритм. Но это исключительно про логику. Разумность — это другое. Наборное. Мне представился интеллект, как тот самый кирпичик, на котором и построена разумность. Программа на BASIC и среда разработки Unreal Engine — имеют в своей основе одно и то же, но уровни совершенно разные. Аналогично и с интеллектом. Просто для разумности его нужно очень много и вполне вероятно именно искусственная разумность нам и не очень-то и нужна.
Mikhail Volkov, >> реализуемый на физическом объекте алгоритмСлишком широкое, отчего предельно неточное определение. База данных, веб-сервер, калькулятор — это всё реализованные алгоритмы. Если брать биологический физический объект — инстинкты и рефлексы. Кои априори не являются интеллектом или его подразделами.Попробуйте зайти с другой стороны. Дать определение, что есть результат работы интеллекта? Не конкретные примеры, а проявив интеллект :)) обобщите. Тогда, интеллект — инструмент получения %результат.
Lecron, ,>> что есть результат работы интеллектато же самое, что и результат работы алгоритма. Какую задачу поставили, то и получится. В ваших словах есть какое-то противоречие. Определение интеллекта широкое, а потому неточное, но для определения результата работы интеллекта нужны почему-то не конкретные примеры, а общие. И даже если идти этим путем, то расхождения с алгоритмом реализованном на объекте не будет. Что на биологическом, что на электронном. Вся разница будет только в сложности алгоритма. Рискну предположить, что именно это и происходит при смене поколения GPT. Можно даже пофилософствовать на тему того, почему новые версии некоторым показались тупыми. Как раз из-за того нового объема учтенных данных. Когда программе говорили «засунь треугольник в треугольное отверстие», она засовывала. В следующей версии ей добавили «погрешность дрожащей руки», потом условную «сонливость», дальше нарушение координации и т.д. И вот у нас уже не четкое следование инструкции, а типичное людское поведение. Но это так, мысли вслух. Я не пользовался ни одной из версий ChatGPT и могу только предполагать.
Mikhail Volkov, >> нужны почему-то не конкретные примеры, а общие.Всё верно. __Минимальные__ общие свойства конкретных примеров. Что не нравится?Я уже давал несколько определений. Но вот еще одно. Интеллект — инструмент адаптации к изменяющейся ситуации. То есть результат работы — шаблоны. Но! Если захотите провести параллель с нейросетью, обратите внимание — изменяющейся, а не изменявшейся. Причем изменения не ограничиваются значением параметров, а допускают изменение набора самих параметров и даже появление новых.
Кстати, данная тема тоже пострадала от неточности формулировок. Именно в русскоязычном пространстве, за счет неточности перевода. Разница между обучением (teach) и тренировкой (train), на самом деле очень большая и легко вводит в заблуждение. Это разные процессы. Вначале учат навыку, потом его тренируют. И модельки именно тренируют. "Учеба" это создание самой модельки людьми.
Lecron, интуиция человеческая от интуиции алгоритмической отличается более низкими требованиями к полноте исходных данных. так, человек в состоянии принимать корректное решение, имея в наличии не менее 30% исходных данных, а алгоритм — не менее 70%. при этом, человек, в отличие от алгоритма, может применять ранее полученный опыт в новых задачах, алгоритм же на это не способен. как правильно отметил Lecron. чтобы ИИ мог сравняться в интеллектуальных качествах с человеком, ИИ должен научиться развиваться самостоятельно, используя (хотя бы поначалу) те же методики обучения, что и человек, и получая схожие с человеком результаты.вообще, сегодня многие фантасты стали утверждать, что ИИ нельзя "написать", а можно только "воспитать", и я с ними согласен
Филипп Мастяев, Ошиблись адресатом.>> алгоритм — не менее 70%Глупость. Сейчас может так. Но вообще, цифра не является неотъмлемым свойством носителя интлеллекта и способа его функционирования.
Mikhail Volkov, Да мне что с разъяснениями, что без… Туповат-съ! )))
Спасибо за неожиданную подачу избитой темы. Зацепила. Однако переспав с ней, мысли немного устаканились.Рассуждая об интеллекте, мы естественно опираемся на самих себя, человека. Однако ошибка считать, что раз у человека есть интеллект, любое человеческое мышление, есть его проявление. Бо́льшую часть времени мы действуем по шаблону. Простейшему, типа «по утрам надев часы, не забудьте про трусы» или сложнейшему, типа определения падежа, рода и числа в тексте или вождения автомобиля, но шаблону.Но откуда этот шаблон взялся? Правильно, был построен интеллектом. А что такое шаблон? Правильно, последовательность действий или алгоритм. А зачем нам шаблон? Правильно, чтобы эффективно решать задачи. Естественно новые задачи, для которых шаблона еще нет.Получаем, интеллект — способность строить алгоритмы для эффективного решения задач. Иногда они превращаются в шаблон, если задача сохраняется, иногда нет — если разовая. Интуиция, познание, воображение могут задействоваться в этом процессе, а могут и нет. То есть действительно, не являются обязательными свойствами интеллекта.Надо ли выделять искусственный? Не вижу смысла. Способность самостоятельно адаптироваться к возникающим задачам, должна быть свойственна любому интеллекту — машинному, человеческому или разумным кристаллам с Альдебарана. Естественно, в меру физических возможностей.