Примечание редакции Mobile-review.com. Мы подбираем материалы в раздел «Мнение», чтобы показать то как воспринимают рынок, компании в других странах. Мнения в таких материалах зачастую не совпадает с взглядами нашей редакции, но дают понимание рынка, его медийной составляющей.
По материалам apnews.com
Deus ex machina в театре означает чудесное спасение героев и разрешение проблем, но некоторые специалисты в области ИИ склонны утверждать, что человечество находится на пороге создания бога, живущего в машине. Непознаваемого (ИИ во многом остается черным ящиком, выдающим готовые решения без объяснений), превосходящего человека (в скорости обработки информации и поиска ответов у человека уже нет шансов, и это только начало) и решающего проблемы чудесным образом (меньшинство пользователей нейросетей способны верно изложить принципы их работы). Достаточно ли этого, чтобы в глазах обывателя обрести форму божественного? Мы не знаем. Мы даже пока не знаем, действительно ли нейросети способны обрести самосознание — эксперимент, который в данный момент проводит компания «Яндекс», далек от окончания, а его возможные выводы зафиксируют состояние на «здесь и сейчас», не дав гарантий того, что в будущем останутся верными.
Многие считают, что мы на пороге открытия очередного ящика Пандоры. Но вспомните, только недавно такие же опасения высказывались перед запуском БАК. В 1940-е годы шла горячая дискуссия о том, можно ли запускать ядерную реакцию. Можно найти еще немало примеров того, когда до начала использования технологии возникали опасения того, что ее внедрение уничтожит планету, человечество, культуру или еще что-нибудь плохое непременно произойдет. Этическая сторона применения ИИ, клонирования, генной модификации обсуждаются спустя годы после того, как технология была впервые применена. Потому что каждый раз мы вступаем на тропу, которой ранее дозволялось ходить только богам. И вот теперь люди обсуждают вопрос этичности создания… Бога?
В свои 77 лет Джеффри Хинтон нашел новое призвание в жизни. Уподобившись современному пророку, лауреат Нобелевской премии бьет тревогу, заявляя об опасностях неконтролируемого и нерегулируемого искусственного интеллекта. Хинтон, которого часто называют «крестным отцом ИИ», известен своими новаторскими работами в области глубокого обучения и нейросетей, которые помогли заложить основы технологии искусственного интеллекта, часто применямой в наши дни. Чувствуя себя «в некоторой степени ответственным», он начал публично говорить о своих опасениях в 2023 году, после того, как покинул Google, где проработал более десяти лет. По мере того, как развивались в последние годы технологии и инвестиции в ИИ, росли и ставки, стоящие за ними. «Это реально нечто божественное», — сказал Хинтон.
Хинтон относится к видным деятелям в сфере технологий, которые говорят об ИИ языком, когда-то предназначенным только для божественного, и их число растет. Генеральный директор OpenAI Сэм Альтман назвал технологию своей компании «магическим интеллектом на небесах», а Питер Тиль, соучредитель PayPal и Palantir, даже утверждал, что ИИ может способствовать появлению Антихриста.
ИИ — проклятие или спасение?
Есть множество скептиков, сомневающихся в том, что боязнь этой технологии оправдана, — например, Дилан Бейкер, бывший сотрудник Google и ведущий инженер-исследователь в Исследовательском институте распределенного ИИ, который изучает пагубное воздействие ИИ.
«Я думаю, что часто люди исходят из магического фантастического мышления, вдохновленного множеством произведений научной фантастики, на которой они, предположительно, выросли, — говорит Бейкер. — Они совершенно оторваны от реальности». Хотя чат-боты вроде ChatGPT лишь недавно вошли в моду, в определенных кругах в Кремниевой долине уже десятилетиями до того предсказывали мощь ИИ.
«Мы пытаемся разбудить людей, — говорит Хинтон. — Чтобы общественность осознала риски и оказала давление на политиков, чтобы те что-то с этим сделали». В то время как исследователи вроде Хинтона предупреждают об экзистенциальной угрозе, которую, по их мнению, ИИ представляет для человечества, есть генеральные директора и теоретики, которые со своей стороны утверждают, что мы приближаемся к своего рода технологическому апокалипсису, который возвестит новую эру человеческой эволюции.
В опубликованном в прошлом году эссе под названием «Машины любящей благодати: как ИИ может изменить мир к лучшему» генеральный директор Anthropic Дарио Амодеи излагает свое видение будущего, «если с ИИ все пойдет как надо». Он предсказывает «победу над большинством болезней, рост биологической и когнитивной свободы, вывод миллиардов людей из нищеты и получение ими доступа к новым технологиям, возрождение либеральной демократии и прав человека».
Амодеи предпочитает термин «мощный ИИ» (powerful AI), тогда как другие используют такие термины, как «сингулярность» или «общий искусственный интеллект». Хотя сторонники этих концепций часто расходятся во мнениях о том, как их определять, в целом они подразумевают гипотетическую будущую точку, в которой ИИ превзойдёт человеческий уровень интеллекта, что потенциально может спровоцировать быстрые и необратимые изменения в обществе.
Учёный-компьютерщик и писатель Рэй Курцвейл с 1990-х годов предсказывает, что однажды люди сольются с технологиями. Эту концепцию часто называют трансгуманизмом. «Мы не сможем отличить то, что исходит от нашего мозга, от того, что исходит от ИИ. Всё это будет встроено в нас самих. И это сделает нас умнее», — сказал Курцвейл. В последней книге «Сингулярность все ближе: когда мы сольемся с ИИ» Курцвейл подтверждает свои предыдущие прогнозы. Он считает, что к 2045 году мы «умножим свой интеллект в миллион раз».
«Да, — наконец признал он, когда его спросили, считает ли он ИИ своей религией. Он формирует его целеполагание. — Мои мысли о будущем, о будущем технологий и о том, насколько быстро они появляются, определённо влияют на моё отношение к собственному пребыванию здесь, к тому, что я делаю, и к тому, как я могу влиять на других», — сказал он.
Картины апокалипсиса
Несмотря на явные отсылки к языку Книги Откровения у Питера Тиля, позитивные представления о будущем ИИ более «апокалиптичны» в историческом смысле этого слова. «В древнем мире апокалипсис не был негативным явлением», — объясняет Доменико Агостини, профессор Университета Востока в Неаполе, изучающий древнюю апокалиптическую литературу. — Мы полностью изменили семантику этого слова». Термин «апокалипсис» происходит от греческого слова apokalypsis, что означает «откровение». Хотя сегодня апокалипсис часто ассоциируется с концом света, в древней иудейской и христианской мысли он был источником душевных сил во времена трудностей и гонений.
«Бог обещает новый мир, — говорит профессор Роберт Джерачи, изучающий религию и технологии в колледже Нокс. — Чтобы заселить этот новый мир, необходимо обрести новое прекрасное тело, превосходящее зло, с которым мы все сталкиваемся». Джерачи впервые заметил, что для описания потенциала ИИ используется апокалиптический язык, в начале 2000-х годов. Курцвейл и другие теоретики в конечном итоге вдохновили его на написание книги 2010 года «Апокалиптический ИИ: видения рая в робототехнике, искусственном интеллекте и виртуальной реальности».
Этот язык напоминает ему о раннем христианстве. «Только мы убираем Бога и вставляем… ваш набор законов науки о космосе, благодаря которым якобы это происходит, и нас ожидает такое же славное будущее», — говорит он. Джерачи утверждает, что этот язык не сильно изменился с тех пор, как он начал его изучать. Его удивляет то, насколько распространенным он стал. «То, что когда-то казалось очень странным, теперь повсюду», — говорит он.
Кремниевая долина наконец обрела своего Бога?
Один из факторов растущего культа ИИ — прибыльность. «Двадцать лет назад эта фантазия, правдивая или нет, не приносила больших денег», — говорит Джерачи. Теперь же «у Сэма Альтмана появился финансовый стимул утверждать, что ИИ не за горами». Но Джерачи, утверждающий, что ChatGPT «даже отдалённо, смутно, потенциально не обладает сознанием», считает, что за этим феноменом могут скрываться более серьёзные причины.
Исторически мир технологий был известен своей нерелигиозностью. Его светская репутация до такой степени шла впереди него, что один из эпизодов сатирического комедийного сериала HBO «Кремниевая долина» выстроен вокруг разоблачения христианской веры героя коллегами. Но Джерачи не думает, что почитание искусственного интеллекта в полном скепсиса мире технологий носит иронический характер. Он полагает, что между ними существует причинно-следственная связь.
«Мы, люди, глубоко, основательно религиозны по своей сути», — говорит он, добавляя, что поразительные технологии, лежащие в основе ИИ, могут привлекать обитателей Кремниевой долины, которые уже отбросили «обычные подходы к трансцендентности и смыслу».
Нет религии без скептиков.
Не все генеральные директора Кремниевой долины обратились в эту веру, даже желая заниматься самой технологией.
«Когда люди в технологической индустрии говорят о создании настоящего ИИ, это почти как если бы они думали, что создают Бога или что-то в этом роде», — сказал генеральный директор Meta* Марк Цукерберг в подкасте в прошлом году, продвигая собственный бизнес своей компании в области ИИ.
Хотя трансгуманистические теории, подобные теории Курцвейла, стали более распространенными, они захватили еще не всех в Кремниевой долине. «Научные доводы в пользу этого ничуть не сильнее, чем доводы в пользу религиозной загробной жизни», — утверждает Макс Тегмарк, физик и исследователь машинного обучения из Массачусетского технологического института. Как и Хинтон, Тегмарк открыто говорит о потенциальных рисках нерегулируемого ИИ. В 2023 году как президент Института будущего жизни Тегмарк стал инициатором открытого письма с призывом к мощным лабораториям ИИ «немедленно приостановить» обучение своих систем.
Письмо собрало более 33 000 подписей, в том числе от Илона Маска и соучредителя Apple Стива Возняка. Тегмарк считает письмо успешным, поскольку оно помогло «распространить дискуссию» о безопасности ИИ, но полагает, что его работа далека от завершения. Тегмарк считает, что с помощью регулирования и мер безопасности ИИ может быть использован в качестве инструмента для решения таких задач, как лечение болезней и повышение производительности труда. Но, по его словам, крайне важно держаться подальше от «довольно маргинальной» гонки, которую ведут некоторые компании, — «псевдорелигиозного стремления создать альтернативного Бога». «Есть множество историй, как в религиозных текстах, так и, например, в древнегреческой мифологии, о том, как плохо все кончается, когда мы, люди, начинаем играть в богов, — сказал он. — И мне кажется, что сейчас в Сан-Франциско царит высокомерие».
*Компания Meta Platforms, в которую входят социальные сети Facebook, Instagram и Threads, признана экстремистской организацией и запрещена в РФ.