Как нейросети делают нас тупее
Всем привет. Нейросети уже стали обыденностью. Новостей про них все больше, но такого хайпа и интереса, как раньше, они уже не вызывают. Разумеется, до сих пор есть исследователи, которые экспериментируют с промптами, пытаются взломать нейросети, ищут наилучшие варианты применения ChatGPT и так далее. Однако большинство освоило базовый уровень и успокоилось.
В принципе, это можно сравнить с использованием поисковиков. В основном люди просто пишут запрос, как Бог на душу положит, и надеются на удачу. И очень мало кто использует операторы поиска (кавычки для точного запроса, значок минус для фильтрации нерелевантных слов, related: для поиска сайтов с похожим контентом). А зачем, если и так сойдет?
Ровно год назад в выпуске Эхо #283 разбирал исследование о том, как нейросети влияют на продуктивность. Исследователи путем эксперимента доказали, что:
- Сотрудники службы поддержки, использовавшие искусственный интеллект, могли обрабатывать на 13,8 % больше запросов клиентов в час.
- Бизнес-профессионалы, использующие ИИ, могут писать на 59% больше деловых документов в час.
- Программисты, использующие ИИ, смогли кодить на 126% активнее.
Общее заключение звучало так: нейросети существенно увеличивают продуктивность сотрудников на младших и средних позициях. Но чем профессиональнее специалист, тем меньший прирост производительности ему дают нейросети. Казалось, что тут все логично: так, профессионалу быстрее сделать руками, чем писать промпт, а потом редактировать за нейросетью. А сотрудникам, которым не хватает опыта, нейросеть поможет быстрее вникнуть в задачу.
Полагаю, в мире эксперимента (где сотрудникам объяснили, что тут эксперимент и надо все делать тщательно) такие результаты закономерны. Однако в реальном мире, кажется, все наоборот: по-моему, нейросети делают людей тупее.
Как редактору мне каждый день приходится редактировать текстовые продукты. Это рекламные материалы, написанные в набившем оскомину инфостиле, который популяризировал Максим Ильяхов, автор «Пиши, сокращай». И вот есть у меня хорошие авторы, которые, как трудолюбивые муравьи, приносят мне аккуратные заметки. Но тут открываешь текст и читаешь: «Это не просто новое название, а смена парадигмы. Оно бьет в одну конкретную точку, превращая покупку из рутинной траты в акт заботы и проявление любви». А текст-то про ерунду, которая за три копейки продается в магазинах формата хард-дискаунтер (это там, где обычно плохо пахнет, грязно и продается самая дешевая фигня). Дальше я звоню автору по видеосвязи и вслух читаю его творение. И пока читаю, вижу, как он начинает краснеть, а в самых сочных моментах его даже слегка передергивает. Автор извиняется и бормочет: «Чего-то вот соблазнился, так как был творческий ступор, а нейросеть так хорошо написала, и казалось, что все уместно и правильно».
Я понимаю, почему так происходит. Если не настроить нейросеть правильно, то каждый запрос она будет встречать восторженным поощрением: какой же ты гениальный молодец, что сумел придумать такое великолепное задание. От этой лести у человека засоряется критико-аналитический фильтр, и он «съедает» поданное ChatGPT или Gemini.
И ведь мой автор не одинок. Иногда и брифы от заказчиков написаны нейросетью. Впрочем, схожие проблемы возникают везде. Например, консалтинговая компания Deloitte на днях вернула правительству Австралии много тысяч долларов, так как в её отчете были типичные для нейросетей ошибки (сфабрикованные источники, выдуманные цитаты, ссылки на несуществующие страницы).
Предположу, что, в отличие от моих рекламных заметок, отчет, созданный для целого государства, читался и проверялся несколькими людьми. И (тут я спекулирую) вполне вероятно, что они поленились читать самостоятельно и попросили проанализировать текст ChatGPT или Perplexity.
Подобных историй, когда нейросети дурили своих пользователей, много. Много рассказов про юристов, которые только в суде выясняли, что придуманная нейросетью стройная линия защиты на деле выдумана от и до и ссылается на несуществующие законы.
Так что я все больше убеждаюсь, что нейросети делают людей вдвойне тупее. Тут можете рассказать про свой опыт, а я поделюсь своей гипотезой. Мне видится, что нейросети дают людям ощущение, что с задачей можно справиться очень быстро. Так что человек откладывает работу до последнего, потом садится и штампует.
Например, я работаю с онлайн-инструментами, в которых легко отслеживать процесс работы. И вот я открываю полученный «текстовый продукт», захожу в историю и вижу, что ещё час назад тут была пустота. А затем начинают появляться сразу целые абзацы текста за раз. Шлеп-шлеп-шлеп, и готово! Платите деньги!
Мою теорию подтверждает и исследование MIT. В нем говорится, что 83,3% пользователей ChatGPT не смогли вспомнить ни одной цитаты из сочинений, которые они написали несколькими минутами ранее. Люди просто что-то генерят, пользуясь нейросетью, нажимают «Сохранить», и их мозг забывает об этом, потому что ChatGPT сделал за них всю работу.
Также исследование подсветило, почему снижается критический фильтр. При использовании нейросетей на 47% уменьшается коннективность мозга, то есть мозг начинает тормозить. И мозг можно понять. Он как крайне энергозатратный орган не любит работать, а тут он видит, что за него все делают, и расслабляется окончательно, переходя в состояние грогги.
Зачем реально нужны нейросети
Мне видится, что обычный человек рядовые нейросети должен использовать для ряда очень конкретных задач. И это абсолютно не те задачи, что нам предлагает OpenAI или производители смартфонов.
Нейросеть нельзя использовать для генерации или пересказа текста. Слишком велика вероятность, что ChatGPT упустит что-то важное или соврет. А вот для поиска всевозможных ошибок и логических нестыковок ИИ замечательно подходит. Читая собранный нейросетью список ошибок (пусть даже многие будут липовыми), смотришь на свой отчет другими глазами.
Нейросеть нельзя использовать для генерирования аналитики. Зато ИИ можно попросить, чтобы он организовал тебе данные в более удобном формате. Например, нейросети отлично справляются с тем, чтобы превратить несколько страниц текста в структурированную таблицу. Если в таблице текста не слишком много, то ИИ обычно даже не врет. А если много, то начинает лениться и пропускает фрагменты.
А тот же NotebookLM превращается в персональную базу данных по заданной теме.
Нейросети отлично подходят для поиска базовых идей, которые уже, в свою очередь, должны натолкнуть на что-то высокоуровневое.
Нейросети должны снимать с пользователя рутину. За это уже в большей степени отвечают нейросетевые агенты. Например, ты можешь нарисовать замечательную презентацию и притомиться. Дальше передаешь дело ChatGPT Agent, который сначала вычитает все на предмет ошибок, подправит, а потом разошлет всем письмо, не забыв поздороваться и попрощаться.
Ещё нейросети отлично подходят, чтобы учиться новому. Позитивная и подбадривающая нейросеть – это то, что нужно на первом этапе, когда пытаешься вникнуть в новый предмет.
Рассказывайте в комментариях, как вы используете нейросети. Замечаете ли, что из-за нейросетей стали тупить? Используете нейросети только по работе или и для повседневных задач тоже?