«Сбер» выпустил новую флагманскую модель GigaChat 3.5 Ultra. Она доступна бесплатно в ИИ-помощнике «ГигаЧат» и одновременно опубликована в open source для разработчиков по всему миру. Главное техническое отличие от предшественницы — собственная архитектура с линейным вниманием, которая позволила сделать модель почти вдвое компактнее и до четырёх раз быстрее при работе с длинными текстами. Классический механизм внимания в нейросетях при обработке каждого нового слова заново перепроверяет его по всему предыдущему тексту. Линейное внимание действует иначе: модель один раз запоминает суть прочитанного и дальше дополняет эту память, как человек, который держит в голове краткий пересказ, а не перелистывает книгу заново на каждой странице. Это снижает вычислительную нагрузку и ускоряет работу без потери контекста. GigaChat 3.5 Ultra — одна из крупнейших моделей с такой архитектурой из всех, что выходили в open source. Упор при обучении был сделан на три направления. Первое — программирование и математика: модель точнее генерирует и проверяет код, лучше справляется с расчётами и финансовыми задачами. Второе — чтение и анализ длинных документов: контракты, техрегламенты, отчёты обрабатываются без потери точности, а скорость выросла до четырёх раз. Третье — автономные агентные сценарии: модели можно поставить многошаговую задачу, и она сама найдёт информацию, напишет код, обратится к нужному сервису и вернёт готовый результат.
Модель построена по архитектуре MoE (Mixture of Experts) и примерно вдвое компактнее предыдущей флагманской версии. Это позволяет разворачивать её на более доступном оборудовании, а значит, больше компаний и разработчиков могут запускать GigaChat 3.5 Ultra самостоятельно. При обучении использовался увеличенный датасет из натуральных, созданных человеком текстов с многоуровневой фильтрацией — акцент на качестве данных, а не на их объёме. На внутренних тестах модель превзошла предыдущую флагманскую версию «Сбера» по программированию, математике, сложным многошаговым задачам и качеству русскоязычного диалога. По ряду показателей она приблизилась к результатам более крупных открытых моделей, включая DeepSeek 3.2. По данным компании, в процессе разработки количество экспериментов выросло более чем вдвое — до 1500.
