Компания «Яндекс» опубликовала Alice AI Foundation LLM — большую языковую модель, обученную полностью с нуля. Она доступна на Hugging Face под лицензией Apache 2.0, то есть использовать её можно и в исследованиях, и в коммерческих проектах. Вместе с моделью компания выложила технический отчёт и два собственных бенчмарка. Модель построена на архитектуре MoE (Mixture of Experts) и содержит 80 миллиардов параметров. Но в каждый момент времени активны только 3 миллиарда — именно это делает её быстрой и не слишком требовательной к «железу». Для сравнения: некоторые открытые модели с сотнями миллиардов параметров работают медленнее и дороже в обслуживании. Что касается результатов, то «Яндекс» заявляет, что модель хорошо справляется с программированием и логическими задачами. На олимпиадных задачах по математике она делит первое место с Qwen3.5-35B-A3B-Base, а в тестах на написание кода обходит NVIDIA Nemotron-3-Super-120B-Base, используя при этом в четыре раза меньше активных параметров. На задачах, где нужны широкие фактические знания, она опережает DeepSeek-V4-Flash-Base, у которой 284 миллиарда параметров и 13 миллиардов активных.
Отдельно стоит сказать про русский язык. «Яндекс» разработал два собственных бенчмарка — WikiWebFacts и HardMultiQA. Первый проверяет знание дат, определений, событий и персоналий на основе онлайн-энциклопедий и поисковых запросов. Второй построен на анонимизированных запросах к «Алисе AI» и охватывает более узкие области: медицину, право, IT и искусство. В этих тестах недостаточно вспомнить один факт — нужно выбрать несколько верных вариантов, перечислить факты под условие или найти ошибку в тексте. Оба бенчмарка тоже выложены в открытый доступ, чтобы разработчики могли воспроизвести результаты и сравнить любые модели между собой. Эта версия — экспериментальная. На ней «Яндекс» тестирует архитектурные решения для будущей единой рассуждающей модели, которая ляжет в основу агентных возможностей «Алисы AI». То есть речь о том, чтобы «Алиса» могла не просто отвечать на вопросы, а выполнять конкретные действия по поручению пользователя. В процессе обучения «Яндекс» переработал оптимизатор: пересылка данных между видеокартами теперь идёт параллельно с вычислениями, что ускорило шаги оптимизации примерно вдвое. Также удалось сократить затраты на отбор обучающих данных. Если бы каждый документ оценивался напрямую, потребовалось бы более 200 тысяч часов работы видеокарт. Вместо этого документы проходят через каскад классификаторов, где сложная модель работает только с меньшей частью данных. Это позволило в десятки раз сократить вычисления и сохранить около 95% полезных документов.
