«Яндекс» представил новую большую языковую модель Alice AI Foundation LLM и впервые выложил ее в открытый доступ.
Разработчики называют модель полностью суверенной: ее обучали с нуля, без использования весов других нейросетей. Она должна стать одним из шагов к созданию большой разработки «Яндекса» — единой рассуждающей модели для Алисы AI. По качеству ответов на русском языке модель превосходит многие мировые аналоги, часть из которых значительно больше ее по размеру. В компании объясняют, как удалось добиться такого сочетания компактности и качества.
Тут складывается комбинация из разных команд, подготовки данных, отбора этих данных и, конечно же, архитектурные идеи нашей команды, которая это все уложила в эту модель. Сейчас идет некоторый тренд на то, чтобы экономить, чтобы давать продукт как можно большему количеству пользователей, поэтому здорово, если компактные модели смогут справляться с действительно сложными задачами.