Полный текст
Как в Авито сделали свою LLM — A-vibeБольшие языковые модели — новый чёрный. Вот и Авито представил свою разработку — A-vibe, и сразу выложил семейство моделей в опенсорс (вместе с A-Vision). Главный вопрос, конечно, «зачем?». Зачем крупной компании инвестировать в создание собственной LLM с нуля, когда на рынке столько готовых решений?Путь, как водится, был тернистым. Команде пришлось пройти всё: построить свой токенизатор, тщательно собрать датасеты, провести SFT и RL. Это история не про «взяли готовую модель и докрутили», а про полноценную, глубокую разработку.Посмотрим, как создавалась A-vibe и какие результаты получили в итоге.