Полный текст
Как автоматизировать рутину с помощью LLM, если ChatGPT на работе под запретомВсе знают, что LLM отлично справляются с рутиной вроде классификации текстов или суммаризации. Но в крупных компаниях использовать публичные модели — огромная проблема из-за политики безопасности, коммерческой тайны и законов о персональных данных.Аналитики Авито нашли решение: запускать open-source LLM локально с помощью LM Studio. Это позволяет держать все чувствительные данные внутри компании, но при этом использовать мощь нейросетей. Авторы делятся двумя реальными кейсами: как они с помощью локальной модели автоматически категоризировали 1300 обращений в поддержку, сэкономив 13 рабочих дней, и как создали базу знаний из 2000 чатов, сэкономив ещё 21 день рутинного труда.Это не просто теория, а практический гайд. Разберёмся, как настроить LM Studio, какую модель выбрать для своих задач, и посмотрим на конкретные промпты и код, которые использовали аналитики Авито.