Полный текст
Алиса, подвинься!Попробуем создать ИИ-ассистента на C#, используя модель QVikhr-2.5-1.5B-Instruct-r-Q8_0 весом 1,53Гб на компьютере с процессором из 2012 года. В комплекте: Function Calling, RAG и море страданий.
Пост 65412
0
Краткое содержание
Автор описывает эксперимент по созданию ИИ-ассистента на C# с использованием локальной модели QVikhr-2.5-1.5B, работающей на старом компьютере, с упором на технические сложности и используемые технологии.
Темы
Упомянутые сущности
QVikhr-2.5-1.5B-Instruct-r-Q8_0
C#
Habr