Полный текст
Тёмные лошадки ИИ: инференс LLM на майнинговых видеокартах Nvidia CMPМайнинговые карты CMP 50HX и 90HX принято считать хламом: синтетические тесты говорят, что они в 10 раз медленнее старых игровых. Но что будет, если запустить на них большие языковые модели?Вопреки ожиданиям, на практике они показывают себя на уровне RTX 2060/3060. Разберёмся, почему синтетика так сильно врёт, как доработать охлаждение и стоит ли собирать на них дешёвый LLM-сервер.