Пост 19839

YADRO успешной протестировала работу on-prem версии нейросетевой модели GigaChat от Сбера на платформе своего нового ИИ-сервера YADRO G4208P G3 (включены в Единый реестр российской радиоэлектронной продукции Минпромторга)Тестирование подтвердило готовность новых серверов к эксплуатации в корпоративных инфраструктурах с повышенными требованиями к производительности при работе с передовыми моделями искусственного интеллектаТесты проводились группой компаний ЦРТ на базе операционных систем Astra Linux и Platform V SberLinuxВ составе тестовой конфигурации использовались четыре графические карты, обеспечивавшие необходимый уровень производительности при работе с модельюПилотный проект подтвердил готовность серверов к работе с современными ИИ-нагрузками — от анализа больших данных до прикладного использования ML-решенийКлючевой запрос крупного бизнеса и госсектора — внедрение прогрессивных отечественных решений на основе генеративного искусственного интеллекта. Актуальный тренд — внедрение облачных решений, но при повышенных требованиях к безопасности формируется спрос на on-prem-внедрения — установку в закрытый контур организаций. Появление полноценной российской GPU-платформы помогает удовлетворить такой спрос. Результаты тестирования on-prem модели GigaChat c cерверами YADRO позволили нам убедиться в их совместимости и высокой эффективности, а главное — открыть для всех наших клиентов комплексное решение, включающее нейросетевую модель Сбера GigaChat и инфраструктуру YADRO для безопасного внедрения новейших GenAI-решенийПолучается, теперь ГигаЧат с оптимизацией под конкретную задачу бизнеса можно развертывать в собственных ЦОДах, а не городить огород на трофейных решенияхTelegram | Дзен | MAX