Kazan Digital Week 2026: в ИТ-холдинге Т1 рассказали, как снизить стоимость ИИ-инференса 

На форуме Kazan Digital Week 2026 генеральный директор ИТ‑холдинга Т1 Дмитрий Харитонов сообщил итоги тестирования графических ускорителей, проведённого специалистами компании в 2026 году. 

В ходе исследований оценивалась эффективность смешанного парка оборудования, включающего ускорители NVIDIA и решения китайских производителей, сообщает newstula.ru.

По данным холдинга, применение смешанной инфраструктуры позволяет наращивать вычислительные мощности в условиях дефицита оборудования, а подбор GPU под конкретные задачи даёт возможность в отдельных случаях сократить стоимость инференса в 2–2,5 раза. Готовность компании к работе с искусственным интеллектом спикер предложил оценивать не по количеству пилотных проектов, а по реальному экономическому эффекту, достигнутому за 6–9 месяцев. «Компания, которая может запустить 5–7 пилотов в месяц, не является AI Ready автоматически. Эффект должен быть измеримым, иначе проект просто сворачивается», — подчеркнул Дмитрий Харитонов.

Снижение зависимости заказчиков ИИ‑технологий от оборудования NVIDIA стало одной из целей созданной холдингом специализированной лаборатории. В рамках испытаний специалисты компании проверили свыше 20 ИИ‑моделей и выполнили более 1000 прогонов на альтернативных чипах, в том числе китайского производства. По результатам работы выделен ряд применимых сценариев использования GPU в ИТ‑инфраструктуре российских организаций. Так, при работе ИИ‑ассистентов с документами или при поиске по базам знаний китайские ускорители обеспечивают снижение стоимости инференса в 2–2,5 раза без потери качества ответов. 

Для дообучения собственных крупных языковых моделей допустима гибридная схема: обучение, дообучение и инференс сверхбольших моделей выполняются на оборудовании NVIDIA, а часть сопутствующих задач и отдельные сценарии инференса переносятся на альтернативные ускорители. В задачах компьютерного зрения китайские решения демонстрируют конкурентную стоимость, уступая при этом NVIDIA по скорости обработки данных.

Кроме того, руководитель холдинга обратил внимание на необходимость комплексного расчёта совокупной стоимости владения ИИ‑решениями. По его словам, в этот показатель следует включать не только цену оборудования, но и затраты на лицензии, сопровождение и обучение сотрудников.

Отдельно Дмитрий Харитонов указал на требования к защищённому контуру, которые особенно значимы для субъектов критической информационной инфраструктуры. В подобных случаях приоритетными являются решения из реестра программно‑аппаратных комплексов, развёрнутые в собственном контуре: такой подход позволяет исключить санкционные риски и соблюсти требования безопасности.