Новые видеокарты NVIDIA® B300 для крупномасштабных AI-нагрузок стали доступны в Selectel

Опция представлена в продуктовой линейке выделенных серверов и в скором времени появится в облаке, пользователи могут заказать необходимую конфигурацию через панель управления. Решение предназначено для клиентов, работающих с крупномасштабными ИИ-моделями, агентскими системами и высокопроизводительными вычислениями (HPC).

NVIDIA® B300 — это самая мощная видеокарта нового поколения в составе HGX™ системы с архитектурой Blackwell. Объем памяти в 2 терабайта позволяет работать с большими ИИ-моделями. Карта быстро обменивается данными с другими компонентами системы — до 14,4 ТБ/с внутри сервера и до 1,6 ТБ/с между серверами. По скорости работы это в 11 раз быстрее предыдущих моделей при работе с инференсом и в 2,6 раза быстрее при их обучении. Также в ней есть специальный чип BlueField-3, который помогает защищать данные и управлять сервером на аппаратном уровне.

Новая платформа NVIDIA® HGX™ B300, представленная в Selectel, подойдет для бизнеса, который работает с ИИ на продвинутом уровне: от стартапов, разрабатывающих собственные уникальные модели, до крупных компаний, которым нужно обеспечить бесперебойную работу ИИ-сервисов для миллионов пользователей. Благодаря восьми мощным GPU, объединенным в одну систему, можно обучать большие ИИ-модели или мгновенно обрабатывать тысячи запросов в реальном времени, включая инференс с большим контекстом и числом пользователей, а также запуск нескольких моделей на одном сервере одновременно. Например, для работы чат-ботов, агентских систем или генерации контента. Помимо этого, серверы Selectel соответствуют 152-ФЗ и международным стандартам безопасности, а также имеют сертификат PCI DSS, поэтому подходят для отраслей с особыми требованиями регуляторов – финансовых, медицинских и государственных организаций.

Инфраструктура Selectel обеспечивает бесшовный переход с текущих ресурсов на новые мощности благодаря их полной совместимости с существующими программными стеками и продуктами провайдера. Модель аренды позволяет не инвестировать десятки миллионов в дорогостоящее железо и тестировать идеи быстро — от прототипа до промышленного масштаба. При этом бизнес получает гибкость и возможность быстрого масштабирования: можно запустить проект за час и увеличивать вычислительные мощности при необходимости. Помимо аренды мощностей в дата-центрах Selectel, доступна опция с арендой сервера для размещения на площадке заказчика. Ознакомиться подробнее с решением и условиями аренды можно по ссылке.