GPU-кластеры

Спроектируем GPU-кластер под обучение
и инференс: узлы, межузловая сеть,
СХД и управление ресурсами.
  • Поставка серверов, сети и СХД
  • Архитектура под тип вычислений
  • Управление заданиями и поддержка
Посмотреть состав комплекса

Когда нужен GPU-кластер

Многосерверная архитектура нужна, когда задача или организация работы требуют ресурсов нескольких узлов.
Способ объединения серверов зависит от характера вычислений.
1

Распределённое обучение

Для задач, которые используют несколько GPU и серверов совместно. Проверяем требования фреймворка, характер обмена между узлами и скорость чтения обучающих данных.
2

Общий пул GPU для команд

Для нескольких пользователей и независимых заданий. Определяем очереди, приоритеты, квоты и правила выделения ресурсов, чтобы команды работали в общей среде.
3

Инференс на нескольких узлах

Для нескольких экземпляров моделей, распределения запросов или размещения модели на нескольких серверах. Архитектуру выбираем по памяти, нагрузке и требованиям к доступности.

GPU-узлы, сеть и СХД работают вместе

Кластер проектируем как связанную систему. Несогласованная сеть или медленное хранение могут ограничивать вычисления даже при достаточном количестве GPU.

Вычислительные узлы

GPU, CPU, оперативная память
и локальные накопители. Учитываем совместимость платформы, соединения между ускорителями внутри сервера и дальнейшее расширение.

Межузловая сеть

Полоса пропускания, задержки и топология под обмен конкретной задачи. Ethernet или InfiniBand, необходимость RDMA и резервирования определяем при проектировании.

Общее хранение
данных

СХД для кластера GPU под датасеты, модели, контрольные точки и результаты. Рассчитываем ёмкость, скорость доступа, число клиентов и защиту данных.

Управление
и наблюдение

Планирование заданий, доступ пользователей, учёт занятых ресурсов и мониторинг. Выбираем средства управления под сценарий и требования вашей команды.

Рассчитываем сеть и хранение под нагрузку

Для обучения, инференса и независимых заданий требования различаются. Сначала описываем движение данных, затем выбираем сетевые и дисковые компоненты.

Рабочие наборы данных

Уточняем объём и структуру файлов, число одновременных читателей и требуемую скорость подачи данных. Определяем,
где нужны локальные копии, кэш или общий доступ.

Модели и контрольные точки

Учитываем загрузку весов, частоту сохранения и объём контрольных точек. Проверяем, как эти операции влияют на параллельные вычисления и свободное место.

Сеть между узлами

Оцениваем объём обмена, задержки и требования программного стека. Разделяем вычислительный трафик, доступ к хранению и управление там, где этого требует архитектура.

Защита и восстановление

Согласуем, какие данные нужно резервировать, допустимое время восстановления и порядок проверки копий. Резервирование компонентов и резервное копирование проектируем отдельно.

Ресурсы доступны по согласованным правилам

Для общей вычислительной среды определяем, кто запускает задания, какие ресурсы получает и как обслуживается комплекс. Средства управления выбираем после согласования сценария.

Задания и пользователи

Очереди, приоритеты, ограничения и правила доступа. Разделяем ресурсы команд и определяем порядок запуска и завершения заданий.

Программная среда

Согласованные версии драйверов, библиотек, контейнеров и средств планирования. Фиксируем конфигурацию, чтобы изменения можно было проверить и воспроизвести

Нагрузка и состояние

Загрузка GPU, память, температура, сеть, хранение и ошибки заданий. Настраиваем согласованные метрики и порядок реагирования на отклонения.

От спецификации до готового комплекса

Miridium поставляет серверное и сетевое оборудование, СХД и комплектующие. Состав закупки увязываем с архитектурой, площадкой и планом роста кластера.
Подбор GPU-серверов
01

Собираем исходные данные

Модели, фреймворки, датасеты, задания и число команд. Уточняем существующее оборудование, ограничения площадки и перспективы расширения.
02

Проектируем и комплектуем

Рассчитываем узлы, сеть, СХД и размещение. Готовим спецификацию, требования к питанию и охлаждению, предложение по поставке и работам.
03

Поставляем и настраиваем

Согласуем комплектацию и условия поставки. Устанавливаем и подключаем предусмотренные проектом компоненты, готовим программную среду.
04

Испытываем и передаём

Проверяем узлы, сеть, хранение и задания на согласованной нагрузке. Передаём конфигурацию, документацию и регламент сопровождения.

Проверяем комплекс на реальных заданиях

Синтетические тесты компонентов дополняем согласованным рабочим сценарием. Показатели производительности фиксируем для конкретной задачи, набора данных и конфигурации.
1

Работа узлов и обмена

Проверяем доступность ускорителей, стабильность соединений и обмен между серверами. Сопоставляем измерения с критериями проектной конфигурации.
2

Работа с данными

Проверяем чтение, запись и сохранение результатов при согласованном числе заданий. Оцениваем влияние хранения на загрузку GPU и длительность вычислений.
3

Управление и восстановление

Проверяем очереди, квоты, мониторинг и предусмотренные сценарии отказов. Условия восстановления и действия команды закрепляем в документации.

Что важно при выборе GPU-кластера

Число серверов, сеть и программный стек определяем по задаче, а возможности расширения закладываем в проект.
Чем GPU-кластер отличается от нескольких отдельных серверов?

В кластере узлы объединены согласованной сетью, доступом к данным и управлением ресурсами. При этом одни задачи используют несколько серверов совместно, другие выполняются независимо. Архитектура должна поддерживать нужный вам режим работы.

Можно расширять кластер постепенно?
От чего зависит стоимость?
Всегда ли нужен InfiniBand?
Можно объединить разные GPU и серверы?

Спроектируем GPU-кластер
под вашу нагрузку

Расскажите о моделях, вычислительных задачах и плане роста. Подготовим предложение по серверным узлам, сети, СХД и работам по запуску.
  • Обучение или инференс, модели, фреймворки и примеры заданий.
  • Размер датасетов, число пользователей и параллельных задач.
  • Текущие серверы, сеть, СХД, питание и планы расширения.

Обсудим, как технологии
могут усилить ваш бизнес.
Обсудим, как технологии могут усилить ваш бизнес

Наши менеджеры подскажут вам, как выбрать оборудование
под ваш бюджет и задачи.
Наши менеджеры подскажут вам как выбрать оборудование под ваш бюджет и задачи.