Nvidia
Поскольку ИИ и машинное обучение становятся все более неотъемлемой частью современных вычислений, основы бизнеса Nvidia остаются прочными. Они возглавили свои усилия, чтобы стать заметной силой в серверном бизнесе, налаживая партнерские отношения с несколькими технологическими компаниями. Недавно Nvidia и VMware объявили о сотрудничестве, которое перенесет vGPU (технология виртуального графического процессора) Nvidia в стек VMware vSphere на AWS.
Графические процессоры разработаны с учетом параллельных вычислений с данными, которые ускоряют векторные и матричные операции. Это делает их идеальными для рабочих нагрузок AI.
Рабочие нагрузки ИИ, ранее ограниченные только ЦП, теперь можно легко развернуть в виртуализированных средах, таких как VMware vSphere, с новыми vComputeServer программное обеспечение и NVIDIA NGC . Через наши партнерство с VMware , эта архитектура поможет организациям беспрепятственно переносить рабочие нагрузки ИИ на графических процессорах между центрами обработки данных клиентов и VMware Cloud on AWS.
- АНН ХЕХТ (Nvidia)
Рабочие нагрузки с ускорением на GPU часто выполняются на физических серверах с одним клиентом, но с vComputeServer компании могут запускать рабочие нагрузки AI в виртуализированной среде, что обеспечивает большую гибкость и экономию денежных средств (до определенного масштаба). Nvidia уже поддерживает несколько гипервизоров на основе KVM, включая Red Hat и Nutanix. VMware vSphere - последнее дополнение.
Возможности vComputeServer включают:
- Производительность графического процессора: Обучение с глубоким обучением до 50 раз быстрее, чем при использовании только ЦП, аналогично производительности графического процессора на голом железе.
- Расширенные вычисления: Код с исправлением ошибок и динамическое удаление страниц предотвращают повреждение данных для высокоточных рабочих нагрузок.
- Живая миграция: Виртуальные машины с поддержкой графического процессора можно перенести с минимальными простоями и простоями.
- Повышенная безопасность: Предприятия могут расширить преимущества безопасности от виртуализации серверов на кластеры графических процессоров.
- Мультитенантная изоляция : Рабочие нагрузки могут быть изолированы для безопасной поддержки нескольких пользователей в одной инфраструктуре.
- Управление и мониторинг : Администраторы могут использовать одни и те же инструменты виртуализации гипервизора для управления серверами GPU с видимостью на уровне хоста, виртуальной машины и приложения.
- Широкий спектр поддерживаемых графических процессоров: vComputeServer поддерживается графическими процессорами NVIDIA T4 или V100, а также графическими процессорами Quadro RTX 8000 и 6000, а также графическими процессорами P40, P100 и P60 предыдущих поколений с архитектурой Pascal.
- Nvidia
Пользователи VMware vSphere также получат поддержку Nvidia GPU Cloud, облачную платформу с ускорением на GPU, оптимизированную для глубокого обучения и научных вычислений. Энн Хехт из Nvidia пишет: « NVIDIA NGC , наш центр программного обеспечения, оптимизированного для графического процессора, для глубокого обучения, машинного обучения и высокопроизводительных вычислений, предлагает более 150 контейнеров, предварительно обученные модели, обучающие сценарии и рабочие процессы для ускорения ИИ от концепции до производства, в том числе БЫСТРЫЕ , наше программное обеспечение для обработки данных с ускорением CUDA ».
Партнерство VMware параллельно с недавним приобретением
VMware собирается приобрести Bitfusion, что значительно повысит ценность ее облачной платформы vSphere. Как мы обсуждали ранее в статье, виртуализация может предложить компаниям множество преимуществ при минимальном снижении производительности. С технологией Bitfusion компании смогут отказаться от серверов без операционной системы и виртуализировать свои графические процессоры, поскольку такая схема может привести к лучшему использованию доступных ресурсов. Ввиду того, что ускоренные вычисления занимают центральное место, компании будут искать способы виртуализации своего аппаратного стека, VMware хорошо об этом знает и стремится сделать платформу vSphere жизненно важной в центрах обработки данных.
Теги nvidia
