Ведущие производители компьютеров берут на вооружение платформу NVIDIA EGX и создают GPU-серверы для мгновенной обработки потоков данных алгоритмами ИИ в телекоме, здравоохранении, производстве, ритейле, транспорте
ТАЙПЕЙ—Computex—27 мая 2019 — NVIDIA сегодня представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах: получать непрерывный поток данных от 5G станций, складов, магазинов, заводов и других мест, обрабатывать их и принимать необходимые решения в реальном времени.
Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально – там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.
К 2025 году человечеству понадобится порядка 150 млрд датчиков и IoT устройств для обработки бесконечного потока данных(1) — это на порядки больше объема данных, поступающих сегодня со смартфонов. Edge-серверы, такие, как NVIDIA EGX, будут установлены повсеместно для обработки данных с сенсоров в режиме реального времени.
“Компаниям нужны более мощные локальные вычислительные ресурсы для обработки огромных массивов сырых данных, поступающих от бесчисленных взаимодействий с пользователями и оборудованием, для принятия быстрых бизнес-решений на базе результатов ИИ-обработки, – говорит Боб Пит (Bob Pette), вице-президент и директор по корпоративным и периферийным вычислениям в NVIDIA. – Масштабируемая платформа, такая, как NVIDIA EGX, позволяет легко разворачивать необходимые системы локально, или в облаке, или и там, и там”.
Масштабируемость
На одном краю EGX крошечный чип NVIDIA Jetson Nano™, способный выполнять полтриллиона операций в секунду (TOPS) при энергопотреблении всего несколько Ватт в таких задачах, как распознавание изображений. EGX масштабируется до полноценной стойки серверов NVIDIA T4, способных обеспечить свыше 10 000 TOPS в операциях распознавания речи и других ИИ-задачах в реальном времени.
Корпоративные решения
NVIDIA заключила соглашение с Red Hat для интеграции и оптимизации набора ПО NVIDIA Edge Stack под OpenShift, ведущую платформу управления кластером контейнеров Kubernetesкорпоративного уровня.
NVIDIA Edge Stack – это оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA® Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X™ и контейнеризированные AI фреймворки и приложения, включая TensorRT™, TensorRT Inference Server и DeepStream. NVIDIA Edge Stack оптимизирован для сертифицированных серверов и доступен для загрузки из NVIDIA NGC™.
“Red Hat призвана обеспечить полноценные возможности для любых нагрузок и локаций, от гибридного облака до локальной точки, – говорит Крис Райт (Chris Wright), технический директор Red Hat. – Объединив платформы Red Hat OpenShift и NVIDIA EGX, пользователи смогут лучше оптимизировать свои распределенные операции в высокопроизводительном, ориентированном на контейнеры окружении”.
Локальное ИИ-облако в коробке
EGX объединяет полный набор вычислительных ИИ-технологий NVIDIA с Red Hat OpenShift и NVIDIA Edge Stack, а также технологии защиты, связи и хранения данных Mellanox и Cisco. Это позволяет компаниям в крупнейших областях – телекоме, производстве, ритейле, здравоохранении и транспорте — быстро строить современные и надежные корпоративные ИИ-инфраструктуры.
“Сетевые карты и переключатели Mellanox Smart обеспечивают идеальный интерфейс для доступа к данным, которые масштабируются до больших дата-центров, – говорит Михаил Каган (Michael Kagan), технический директор Mellanox Technologies. – Сочетание высокой производительности, низких задержек и ускоренных сетевых соединений поднимает инфраструктурные вычисления на новый уровень, необходимый для эффективного доступа к данным и работы передовых ИИ-решений нового поколения на периферийных платформах, таких, как NVIDIAEGX”.
“Компания Cisco рада сотрудничать с NVIDIA, чтобы предоставить своим клиентам полноценные решения на базе EGX платформы Cisco с ПО Cisco для вычислений, хранения и управления данными и Ethernet и IP сетевыми технологиями”, – говорит Каустуб Дас (Kaustubh Das), вице-президент Cisco Computing Systems.
Интернет вещей на базе гибридных и мультиоблаков
ИИ-вычисления NVIDIA доступны в ключевых облаках и архитектурно совместимы с NVIDIA EGX. ИИ-приложения, разработанные в облаке, могут работать на NVIDIA EGX и наоборот. NVIDIAEdge Stack подключается к ключевым облачным IoT сервисам, и клиенты могут удаленно управлять своим сервисом из AWS IoT Greengrass и Microsoft Azure IoT Edge.
“Azure IoT Edge помогает клиентам быстро и безопасно наделять облачными сервисами свои IoT устройства, – говорит Сэм Джордж (Sam George), директор Azure IoT Edge. – Мы стремимся к поддержке платформы NVIDIA EGX на устройствах Azure IoT Edge, чтобы клиенты могли запускать ИИ-задачи, предназначенные для EGX-совместимого аппаратного обеспечения”.
Широкая поддержка среди разработчиков
NVIDIA EGX оптимизирует ИИ для расширяющейся экосистемы программных решений.
Сюда относятся приложения для видеоаналитики, идеально подходящие для крупных розничных сетей и умных городов, от таких поставщиков, как AnyVision, DeepVision, IronYun и MalongTechnologies, а также приложения здравоохранения от 12 Sigma, Infervision, Qunatib и Subtle Medical.
На вооружении у ведущих производителей компьютеров
EGX серверы доступны у ведущих мировых поставщиков корпоративных решений ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur и Lenovo, а также у крупных производителей серверов и IoT-систем Abaco, Acer, ADLINK, Advantech, ASRock Rack, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT,Sugon, Supermicro, Tyan, WiBase и Wiwynn.
Серверы NVIDIA EGX оптимизированы для NVIDIA Edge Stack и поддерживают NGC для CUDA-ускоренных контейнеров.
