NVIDIA EGX: платформа периферийных вычислений для применения ИИ в индустрии
28.05.2019
NVIDIA представила платформу ускоренных вычислений NVIDIA EGX, которая позволяет компаниям использовать ИИ с низкими задержками на периферийных устройствах: получать непрерывный поток данных от 5G станций, складов, магазинов, заводов и других мест, обрабатывать их и принимать необходимые решения в реальном времени.
Платформа NVIDIA EGX призвана удовлетворить растущий спрос на мгновенное выполнение задач ИИ локально – там, где создаются данные, с гарантированным временем отклика, позволяя снизить объем данных, отправляемых в облако.
К 2025 году человечеству понадобится порядка 150 млрд датчиков и IoT устройств для обработки бесконечного потока данных) — это на порядки больше объема данных, поступающих сегодня со смартфонов. Edge-серверы, такие, как NVIDIA EGX, будут установлены повсеместно для обработки данных с сенсоров в режиме реального времени.
“Компаниям нужны более мощные локальные вычислительные ресурсы для обработки огромных массивов сырых данных, поступающих от бесчисленных взаимодействий с пользователями и оборудованием, для принятия быстрых бизнес-решений на базе результатов ИИ-обработки, - говорит Боб Пит (Bob Pette), вице-президент и директор по корпоративным и периферийным вычислениям в NVIDIA. - Масштабируемая платформа, такая, как NVIDIA EGX, позволяет легко разворачивать необходимые системы локально, или в облаке, или и там, и там”.
Масштабируемость
На одном краю EGX крошечный чип NVIDIA Jetson Nano, способный выполнять полтриллиона операций в секунду (TOPS) при энергопотреблении всего несколько Ватт в таких задачах, как распознавание изображений. EGX масштабируется до полноценной стойки серверов NVIDIA T4, способных обеспечить свыше 10 000 TOPS в операциях распознавания речи и других ИИ-задачах в реальном времени.
Корпоративные решения
NVIDIA заключила соглашение с Red Hat для интеграции и оптимизации набора ПО NVIDIA Edge Stack под OpenShift, ведущую платформу управления кластером контейнеров Kubernetes корпоративного уровня.
NVIDIA Edge Stack – это оптимизированный пакет ПО, включающий драйверы NVIDIA, плагин CUDA® Kubernetes, среду исполнения для контейнеров CUDA, библиотеки CUDA-X и контейнеризированные AI фреймворки и приложения, включая TensorRT, TensorRT Inference Server и DeepStream. NVIDIA Edge Stack оптимизирован для сертифицированных серверов и доступен для загрузки из NVIDIA NGC.
“Red Hat призвана обеспечить полноценные возможности для любых нагрузок и локаций, от гибридного облака до локальной точки, - говорит Крис Райт (Chris Wright), технический директор Red Hat. - Объединив платформы Red Hat OpenShift и NVIDIA EGX, пользователи смогут лучше оптимизировать свои распределенные операции в высокопроизводительном, ориентированном на контейнеры окружении”.
Локальное ИИ-облако в коробке
EGX объединяет полный набор вычислительных ИИ-технологий NVIDIA с Red Hat OpenShift и NVIDIA Edge Stack, а также технологии защиты, связи и хранения данных Mellanox и Cisco. Это позволяет компаниям в крупнейших областях – телекоме, производстве, ритейле, здравоохранении и транспорте — быстро строить современные и надежные корпоративные ИИ-инфраструктуры.
“Сетевые карты и переключатели Mellanox Smart обеспечивают идеальный интерфейс для доступа к данным, которые масштабируются до больших дата-центров, - говорит Михаил Каган (Michael Kagan), технический директор Mellanox Technologies. - Сочетание высокой производительности, низких задержек и ускоренных сетевых соединений поднимает инфраструктурные вычисления на новый уровень, необходимый для эффективного доступа к данным и работы передовых ИИ-решений нового поколения на периферийных платформах, таких, как NVIDIA EGX”.
“Компания Cisco рада сотрудничать с NVIDIA, чтобы предоставить своим клиентам полноценные решения на базе EGX платформы Cisco с ПО Cisco для вычислений, хранения и управления данными и Ethernet и IP сетевыми технологиями”, - говорит Каустуб Дас (Kaustubh Das), вице-президент Cisco Computing Systems.
Интернет вещей на базе гибридных и мультиоблаков
ИИ-вычисления NVIDIA доступны в ключевых облаках и архитектурно совместимы с NVIDIA EGX. ИИ-приложения, разработанные в облаке, могут работать на NVIDIA EGX и наоборот. NVIDIA Edge Stack подключается к ключевым облачным IoT сервисам, и клиенты могут удаленно управлять своим сервисом из AWS IoT Greengrass и Microsoft Azure IoT Edge.
“Azure IoT Edge помогает клиентам быстро и безопасно наделять облачными сервисами свои IoT устройства, - говорит Сэм Джордж (Sam George), директор Azure IoT Edge. - Мы стремимся к поддержке платформы NVIDIA EGX на устройствах Azure IoT Edge, чтобы клиенты могли запускать ИИ-задачи, предназначенные для EGX-совместимого аппаратного обеспечения”.
Широкая поддержка среди разработчиков
NVIDIA EGX оптимизирует ИИ для расширяющейся экосистемы программных решений.
Сюда относятся приложения для видеоаналитики, идеально подходящие для крупных розничных сетей и умных городов, от таких поставщиков, как AnyVision, DeepVision, IronYun и Malong Technologies, а также приложения здравоохранения от 12 Sigma, Infervision, Qunatib и Subtle Medical.
На вооружении у ведущих производителей компьютеров
EGX серверы доступны у ведущих мировых поставщиков корпоративных решений ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur и Lenovo, а также у крупных производителей серверов и IoT-систем Abaco, Acer, ADLINK, Advantech, ASRock Rack, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT, Sugon, Supermicro, Tyan, WiBase и Wiwynn.
Серверы NVIDIA EGX оптимизированы для NVIDIA Edge Stack и поддерживают NGC для CUDA-ускоренных контейнеров.
Геймерам придется по душе производительность GTX 680, а также тот факт, что ей не требуются громкие вентиляторы и экзотические блоки питания. Пользователям ультрабуков понравится семейство GT 600M за ее производительность и экономичность, так ...
Получивший поддержку Google, Intel, Baidu, NVIDIA и десятков других лидеров индустрии, новый пакет MLPerf измеряет широкий спектр нагрузок в задачах глубокого обучения. Первый в индустрии пакет с объективной оценкой скорости вычислений для ИИ ...
На мероприятии GDC 2016 компания AMD официально представила новую видеокарту Radeon Pro Duo. Как утверждает производитель, на данный момент это самая мощная видеокарта в мире. Устройство позиционируется как видеокарта для девайсов виртуальной ...
Advanced Micro Devices официально анонсировала релиз видеокарты Radeon R7250X, которая принадлежит к категории видеоадаптеров начального уровня. Кстати, новинка, по сути, является видеокартой Radeon HD 7770 GHz Edition, только что выпускается под ...
AMD официально анонсировала новую мощную линейку видеокарт, получившую название Radeon R9 Fury. В линейку вошли видеокарты, основанные на GPU, которое ранее было известно под кодовым наименованием Fiji. В настоящее время серию составляют устройства ...
Официально анонсирована высокопроизводительная двухпроцессорная видеокарта GTX Titan Z, оснащенная 12 гигабайтами видеопамяти. В комплект поставки GTX Titan Z входит утилита GPU Tweak, с помощью которой можно получить полный контроль над графической ...
Компания NVIDIA представила новую линейку игровых GPU: GeForce RTX 2060 SUPER, GeForce RTX 2070 SUPER и GeForce RTX 2080 SUPER, которые обеспечивают лучшую в классе игровую производительность и трассировку лучей в реальном времени для существующих ...
AMD представила видеокарту Radeon Pro V340, высокопроизводительное решение с двумя GPU для инфраструктуры виртуальных рабочих столов (VDI), созданное специально, чтобы обеспечить поддержку и ускорить самые требовательные к ресурсам виртуальные ...
Мощную видеокарту GeForce GTX 980 компания NVIDIA изначально представляла как десктопное устройство. Теперь же эта видеокарта вышла и в форм-факторе, ориентированном на использование в игровых лэптопах. Как заверяет производитель, GeForce GTX 980 – ...
Ti – это две могущественных буквы в мире графических процессоров, которые в сочетании с флагманским игровым GPU GeForce GTX 980 дарят новый уровень производительности и возможностей. Видеокарта Inno3D/iChill GTX 980 Ti основана на передовой ...
Компьютерные пользователи со стажем наверняка помнят те времена, когда многие комплектующие, в частности видеокарты, присутствовали на рынке до тех пор, пока на них был спрос или даже немного дольше. Отчасти это было обусловлено тем, что прогресс ...
Графический процессор GeForce GTX 780 обеспечивает высокую производительность и плавную картинку в компьютерных играх нового поколения, таких, как Call of Duty: Ghosts, Watch Dogs и Battlefield 4. Кроме того, финальная версия программного ...