nestormedia.com nestorexpo.com nestormarket.com nestorclub.com
на главнуюновостио проекте, реклама получить rss-ленту

GPU NVIDIA A100 ускоряет обучение ИИ и инференс до 20


GPU NVIDIA A100 ускоряет обучение ИИ и инференс до 20  NVIDIA объявила о начале производства и поставок первого графического процессора на базе архитектуре NVIDIA® Ampere - NVIDIA A100.

Благодаря передовой архитектуре NVIDIA Ampere графический процессор A100 обладает максимальным приростом производительности среди всех восьми поколений GPU NVIDIA и создает единую платформу для обучения ИИ и инференса, ускоряя производительность до 20 раз по сравнению с предшественниками. Универсальный ускоритель A100 также предназначен для задач анализа данных, научных вычислений и облачной графики.

«Стремительное распространение облачных вычислений и ИИ кардинально меняет архитектуру дата-центров: CPU-серверы сегодня уступают место GPU-ускоренным вычислениям, - говорит Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA. - Графические процессоры NVIDIA A100 в 20 раз быстрее в ИИ-задачах и ускоряют машинное обучение на всех этапах – от анализа данных до обучения и инференса. Впервые вертикально и горизонтально масштабируемые задачи можно ускорять на одной платформе. NVIDIA A100 одновременно увеличивает полосу пропускания и снижает стоимость дата-центров».

Новые адаптивные вычислительное технологии в A100 позволяют подобрать необходимую вычислительную мощь для каждой задачи. Каждый GPU A100 может быть разделен на максимум семь независимых инстансов для задач инференса, а благодаря интерконнекту третьего поколения NVIDIA NVLink® графические процессоры A100 можно объединить в один гигантский GPU для работы с моделями большого для работы с масштабными задачами.

Ожидается, что процессоры A100 интегрируют в свои решения следующие поставщики облачных услуг и сборщики систем: Alibaba Cloud, Amazon Web Services (AWS), Atos, Baidu Cloud, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Google Cloud, H3C, Hewlett Packard Enterprise (HPE), Inspur, Lenovo, Microsoft Azure, Oracle, Quanta/QCT, Supermicro и Tencent Cloud.

Широкое применение

Компания Microsoft одной из первых приобрела графические процессоры NVIDIA A100, чтобы задействовать их преимущества в производительности и масштабируемости для задач, связанных с обработкой языка, речи, компьютерного зрения, мультимодальности и не только.

DoorDash, платформа доставки еды по требованию, служащая жизненной артерией для ресторанов во время пандемии, отмечает, что наличие гибкой ИИ-инфраструктуры является важным фактором для возможности масштабировать бизнес, одновременно повышая его эффективность и снижая издержки.

Процессоры A100 также будут использоваться в суперкомпьютерах нового поколения следующих лабораторий и исследовательских организаций: Университета Индианы (США), Юлихского исследовательского центра (Германия), Технологического Института Карлсруэ (Германия), Общества Макса Планка (Max Planck Computing and Data Facility, Германия), Научно-исследовательского вычислительного центра Министерства энергетики США в Национальной лаборатории Лоуренса в Беркли.

Пять инноваций A100

Вычислительные возможности GPU NVIDIA A100 стали возможны благодаря пяти ключевым инновациям:

  • Архитектура Ampere — в основе GPU A100 лежит новая архитектура NVIDIA Ampere с более чем 54 млрд транзисторов, что делает его крупнейшим в мире 7-нм процессором.
  • Тензорные ядра третьего поколения с TF32 — получившие широкое применение тензорные ядра NVIDIA стали еще более гибкими, быстрыми и простыми в использовании. Теперь они поддерживают TF32 для ИИ, что поднимает скорость ИИ-вычислений до 20 раз для FP32 без каких-либо изменений кода. Также, тензорные ядра теперь поддерживают FP64, что повышает скорость работы в HPC-приложениях до 2.5 раз по сравнению с предыдущим поколением.
  • Multi-instance GPU (MIG) позволяет разделить A100 на максимум семь отдельных GPU для выполнения задач разной степени сложности для оптимизации использования GPU и эффективности инвестиций.
  • NVIDIA NVLink третьего поколения — удваивает скорость высокоскоростного соединения между GPU для более эффективного масштабирования вычислений.
  • Structural sparsity — технология удваивает производительность, используя разреженность данных в задачах ИИ.


Вместе эти возможности превращают NVIDIA A100 в идеальное решение для разнообразных требовательных задач, включая обучение нейросетей и инференс, научное моделирование, диалоговый ИИ, рекомендательные системы, геномику, анализ данных, сейсмическое моделирование и финансовое прогнозирование.

NVIDIA A100 доступен в новых системах, скоро в облаке

Система NVIDIA DGX A100™ включает восемь GPU NVIDIA A100, связанных интерфейсом NVIDIA NVLink. Система уже доступна у NVIDIA и будет доступна у партнеров компании.



Сервисы на базе A100 планируют предоставлять Alibaba Cloud, AWS, Baidu Cloud, Google Cloud, Microsoft Azure, Oracle и Tencent Cloud.

Ожидается широкая линейка серверов на базе A100 от ведущих производителей, включая Atos, Dell Technologies, Fujitsu, GIGABYTE, H3C, HPE, Inspur, Lenovo, Quanta/QCT и Supermicro.

Чтобы ускорить разработку серверов, NVIDIA создала референсный дизайн модулей HGX A100 в форме интегрируемых плат с различными конфигурациями GPU.

Соединение 4-х GPU в модулях HGX A100 обеспечивает технология NVLink. В модулях же с восьмью GPU взаимодействие GPU-to-GPU происходит через NVIDIA NVSwitch. Благодаря новой технологии MIG, модуль HGX A100 можно разбить на 56 отдельных GPU, каждый из которых будет быстрее NVIDIA T4. Общая производительность сервера с восьмью GPU на борту в ИИ-вычислениях составляет 10 петафлопс.



Программные оптимизации NVIDIA в A100

NVIDIA также анонсировала несколько обновлений своего программного стека, включая новые версии более чем 50 библиотек CUDA-X, используемых для ускорения графики, моделирования и ИИ; для CUDA 11; для NVIDIA Jarvis, мультимодального фреймворка для диалоговых ИИ-сервисов; для NVIDIA Merlin, фреймворка для рекомендательных систем; и NVIDIA HPC SDK, который включает компиляторы, библиотеки и инструменты, помогающие HPC-разработчикам отлаживать и оптимизировать свой код для A100.





Ещё из раздела видеокарты

  • компании и бренды: Inno3D
  • номер: 2013/20
Inno3D отчиталась о запуске новой видеокарты Inno3D GeForce GTX 780. Новинка знаменует революцию в игровой производительности, обеспечивая очень быструю, плавную и тихую работу. Видеокарта оборудована мощным GPU NVIDIA Kepler с 2304 ядрами, что на ...
  • компании и бренды: GigaByte
  • номер: 2014/23
GIGABYTE сообщила о доступности в российской рознице видеокарт нового поколения GIGABYTE GV-N760WF2OC-2GD. Новинка выполнена на базе графического ускорителя NVIDIA GeForce GTX 760 с 1152 потоковыми процессорами (ядро Kepler), обладает поддержкой ...
  • компании и бренды: NVIDIA, Palit
Карты серии Palit GeForce GTX 1070 Ti могут похвастаться самым технически продвинутым на сегодняшний день графическим процессором NVIDIA Pascal™, включающим в себя 2432 ядра CUDA, а также 8 ГБ высокоскоростной памяти GDDR5 с 256-битной шиной. ...
  • компании и бренды: Asus
  • номер: 2012/35
ASUS анонсировала новые видеокарты, которые делают современные 28-нанометровые графические процессоры NVIDIA еще более доступными по цене. Помимо привлекательной стоимости, ASUS GeForce GTX 660 DirectCU II TOP и GeForce GTX 650 DirectCU TOP могут ...
  • компании и бренды: GeForce
  • номер: 2012/35
KFA2 объявила о запуске новых решений KFA2 GeForce GTX 660 EX OC и KFA2 GeForce GTX 650 EX OC, которые предлагают любителям компьютерных игр самые последние GPU технологии и отличную графическую мощь по доступной цене. Улучшенное потребление питания ...
  • компании и бренды: GeForce, Palit
  • авторы: Татьяна Кравченко
  • номер: 2013/23
Компания Palit на сегодняшний день является одним из всемирно известных производителей инновационных видеокарт. Репутация лидера на мировом рынке подкрепляется многолетним опытом в сфере разработки высококачественных графических адаптеров: компания ...
  • компании и бренды: Asus
  • номер: 2014/07
ASUS представила мощную видеокарту GTX Titan Black, которая оснащена большим объемом видеопамяти (6 ГБ) и обладает поддержкой современных геймерских технологий NVIDIA (GPU Boost 2.0 и G-SYNC). Это стильное устройство предназначено для всех любителей ...
  • компании и бренды: Asus
  • номер: 2014/09
Официально представлена видеокарта ASUS R9 280 DirectCU II которая оснащена тремя гигабайтами видеопамяти GDDR5 и прекрасно подходит для запуска современных игр в самых высоких разрешениях. В данном устройстве применяется целый ряд эксклюзивных ...
  • компании и бренды: Asus
  • номер: 2014/26
ASUS представила Strix GTX 750 Ti OC – новую видеокарту на базе графического процессора NVIDIA GeForce GTX 750 Ti, работающего на частоте до 1202 МГц, и оснащенную 2 гигабайтами видеопамяти GDDR5. Strix (от латинского сова) – это линейка продуктов, ...
  • компании и бренды: NVIDIA
  • номер: 2012/39
KFA2 объявила о запуске новой видеокарты KFA2 GeForce GTX 650 TI EX OC. Представляя улучшенную версию более ранней модели GTX 650, новая GTX 650 TI EX OC оборудована вдвое большим количеством ядер CUDA, предлагая отличный прирост производительности ...
  • компании и бренды: GigaByte
  • номер: 2014/18
GIGABYTE TECHNOLOGY Co. Ltd. официально анонсировала свою последнюю разработку – игровую видеокарту GV-NTITANBLKGHZ-6GD-B. Новая видеокарта создана на базе GeForce GTX Titan Black и поставляется сразу с двумя системами охлаждения, одна из которых – ...
  • номер: 2015/04
Gainward анонсировала серию видеокарт GeForce GTX на базе архитектуры нового поколения MAXWELL - GeForce GTX 960. Благодаря лучшему графическому процессору с архитектурой MAXWELL новая серия Gainward GeForce GTX 960 включает недорогие решения с ...
© 2023 PressEnter
                                            

Сайт работает на платформе Nestorclub.com