nestormedia.com nestorexpo.com nestormarket.com nestorclub.com
на главнуюновостио проекте, реклама получить rss-ленту

GPU NVIDIA A100 ускоряет обучение ИИ и инференс до 20


GPU NVIDIA A100 ускоряет обучение ИИ и инференс до 20  NVIDIA объявила о начале производства и поставок первого графического процессора на базе архитектуре NVIDIA® Ampere - NVIDIA A100.

Благодаря передовой архитектуре NVIDIA Ampere графический процессор A100 обладает максимальным приростом производительности среди всех восьми поколений GPU NVIDIA и создает единую платформу для обучения ИИ и инференса, ускоряя производительность до 20 раз по сравнению с предшественниками. Универсальный ускоритель A100 также предназначен для задач анализа данных, научных вычислений и облачной графики.

«Стремительное распространение облачных вычислений и ИИ кардинально меняет архитектуру дата-центров: CPU-серверы сегодня уступают место GPU-ускоренным вычислениям, - говорит Дженсен Хуанг (Jensen Huang), основатель и генеральный директор NVIDIA. - Графические процессоры NVIDIA A100 в 20 раз быстрее в ИИ-задачах и ускоряют машинное обучение на всех этапах – от анализа данных до обучения и инференса. Впервые вертикально и горизонтально масштабируемые задачи можно ускорять на одной платформе. NVIDIA A100 одновременно увеличивает полосу пропускания и снижает стоимость дата-центров».

Новые адаптивные вычислительное технологии в A100 позволяют подобрать необходимую вычислительную мощь для каждой задачи. Каждый GPU A100 может быть разделен на максимум семь независимых инстансов для задач инференса, а благодаря интерконнекту третьего поколения NVIDIA NVLink® графические процессоры A100 можно объединить в один гигантский GPU для работы с моделями большого для работы с масштабными задачами.

Ожидается, что процессоры A100 интегрируют в свои решения следующие поставщики облачных услуг и сборщики систем: Alibaba Cloud, Amazon Web Services (AWS), Atos, Baidu Cloud, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Google Cloud, H3C, Hewlett Packard Enterprise (HPE), Inspur, Lenovo, Microsoft Azure, Oracle, Quanta/QCT, Supermicro и Tencent Cloud.

Широкое применение

Компания Microsoft одной из первых приобрела графические процессоры NVIDIA A100, чтобы задействовать их преимущества в производительности и масштабируемости для задач, связанных с обработкой языка, речи, компьютерного зрения, мультимодальности и не только.

DoorDash, платформа доставки еды по требованию, служащая жизненной артерией для ресторанов во время пандемии, отмечает, что наличие гибкой ИИ-инфраструктуры является важным фактором для возможности масштабировать бизнес, одновременно повышая его эффективность и снижая издержки.

Процессоры A100 также будут использоваться в суперкомпьютерах нового поколения следующих лабораторий и исследовательских организаций: Университета Индианы (США), Юлихского исследовательского центра (Германия), Технологического Института Карлсруэ (Германия), Общества Макса Планка (Max Planck Computing and Data Facility, Германия), Научно-исследовательского вычислительного центра Министерства энергетики США в Национальной лаборатории Лоуренса в Беркли.

Пять инноваций A100

Вычислительные возможности GPU NVIDIA A100 стали возможны благодаря пяти ключевым инновациям:

  • Архитектура Ampere — в основе GPU A100 лежит новая архитектура NVIDIA Ampere с более чем 54 млрд транзисторов, что делает его крупнейшим в мире 7-нм процессором.
  • Тензорные ядра третьего поколения с TF32 — получившие широкое применение тензорные ядра NVIDIA стали еще более гибкими, быстрыми и простыми в использовании. Теперь они поддерживают TF32 для ИИ, что поднимает скорость ИИ-вычислений до 20 раз для FP32 без каких-либо изменений кода. Также, тензорные ядра теперь поддерживают FP64, что повышает скорость работы в HPC-приложениях до 2.5 раз по сравнению с предыдущим поколением.
  • Multi-instance GPU (MIG) позволяет разделить A100 на максимум семь отдельных GPU для выполнения задач разной степени сложности для оптимизации использования GPU и эффективности инвестиций.
  • NVIDIA NVLink третьего поколения — удваивает скорость высокоскоростного соединения между GPU для более эффективного масштабирования вычислений.
  • Structural sparsity — технология удваивает производительность, используя разреженность данных в задачах ИИ.


Вместе эти возможности превращают NVIDIA A100 в идеальное решение для разнообразных требовательных задач, включая обучение нейросетей и инференс, научное моделирование, диалоговый ИИ, рекомендательные системы, геномику, анализ данных, сейсмическое моделирование и финансовое прогнозирование.

NVIDIA A100 доступен в новых системах, скоро в облаке

Система NVIDIA DGX A100™ включает восемь GPU NVIDIA A100, связанных интерфейсом NVIDIA NVLink. Система уже доступна у NVIDIA и будет доступна у партнеров компании.



Сервисы на базе A100 планируют предоставлять Alibaba Cloud, AWS, Baidu Cloud, Google Cloud, Microsoft Azure, Oracle и Tencent Cloud.

Ожидается широкая линейка серверов на базе A100 от ведущих производителей, включая Atos, Dell Technologies, Fujitsu, GIGABYTE, H3C, HPE, Inspur, Lenovo, Quanta/QCT и Supermicro.

Чтобы ускорить разработку серверов, NVIDIA создала референсный дизайн модулей HGX A100 в форме интегрируемых плат с различными конфигурациями GPU.

Соединение 4-х GPU в модулях HGX A100 обеспечивает технология NVLink. В модулях же с восьмью GPU взаимодействие GPU-to-GPU происходит через NVIDIA NVSwitch. Благодаря новой технологии MIG, модуль HGX A100 можно разбить на 56 отдельных GPU, каждый из которых будет быстрее NVIDIA T4. Общая производительность сервера с восьмью GPU на борту в ИИ-вычислениях составляет 10 петафлопс.



Программные оптимизации NVIDIA в A100

NVIDIA также анонсировала несколько обновлений своего программного стека, включая новые версии более чем 50 библиотек CUDA-X, используемых для ускорения графики, моделирования и ИИ; для CUDA 11; для NVIDIA Jarvis, мультимодального фреймворка для диалоговых ИИ-сервисов; для NVIDIA Merlin, фреймворка для рекомендательных систем; и NVIDIA HPC SDK, который включает компиляторы, библиотеки и инструменты, помогающие HPC-разработчикам отлаживать и оптимизировать свой код для A100.





Ещё из раздела видеокарты

  • компании и бренды: GeForce, Inno3D
  • номер: 2013/13
Inno3D отчиталась о запуске новых видеокарт iChill GeForce GTX 650 Ti Boost и Inno3D GeForce GTX 650 Ti Boost. Обе видеокарты оснащены 768 ядрами CUDA, 192-битной памятью GDDR5 RAM объемом 2ГБ и могут похвастаться разогнанными частотами работы – ...
  • компании и бренды: GigaByte
  • номер: 2014/24
GIGABYTE анонсировала игровую видеокарту премиум-категории – GV-TITANBLKD5-6GD-B. Основанная на графическом процессоре GeForce GTX TITAN BLACK, GV-TITANBLKD5-6GD-B построена с использованием 28-нм технологического процесса, имеет 6 ГБ видеопамяти ...
    Одними из важнейших параметров компьютеров являются характеристики его видеокарты. Перед тем, как купить выдеокарту, каждый пользователь должен понимать какими они могут быть и как устроены. Существуют 2 основных типа таких устройств: - ...
    • компании и бренды: Inno3D
    • номер: 2013/20
    Inno3D отчиталась о запуске новой видеокарты Inno3D GeForce GTX 780. Новинка знаменует революцию в игровой производительности, обеспечивая очень быструю, плавную и тихую работу. Видеокарта оборудована мощным GPU NVIDIA Kepler с 2304 ядрами, что на ...
    • компании и бренды: GigaByte
    • номер: 2014/23
    GIGABYTE сообщила о доступности в российской рознице видеокарт нового поколения GIGABYTE GV-N760WF2OC-2GD. Новинка выполнена на базе графического ускорителя NVIDIA GeForce GTX 760 с 1152 потоковыми процессорами (ядро Kepler), обладает поддержкой ...
    • компании и бренды: NVIDIA, Palit
    Карты серии Palit GeForce GTX 1070 Ti могут похвастаться самым технически продвинутым на сегодняшний день графическим процессором NVIDIA Pascal™, включающим в себя 2432 ядра CUDA, а также 8 ГБ высокоскоростной памяти GDDR5 с 256-битной шиной. ...
    • компании и бренды: Asus
    • номер: 2012/35
    ASUS анонсировала новые видеокарты, которые делают современные 28-нанометровые графические процессоры NVIDIA еще более доступными по цене. Помимо привлекательной стоимости, ASUS GeForce GTX 660 DirectCU II TOP и GeForce GTX 650 DirectCU TOP могут ...
    • компании и бренды: GeForce
    • номер: 2012/35
    KFA2 объявила о запуске новых решений KFA2 GeForce GTX 660 EX OC и KFA2 GeForce GTX 650 EX OC, которые предлагают любителям компьютерных игр самые последние GPU технологии и отличную графическую мощь по доступной цене. Улучшенное потребление питания ...
    • компании и бренды: GeForce, Palit
    • авторы: Татьяна Кравченко
    • номер: 2013/23
    Компания Palit на сегодняшний день является одним из всемирно известных производителей инновационных видеокарт. Репутация лидера на мировом рынке подкрепляется многолетним опытом в сфере разработки высококачественных графических адаптеров: компания ...
    • компании и бренды: Asus
    • номер: 2014/07
    ASUS представила мощную видеокарту GTX Titan Black, которая оснащена большим объемом видеопамяти (6 ГБ) и обладает поддержкой современных геймерских технологий NVIDIA (GPU Boost 2.0 и G-SYNC). Это стильное устройство предназначено для всех любителей ...
    • компании и бренды: Asus
    • номер: 2014/09
    Официально представлена видеокарта ASUS R9 280 DirectCU II которая оснащена тремя гигабайтами видеопамяти GDDR5 и прекрасно подходит для запуска современных игр в самых высоких разрешениях. В данном устройстве применяется целый ряд эксклюзивных ...
    • компании и бренды: Asus
    • номер: 2014/26
    ASUS представила Strix GTX 750 Ti OC – новую видеокарту на базе графического процессора NVIDIA GeForce GTX 750 Ti, работающего на частоте до 1202 МГц, и оснащенную 2 гигабайтами видеопамяти GDDR5. Strix (от латинского сова) – это линейка продуктов, ...
    © 2023 PressEnter
                                                

    Сайт работает на платформе Nestorclub.com