CO. технологии Пекин Plink AI, Ltd
Beijing Plink AI is an expert of cloud-to-end one-stop solution.
Add to Cart
Графическая карта NVIDIA Scientific GPU Tesla A100 40 ГБ для рабочих станций
Чтобы разблокировать открытия нового поколения, ученые обращаются к симуляциям, чтобы лучше понять мир вокруг нас.
NVIDIA Tesla A100 представляет тензорные ядра двойной точности, обеспечивающие самый большой скачок в производительности высокопроизводительных вычислений с момента появления графических процессоров.В сочетании с 80 ГБ самой быстрой памяти графического процессора исследователи могут сократить 10-часовое моделирование с двойной точностью до четырех часов на NVIDIA Tesla A100.Приложения для высокопроизводительных вычислений также могут использовать TF32 для повышения пропускной способности до 11 раз при операциях одинарной точности и плотного матричного умножения.
Для приложений высокопроизводительных вычислений с самыми большими наборами данных дополнительная память A100 объемом 80 ГБ обеспечивает двукратное увеличение пропускной способности с помощью моделирования материалов Quantum Espresso.Этот большой объем памяти и беспрецедентная пропускная способность памяти делают A100 80 ГБ идеальной платформой для рабочих нагрузок нового поколения.
A100 представляет новаторские функции для оптимизации рабочих нагрузок логических выводов.Он ускоряет весь диапазон точности, от FP32 до INT4.Технология Multi-Instance GPU (MIG) позволяет нескольким сетям работать одновременно на одном A100 для оптимального использования вычислительных ресурсов.А поддержка структурной разреженности обеспечивает повышение производительности до 2 раз по сравнению с другими преимуществами A100 в области логического вывода.
В современных моделях диалогового ИИ, таких как BERT, A100 увеличивает пропускную способность логических выводов до 249 раз по сравнению с ЦП.
В самых сложных моделях с ограниченным размером пакета, таких как RNN-T для автоматического распознавания речи, увеличенная емкость памяти A100 80 ГБ удваивает размер каждого MIG и обеспечивает в 1,25 раза более высокую пропускную способность по сравнению с A100 40 ГБ.
Лучшая на рынке производительность NVIDIA была продемонстрирована в MLPerf Inference.A100 обеспечивает в 20 раз большую производительность, чтобы еще больше укрепить это лидерство.
| NVIDIA A100 для PCIe | |
| Архитектура графического процессора |
NVIDIA Ампер |
| Пик FP64 | 9,7 ТФ |
| Пиковое тензорное ядро FP64 | 19,5 тф |
| Пик FP32 | 19,5 тф |
| Пиковое тензорное ядро TF32 | 156 ТФ |312 ТФ* |
| Пиковое тензорное ядро BFLOAT16 | 312 ТФ |624 ТФ* |
| Пиковое тензорное ядро FP16 | 312 ТФ |624 ТФ* |
| Пиковое INT8 тензорное ядро | 624 ТОП |1248 ТОП* |
| Пиковое INT4 тензорное ядро | 1 248 ТОП |2496 ТОП* |
| Память графического процессора | 40 ГБ |
| Пропускная способность памяти графического процессора | 1555 ГБ/с |
| Интерконнект | PCIe Gen4 64 ГБ/с |
| Мультиэкземплярные графические процессоры | Инстансы различных размеров, до 7 MIG при 5 ГБ |
| Фактор формы | PCIe |
|
Максимальная расчетная мощность |
250 Вт |
|
Достигнутая производительность лучших приложений |
90% |
A100 с MIG максимально использует инфраструктуру с ускорением на GPU.С помощью MIG графический процессор A100 можно разделить на семь независимых экземпляров, предоставляя нескольким пользователям доступ к ускорению графического процессора.С A100 40 ГБ каждому экземпляру MIG можно выделить до 5 ГБ, а с увеличенным объемом памяти A100 80 ГБ этот размер удваивается до 10 ГБ.
MIG работает с Kubernetes, контейнерами и виртуализацией серверов на основе гипервизора.MIG позволяет менеджерам инфраструктуры предлагать GPU нужного размера с гарантированным качеством обслуживания (QoS) для каждой задачи, расширяя доступ к ускоренным вычислительным ресурсам для каждого пользователя.