Thông số kỹ thuật xem thêm các máy chủ Supermicro đc chứng nhận cho GPU NVIDIA A100 PCIe

minhduongpro

Thành viên
Tham gia
21/7/2017
Bài viết
4
Sau sự kiện công bố của kiến trúc Ampere và GPU tăng tốc AI A100 mới, NVIDIA cũng từng ra mắt bạn dạng PCIe của bộ tăng tốc này để bắt đầu cho sự kiện ảo ISC Digital. GPU A100 PCIe đc chào làng hồi tháng 6 năm 2020, thiết kế bên trên tiến trình 7nm và dựa trên bộ xử trí đồ họa GA100, card không giúp DirectX bắt buộc nó thậm chí ko chạy được toàn bộ các cuộc chơi tiên tiến nhất. A100 GPU với 432 lõi tensor giúp nâng cấp tốc độ của các ứng dụng học máy. NVIDIA đã ghép nối bộ nhớ HBM2e 40GB với A100 PCIe, đc kết nối bằng giao diện bộ nhớ 5120-bit. GPU đang hoạt động ở tần số 765 MHz, mà thậm chí được boost lên 1410 MHz, bộ nhớ lưu trữ chuyển động ở tần số 1215 MHz, mang tới hiệu suất đo lường và tính toán đa nhiệm mạnh mẽ hơn.

là 1 trong những GPU sở hữu size 2 Zắc cắm (double-width), NVIDIA A100 PCIe bắt buộc hỗ trợ nguồn điện là 1 nguồn EPS 8 chân duy nhất, với mức tiêu thụ điện năng tối đa là 250W. GPU này không có cổng screen, vì nó ko có phong cách thiết kế để có màn hình hiển thị kết nối. A100 PCIe đc kết nối với phần còn sót lại của khối hệ thống bằng giao diện PCI-Express 4.0 x16. Card với chiều dài 267mm & giao tiếp PCIe truyền thống, giúp cung ứng các quý khách hàng chỉ việc cắm vào sever thiết kế chuẩn mức. Nhìn tổng thể, A100 PCIe cung cấp hiệu năng cao nhất tương tự như SXM4 A100, cung cấp khoảng 90% hiệu suất so với phiên bản SXM4 trên workload GPU đơn, do TDP giảm mạnh. Điều này giúp cho A100 PCIe thích ứng hơn mang các hệ thống AI trong Data Center mật độ cao nhưng tiết kiệm ngân sách hơn về TCO.

>>> Xem thêm: bán máy r940



NVIDIA GPU A100 PCIe đó là phong cách xây dựng A100 hoàn chỉnh, chỉ khác là nằm trong một form-factor PCIe và có TDP phù hợp hơn. Về hiệu năng, A100 PCIe cũng trở nên nhanh tương đồng phiên bản SXM4. Do đó, bản PCIe có tất cả tất cả trang bị mà A100 cung cấp vào bên trong nó, sở hữu cùng trọng tâm tập kết vào các phép toán tensor, bao gồm các chuẩn chỉnh FP32 và FP64 với độ đúng mực cao hơn, cũng như suy luận số nguyên mau hơn.NVIDIA Ampere A100 PCIe GPU Accelerator_Specs

giải pháp hạ tầng

Bảng so sánh thông số kỹ thuật các bộ tăng tốc NVIDIA

A100

(PCIe) A100

(SXM4) V100

(PCIe) P100

(PCIe)

FP32 CUDA Cores 6912 6912 5120 3584

Boost Clock 1.41GHz 1.41GHz 1.38GHz 1.3GHz

Memory Clock 2.4Gbps HBM2 2.4Gbps HBM2 1.75Gbps HBM2 1.4Gbps HBM2

Memory Bus Width 5120-bit 5120-bit 4096-bit 4096-bit

Memory Bandwidth 1.6TB/sec 1.6TB/sec 900GB/sec 720GB/sec

VRAM 40GB 40GB 16GB/32GB 16GB

Single Precision 19.5 TFLOPs 19.5 TFLOPs 14.1 TFLOPs 9.3 TFLOPs

Double Precision 9.7 TFLOPs

(1/2 FP32 rate) 9.7 TFLOPs

(1/2 FP32 rate) 7 TFLOPs

(1/2 FP32 rate) 4.7 TFLOPs

(1/2 FP32 rate)

>>> Xem thêm: mua máy chủ dell r740



INT8 Tensor 624 TOPs 624 TOPs N/A N/A

FP16 Tensor 312 TFLOPs 312 TFLOPs 112 TFLOPs N/A

TF32 Tensor 156 TFLOPs 156 TFLOPs N/A N/A

Relative Performance (SXM Version) 90% 100% N/A N/A

Interconnect NVLink 3

6 Links? (300GB/sec?) NVLink 3

12 links (600GB/sec) NVLink 2

4 link (200GB/sec) NVLink 1

4 links (160GB/sec)

GPU GA100

(826mm2) GA100

(826mm2) GV100

(815mm2) GP100

(610mm2)

Transistor Count 54.2B 54.2B 21.1B 15.3B

TDP 250W 400W 250W 300W

Manufacturing Process TSMC 7N TSMC 7N TSMC 12nm FFN TSMC 16nm FinFET

Interface PCIe 4.0 SXM4 PCIe 3.0 SXM

Architecture Ampere Ampere Volta Pascal

không tính sự biến hóa ở form-factor & TDP, biệt lập đáng chú ý ở A100 PCIe so với phiên bản SXM là kinh nghiệm kết nối NVLink. So với card PCIe , NVIDIA một đợt nữa lạm dụng quá những cầu nối NVLink để kết nối qua trên đây của những card A100, được cho phép hai (và chỉ hai) card đc link có nhau qua NVlink Brigde. Với NVlink Brigde, A100 PCIe và 3 NVLink connector của chính nó thậm chí đạt vận tốc NVLink bandwidth lên đến 600GB/s, giúp khối hệ thống AI của người tiêu dùng dễ dàng tăng cường & nâng cấp hiệu suất của những phần mềm và workloads mật thiết.

>>> Xem thêm: mua server dell r740xd
 
×
Quay lại
Top