NVIDIA EGX đang hình thành “hệ thần kinh trung ương” của các ngành công nghiệp như thế nào?

minhduongpro

Thành viên
Tham gia
21/7/2017
Bài viết
4
Sự đổi thay lớn trên mọi ngành công nghiệp đang được thúc đẩy bởi việc vận dụng các cảm biến IoT đang nở rộ trên toàn cầu, bao gồm camera để quan sát, micro để nghe và một loạt các thiết bị sáng ý khác giúp tổ chức nhận thức và hiểu những gì đang xảy ra trong thế giới thực.

Lượng dữ liệu được tạo ra ở rìa đang tăng theo cấp số nhân. Cách độc nhất để xử lý dữ liệu khổng lồ này trong thời kì thực là bằng cách đặt các máy chủ gần điểm hành động và bằng cách khai phá sức mạnh tính toán to lớn của GPU.

trọng tâm dữ liệu doanh nghiệp trong mai sau sẽ không có 10.000 máy chủ tại một địa điểm, nhưng một hoặc nhiều máy chủ trên 10.000 địa điểm khác nhau. Chúng sẽ nằm trong các tòa nhà văn phòng, nhà máy, nhà kho, tháp di động, trường học, cửa hàng và nhà băng. Chúng sẽ phát hiện kẹt xe và cháy rừng, định tuyến liên lạc an toàn và ngăn ngừa phạm nhân.

Bằng cách đặt một mạng lưới các máy chủ phân tán, nơi dữ liệu được truyền từ hàng trăm cảm biến, công ty có thể sử dụng thiết lập mạng của các trọng điểm dữ liệu ở rìa để kích hoạt các phản ứng ngay ngay tức khắc với sự tương trợ của AI. Tuy nhiên, bằng cách xử lý dữ liệu ở rìa, các mối lo ngại về quyền riêng tư được giảm nhẹ và các vấn đề tác động đến chủ quyền dữ liệu được đặt ra.

Các máy chủ biên (edge server) thiếu cơ sở hạ tầng bảo mật vật lý mà IT doanh nghiệp được cấp. Và các tổ chức thiếu ngân sách để đầu tư vào đội ngũ nhân viên IT chuyên đi thực địa để quản lý các hệ thống từ xa này. Vì vậy, các máy chủ cạnh cần được thiết kế để tự bảo mật và dễ dàng cập nhật, quản lý và khai triển từ xa.

Thêm vào đó, các hệ thống AI cần phải được vận hành mọi lúc, với thời gian chết (downtime) bằng không.

NVIDIA đã xây dựng nền móng NVIDIA EGX Edge AI để đảm bảo về bảo mật và khả năng phục hồi trên khuôn khổ toàn cầu. Bằng cách đơn giản hóa việc triển khai và quản lý, NVIDIA EGX cho phép các vận dụng AI luôn ở trạng thái bật để tự động hóa cơ sở hạ tầng quan trọng trong mai sau. Nền móng này là một nền tảng phần mềm có nguồn cội Kubernetes và container mang nền tảng AI được tăng tốc bằng GPU đến với mọi thứ, từ máy chủ x86 dual-socket đến NVIDIA Jetson SoC dựa trên ARM.

Cho đến nay, có hơn 20 nhà cung cấp máy chủ xây dựng các máy chủ edge và micro-edge được tương trợ bởi EGX, bao gồm ADLINK, Eclech, Atos, AVerMedia, Cisco, Connect Tech, Dell Technologies , Diamond Systems, Fujitsu, Gigabyte, Hewlett Packard Enterprise, Inspur, Lenovo, Quanta Technologies và Supermicro. Cũng như hàng chục đối tác bảo mật mạng và đám mây lai trong hệ sinh thái cạnh biên NVIDIA, như Canonical, Check Point, Excelero, Guardicore, IBM, Nuage Networks, Nutanix, Palo Alto Networks, Rancher, Red Hat, VMware, Weka và Wind River.

>>> Xem thêm: máy chủ R450



bên cạnh đó còn có hàng trăm vận dụng AI và nhà cung cấp biện pháp tích hợp được xây dựng trên NVIDIA EGX để cung cấp các dịch vụ đặc thù theo ngành cho các doanh nghiệp trên toàn cầu.

Các doanh nghiệp vận hành nền tảng AI cần phải bảo vệ không chỉ dữ liệu khách hàng, mặc cả các AI model giúp chuyển đổi dữ liệu thành hành động. Bằng cách kết hợp NVIDIA Mellanox SmartNIC, tiêu chuẩn công nghiệp để kết nối mạng hiệu suất cao, an toàn, với bộ xử lý AI thành NVIDIA EGX A100, một bộ xử lý tăng tốc tụ họp phối hợp, NVIDIA cho biết họ sẽ giới thiệu những cải tiến mới cơ bản cho AI ở ngoài rìa.

Tăng cường bảo mật và hiệu suất

khởi động an toàn, được xác thực cho GPU và SmartNIC từ “root-of-trust” ở mức hardware bảo đảm firmware và vòng đời của thiết bị được quản lý an toàn. Công nghệ Tensor Core thế hệ thứ ba trong kiến trúc NVIDIA Ampere mang lại hiệu suất AI đầu ngành. Cụ thể với EGX A100, phương tiện bảo mật GPU mới giúp nạp vào các mô hình AI được mã hóa và mã hóa tất cả các đầu ra từ AI, ngăn chặn các mối ăn hiếp dọa về móc túi dữ liệu.

Khi điện toán biên dần xuất hiện các cảm biến có độ phân giải cao được mã hóa, SmartNIC hỗ trợ inline cryptographic acceleration ở tốc độ đường truyền. Điều này cho phép các nguồn cấp dữ liệu được mã hóa được giải mã và gửi trực tiếp vào bộ nhớ GPU, bỏ qua bộ nhớ CPU và hệ thống.

Các cạnh cũng đòi hỏi một mức độ bảo mật cao hơn để bảo vệ chống lại các mối bắt nạt dọa từ các thiết bị khác trên mạng. Với khả năng giảm chuyển vận cho tường lửa có thể cấu hình lại linh hoạt trong phần cứng, SmartNIC cung cấp hiệu quả tuyến phòng ngự đầu tiên cho đám mây lai, đảm bảo kết nối mạng lưới dịch vụ an toàn.

Công nghệ di chuyển được kích hoạt theo thời kì của NVIDIA Mellanox cho các telco (5T cho 5G) bảo đảm các giải pháp thương mại có thể đáp ứng các trường hợp sử dụng nhạy cảm nhất với thời gian cho 5G vRAN với NVIDIA Aerial SDK. Điều này sẽ dẫn đến một làn sóng mới của CloudRAN trong ngành viễn thông.

Với GPU NVIDIA Ampere và Mellanox ConnectX-6 D trên một sản phẩm tập trung, EGX A100 mang đến khả năng xử lý gói thông lượng cao, độ trễ thấp cho bảo mật và chức năng mạng ảo.

>>> Xem thêm: Giá r550 dell
 
×
Top