Máy Chủ AI NVIDIA DGX H200
Trí tuệ nhân tạo đã trở thành phương pháp tiếp cận để giải quyết những thách thức kinh doanh khó khăn. Cho dù là cải thiện dịch vụ khách hàng, tối ưu hóa chuỗi cung ứng, trích xuất thông tin kinh doanh,
hay thiết kế các sản phẩm và dịch vụ tiên tiến với AI tạo sinh và các mô hình chuyển đổi khác, AI cung cấp cho các tổ chức trong gần như mọi ngành cơ chế để hiện thực hóa sự đổi mới. Và là công ty tiên phong trong cơ sở hạ tầng AI, NVIDIA DGX™ cung cấp nền tảng AI mạnh mẽ và hoàn thiện nhất để đưa những ý tưởng thiết yếu này thành hiện thực.
NVIDIA DGX H200 thúc đẩy sự đổi mới và tối ưu hóa kinh doanh. Là một phần của nền tảng DGX huyền thoại của NVIDIA và là nền tảng của NVIDIA DGX SuperPOD™ và DGX BasePOD™, DGX H200 là
một cỗ máy AI mạnh mẽ có GPU NVIDIA H200 Tensor Core mang tính đột phá. Hệ thống này được thiết kế để tối đa hóa thông lượng AI, cung cấp cho các doanh nghiệp một nền tảng được tinh chỉnh cao,
có hệ thống và có khả năng mở rộng để giúp họ đạt được những đột phá trong xử lý ngôn ngữ tự nhiên, hệ thống đề xuất, phân tích dữ liệu và nhiều hơn nữa. Có sẵn tại cơ sở và thông qua nhiều tùy chọn truy cập và triển khai, DGX H200 cung cấp hiệu suất cần thiết để các doanh nghiệp giải quyết những thách thức lớn nhất với AI.
Thông Số Kỹ Thuật Máy Chủ Trí Tuệ Nhân Tạo NVIDIA DGX H200
GPU | 8x NVIDIA H200 Tensor Core GPUs |
GPU Memory | 1,128GB total |
Performance | 32petaFLOPS FP8 |
NVIDIA NVSwitch | 4x |
System Power Usage | ~10.2kW max |
CPU | Dual Intel® Xeon® Platinum 8480C Processors 112 cores total, 2.00GHz (Base), 3.80GHz (max boost) |
System Memory | 2TB |
Networking | 4x OSFP ports serving 8x single-port NVIDIA ConnectX-7 VPI Up to 400Gb/s NVIDIA InfiniBand/Ethernet |
Management Network | 10Gb/s onboard NIC with RJ45 100Gb/s Ethernet optional NIC Host baseboard management controller (BMC) with RJ45 |
Storage | OS: 2x 1.9TB NVMe M.2 Internal storage: 8x 3.84TB NVMe U.2 |
Software | NVIDIA AI Enterprise – Optimized AI software NVIDIA Base Command – Orchestration, scheduling, and cluster management NVIDIA DGX OS / Ubuntu / Red Hat Enterprise Linux / Rocky – Operating system |
System Weight | 287.6lb (130.45kgs) |
System Dimensions | Height: 14.0in (356mm) Width: 19.0in (482.2mm) Length: 35.3in (897.1mm) |
Operating Temperature | 5–30°C (41–86°F) |
Thông số kỹ thuật chi tiết xem Máy Chủ AI NVIDIA DGX H200 tại đây
Nền tảng của Trung tâm AI Xuất sắc của bạn AI đã thu hẹp khoảng cách giữa khoa học và kinh doanh. Không còn là lĩnh vực thử nghiệm, AI được các công ty lớn nhỏ sử dụng hàng ngày để thúc đẩy sự đổi mới và tối ưu hóa hoạt động kinh doanh của họ. Là một phần của danh mục cơ sở hạ tầng AI được xây dựng có mục đích đầu tiên trên thế giới, DGX H200 được thiết kế để trở thành trung tâm của một trung tâm AI xuất sắc của doanh nghiệp. Đây là một nền tảng phần cứng và phần mềm được tối ưu hóa hoàn toàn, bao gồm NVIDIA Enterprise Support cho phạm vi giải pháp phần mềm AI mới của NVIDIA, một hệ sinh thái phong phú của các bên thứ ba hỗ trợ và quyền truy cập vào lời khuyên chuyên môn từ các chuyên gia của NVIDIA, cho phép các tổ chức giải quyết các vấn đề kinh doanh lớn nhất và phức tạp nhất bằng AI.
DGX H200 cung cấp độ tin cậy đã được chứng minh, với nền tảng DGX được hàng nghìn khách hàng trên toàn thế giới sử dụng, trải rộng gần như mọi ngành.
Phá vỡ rào cản để AI ở quy mô lớn NVIDIA DGX H200 phá vỡ giới hạn về quy mô và hiệu suất AI.
Nó cung cấp 32 petaFLOPS hiệu suất AI, mạng nhanh hơn 2X so với DGX A100 với card giao diện mạng thông minh NVIDIA ConnectX®-7 (SmartNIC) và khả năng mở rộng tốc độ cao cho NVIDIA DGX
SuperPOD và DGX BasePOD. DGX H200 được tăng cường với.
Bộ nhớ GPU 1.128GB cho các công việc đào tạo và suy luận AI lớn nhất, phức tạp nhất, chẳng hạn như AI tạo sinh, xử lý ngôn ngữ tự nhiên và mô hình đề xuất học sâu.
Được hỗ trợ bởi NVIDIA Base Command
NVIDIA Base Command cung cấp năng lượng cho nền tảng DGX, cho phép các tổ chức tận dụng tối đa những cải tiến phần mềm NVIDIA. Các doanh nghiệp có thể giải phóng toàn bộ tiềm năng của cơ sở hạ tầng DGX của mình bằng một nền tảng đã được chứng minh bao gồm quản lý cụm và phối hợp cấp doanh nghiệp, các thư viện tăng tốc cơ sở hạ tầng tính toán, lưu trữ và mạng, và một hệ điều hành được tối ưu hóa cho khối lượng công việc AI.
Ngoài ra, cơ sở hạ tầng DGX bao gồm NVIDIA AI Enterprise, cung cấp một bộ phần mềm được tối ưu hóa để hợp lý hóa quá trình phát triển và triển khai AI.
Cơ sở hạ tầng đẳng cấp lãnh đạo theo điều kiện của bạn
AI dành cho doanh nghiệp không chỉ là về hiệu suất và khả năng. Nó còn là về việc phù hợp hoàn hảo với môi trường và hoạt động CNTT của tổ chức. DGX H200 có thể được cài đặt tại cơ sở để quản lý trực tiếp, được đặt cùng với các Trung tâm dữ liệu NVIDIA DGX-Ready và được truy cập thông qua các nhà cung cấp dịch vụ được quản lý được NVIDIA chứng nhận.
Và với chương trình Quản lý vòng đời DGX-Ready, các tổ chức có được một mô hình tài chính có thể dự đoán được để duy trì việc triển khai của họ ở vị trí tiên phong. Điều này giúp DGX H200 dễ sử dụng và dễ mua như cơ sở hạ tầng CNTT truyền thống, không gây thêm gánh nặng cho đội ngũ CNTT bận rộn—cho phép các tổ chức tận dụng AI cho doanh nghiệp của họ ngay hôm nay thay vì phải chờ đến ngày mai.
Reviews
There are no reviews yet.