NVIDIA Blackwell phá kỷ lục hiệu suất huấn luyện AI MLPerf

Kiến trúc Blackwell mới của NVIDIA tiếp tục khẳng định vị thế dẫn đầu trong lĩnh vực xử lý AI khi ghi nhận những kết quả rất ấn tượng tại bài kiểm tra MLPerf Training v5.0. Chip đồ họa thế hệ mới này cho thấy hiệu suất vượt trội so với tất cả đối thủ cạnh tranh.

Hệ thống DGX B200 của NVIDIA với tám GPU Blackwell. Ảnh: NVIDIA

Blackwell đạt hiệu suất gấp 2,2 lần thế hệ trước ở cùng quy mô trên bài kiểm tra Llama 3.1 405B pre-training. Hệ thống DGX B200 của NVIDIA với tám GPU Blackwell thậm chí còn ấn tượng hơn khi đạt hiệu suất gấp 2,5 lần so với hệ thống tương đương ở vòng kiểm tra trước trên benchmark Llama 2 70B LoRA fine-tuning.

Nền tảng AI của NVIDIA trở thành hệ thống duy nhất gửi kết quả cho tất cả các bài kiểm tra, chứng minh tính linh hoạt và khả năng dẫn đầu trên nhiều loại tác vụ AI khác nhau. Các ứng dụng trải dài từ mô hình ngôn ngữ lớn, hệ thống gợi ý đến nhận diện đối tượng và mạng neural đồ thị.

Foxconn xây siêu máy tính AI 10.000 GPU NVIDIA Blackwell tại Đài Loan

Hai siêu máy tính AI Tyche và Nyx được trang bị nền tảng Blackwell dẫn đầu các kết quả thử nghiệm. NVIDIA hợp tác với CoreWeave và IBM để gửi thêm kết quả sử dụng tổng cộng 2.496 GPU Blackwell và 1.248 CPU Grace.

Sự tham gia rộng rãi của các đối tác như ASUS, Cisco, Dell Technologies, Google Cloud, Hewlett Packard Enterprise, Lenovo, Oracle Cloud Infrastructure và Supermicro cho thấy việc chấp nhận rộng rãi nền tảng AI của NVIDIA trong toàn ngành.

Kiến trúc Blackwell được thiết kế để đáp ứng yêu cầu hiệu suất cao của các ứng dụng AI mới. Những tiến bộ công nghệ bao gồm hệ thống làm mát bằng chất lỏng mật độ cao, bộ nhớ coherent 13,4TB mỗi rack, công nghệ kết nối NVLink thế hệ thứ năm và mạng InfiniBand Quantum-2 cho việc mở rộng quy mô.

Phần mềm NeMo Framework và thư viện CUDA-X đóng vai trò then chốt trong việc tăng tốc huấn luyện và triển khai AI. Những đổi mới này tạo nền tảng cho các ứng dụng AI có khả năng suy luận và đưa ra quyết định độc lập.

NVIDIA đang làm việc với các công ty trên toàn thế giới để xây dựng các nhà máy AI, tăng tốc quá trình huấn luyện và triển khai các ứng dụng AI thế hệ tiếp theo. Những ứng dụng AI mới này được kỳ vọng sẽ thúc đẩy làn sóng đổi mới tiếp theo trong nhiều ngành công nghiệp từ tài chính, y tế đến sản xuất.

Nền tảng trung tâm dữ liệu của NVIDIA bao gồm GPU, CPU, cấu trúc tốc độ cao và mạng, cùng với nhiều phần mềm như thư viện CUDA-X, NeMo Framework, TensorRT-LLM và Dynamo. Sự kết hợp tinh chỉnh này giúp các tổ chức huấn luyện và triển khai mô hình nhanh chóng hơn, giảm thời gian tạo ra giá trị.

NVIDIA ra mắt mô hình GR00T N1 cho robot hình người NVIDIA vừa công bố mô hình nền tảng GR00T N1 dành cho robot hình người, cùng các công nghệ mới nhằm thúc đẩy sự phát ...

Google Cloud và NVIDIA hợp tác phát triển AI chủ động khắc phục sự cố CNTT Google Cloud và NVIDIA đã liên kết để mang công nghệ trí tuệ nhân tạo chủ động an toàn, hiệu suất cao đến các doanh ...

CEO Nvidia cảnh báo: Mỹ có thể mất thị trường Trung Quốc và thua trong cuộc đua AI Tổng Giám đốc Nvidia - Jensen Huang cảnh báo, các lệnh hạn chế xuất khẩu chip của Mỹ đang khiến hãng mất thị phần tại ...