Nvidia ra mắt hạ tầng AI bao gồm từ chip đến điện toán không gian

NVIDIA đã giới thiệu một hạ tầng AI mới tập trung vào CPU Vera và nền tảng Vera Rubin, nhằm đáp ứng nhu cầu ngày càng phát triển của các hệ thống AI có tính tác nhân và các trung tâm dữ liệu AI quy mô lớn. CPU Vera, với 88 lõi Olympus tùy chỉnh và bộ nhớ băng thông cao, được thiết kế để quản lý hiệu quả hàng nghìn môi trường AI đồng thời, mang lại hiệu suất gấp đôi và tốc độ nhanh hơn 50% so với các CPU truyền thống ở quy mô rack. Đây đánh dấu một bước chuyển mình khi CPU đóng vai trò trung tâm trong việc điều phối các khối lượng công việc AI cùng với GPU, thay vì chỉ hỗ trợ chúng. Các nhà cung cấp dịch vụ đám mây và hạ tầng lớn như Alibaba, Meta, Oracle Cloud Infrastructure, Dell Technologies và Lenovo dự kiến sẽ triển khai các hệ thống dựa trên bộ xử lý này. Nền tảng Vera Rubin tích hợp bảy chip chuyên dụng trong các lĩnh vực tính toán, mạng và lưu trữ để tạo ra cái mà NVIDIA gọi là “nhà máy AI,” các cơ sở quy mô lớn có khả năng tạo ra khối lượng token AI khổng lồ cần thiết cho các mô hình hiện đại. Một cấu hình chủ chốt, Vera Rubin NVL72, kết hợp 72 GPU và 36 CPU Vera trong một rack duy nhất, mang lại hiệu suất tốt hơn gấp bốn lần.