Microsoft ra mắt chip AI Maia 200 hứa hẹn hiệu suất suy luận gấp 3 lần

Microsoft đã ra mắt Maia 200, chip AI thế hệ thứ hai được thiết kế đặc biệt để tối ưu hóa các khối lượng công việc suy luận — quá trình liên tục phục vụ các phản hồi AI — nhằm giải quyết chi phí ngày càng tăng khi vận hành các mô hình AI lớn ở quy mô lớn. Dựa trên Maia 100 được giới thiệu vào năm 2023, Maia 200 tăng cường hiệu suất đáng kể, với hơn 100 tỷ bóng bán dẫn và cung cấp hơn 10 petaflop tính toán ở độ chính xác 4-bit (khoảng 5 petaflop ở 8-bit). Chip tập trung vào tốc độ, sự ổn định và hiệu quả năng lượng, tích hợp một lượng lớn bộ nhớ SRAM nhanh để giảm độ trễ trong các truy vấn lặp lại, điều này rất quan trọng để xử lý các đợt tăng đột biến lưu lượng người dùng trong các dịch vụ AI như chatbot và trợ lý đồng hành. Microsoft đã triển khai Maia 200 tại các trung tâm dữ liệu ở Iowa, với kế hoạch triển khai thêm tại Arizona. Về chiến lược, Maia 200 đại diện cho nỗ lực của Microsoft nhằm giảm sự phụ thuộc vào NVIDIA, nhà dẫn đầu trong phần cứng AI, bằng cách cung cấp hiệu suất cạnh tranh và một hệ sinh thái thay thế. Microsoft tuyên bố Maia