Amazon giới thiệu chip Trainium3 mới cung cấp hiệu suất AI gấp 4 lần

Amazon Web Services (AWS) đã ra mắt chip đào tạo AI mới nhất của mình, Trainium3, mang lại hiệu suất và bộ nhớ gấp hơn bốn lần so với phiên bản trước đó, Trainium2, cho cả các tác vụ đào tạo và suy luận AI. Chip mới được tích hợp trong hệ thống Trainium3 UltraServer, mỗi máy chủ chứa 144 chip Trainium3, và AWS cho phép khách hàng kết nối hàng nghìn máy chủ này—mở rộng lên đến một triệu chip cho mỗi triển khai, tăng gấp mười lần so với thế hệ trước. Hệ thống Trainium3 cũng được thiết kế để tiết kiệm năng lượng hơn, tiêu thụ ít hơn khoảng 40% điện năng trong khi cung cấp thông lượng tính toán cao hơn, giúp giảm áp lực hạ tầng và chi phí vận hành AI trong bối cảnh nhu cầu trung tâm dữ liệu đang mở rộng nhanh chóng. Những người dùng đầu tiên như Anthropic và Karakuri đã báo cáo hiệu suất suy luận cải thiện, chu kỳ lặp nhanh hơn và chi phí tính toán thấp hơn. Nhìn về tương lai, AWS đã giới thiệu trước bộ xử lý thế hệ tiếp theo, Trainium4, sẽ hỗ trợ NVLink Fusion của NVIDIA, một công nghệ kết nối tốc độ cao cho phép tính toán AI liên kết chặt chẽ.