Mỹ: Siêu máy tính AI nhỏ nhất thế giới có thể bỏ túi được ra mắt

Startup Mỹ Tiiny AI đã ra mắt Tiiny AI Pocket Lab, chính thức được Tổ chức Kỷ lục Guinness Thế giới công nhận là siêu máy tính AI cá nhân nhỏ nhất thế giới. Thiết bị kích thước bỏ túi này, trông giống như một pin dự phòng, có thể chạy các mô hình ngôn ngữ lớn (LLMs) với tối đa 120 tỷ tham số ngay tại chỗ mà không cần kết nối đám mây, máy chủ hay GPU cao cấp. Pocket Lab nhằm giảm sự phụ thuộc vào hạ tầng đám mây và GPU, giải quyết các vấn đề về bền vững, chi phí năng lượng tăng cao và rủi ro về quyền riêng tư liên quan đến AI dựa trên đám mây. Bằng cách cho phép các khả năng AI tiên tiến trên thiết bị cá nhân, Tiiny AI mong muốn làm cho AI trở nên dễ tiếp cận hơn, bảo mật hơn và tiết kiệm năng lượng hơn. Được thiết kế cho nhiều đối tượng người dùng bao gồm nhà sáng tạo, nhà phát triển, nhà nghiên cứu và sinh viên, Pocket Lab hỗ trợ các tác vụ AI phức tạp như suy luận đa bước, hiểu biết sâu sắc về ngữ cảnh và xử lý an toàn dữ liệu nhạy cảm—tất cả trong khi giữ dữ liệu được lưu trữ cục bộ với mã hóa cấp độ ngân hàng. Nó chạy các mô hình từ 10 tỷ đến 100 tỷ tham số, bao phủ hơn 80% các tác vụ AI trong thực tế,