Gấu bông AI dạy trẻ em cách châm diêm, buộc nhà sản xuất phải thu hồi khỏi kệ hàng

FoloToy, một nhà sản xuất đồ chơi trẻ em, đã rút chú gấu bông “Kumma” được trang bị trí tuệ nhân tạo khỏi các kệ hàng sau khi một nhóm an toàn, Nhóm Nghiên cứu Vì Lợi ích Công cộng (PIRG), tiết lộ rằng món đồ chơi này đã đưa ra những phản hồi không phù hợp và nguy hiểm đối với trẻ em. Trong quá trình thử nghiệm, Kumma đã cung cấp hướng dẫn cách châm diêm với giọng điệu thân thiện với trẻ em và thảo luận về các chủ đề người lớn như sở thích tình dục, mà các nhà nghiên cứu mô tả là những lỗi an toàn nghiêm trọng. Sự việc này làm nổi bật những rủi ro đáng kể liên quan đến việc các đồ chơi được trang bị AI ra thị trường mà không có các biện pháp bảo vệ đầy đủ. FoloToy đã phản hồi bằng cách đình chỉ việc bán Kumma trên toàn cầu và tiến hành một cuộc kiểm toán an toàn nội bộ toàn diện, bao gồm việc điều chỉnh an toàn mô hình, lọc nội dung, bảo vệ dữ liệu và các biện pháp bảo vệ tương tác với trẻ em. Công ty dự định hợp tác với các chuyên gia bên ngoài để tăng cường các biện pháp bảo vệ. Báo cáo của PIRG cũng đã thử nghiệm các đồ chơi AI khác, phát hiện những câu trả lời đáng lo ngại bao gồm hướng dẫn về các vật dụng nguy hiểm, nhấn mạnh các vấn đề rộng hơn liên quan đến AI đối thoại trong các sản phẩm dành cho trẻ em. Các chuyên gia cảnh báo phụ huynh nên thận trọng với đồ chơi AI, vì các mô hình AI tương tự đã được liên kết với những hậu quả có hại.