Ô tô không nên để chatbot kiểm soát các hệ thống an toàn quan trọng - CleanTechnica

Bài viết từ CleanTechnica nhấn mạnh những nguy hiểm khi cho phép chatbot và trợ lý giọng nói AI kiểm soát các hệ thống an toàn quan trọng của xe. Nó kể lại một sự cố cụ thể liên quan đến chiếc Lynk & Co Z20, khi một lệnh thoại đơn giản của tài xế để tắt đèn đọc sách bị AI của xe hiểu nhầm, dẫn đến việc tắt toàn bộ đèn nội thất, bao gồm cả đèn pha, trên một con đường cao tốc tối tăm. Vì xe không có các điều khiển vật lý cho đèn pha—đã bị loại bỏ để ưu tiên giao diện tối giản dựa trên màn hình—tài xế không thể tự khôi phục ánh sáng, dẫn đến tai nạn. May mắn thay, không có thương vong xảy ra, nhưng sự cố này làm nổi bật những rủi ro khi trao quyền kiểm soát rộng rãi cho hệ thống AI đối với các chức năng thiết yếu của xe. Bài viết chỉ trích các nhà sản xuất ô tô vì coi mạng điều khiển nội bộ của xe (CAN bus) như một hệ thống mở, cho phép trợ lý giọng nói truy cập cấp quyền root đến các điều khiển phần cứng như đèn pha và cần gạt nước. Cách tiếp cận “Chúng tôi làm được nên làm” này bỏ qua bản chất không thể đoán trước của AI, vốn có thể hoạt động sai hoặc hiểu nhầm lệnh, gây ra các tình huống nguy hiểm. Nó lập luận rằng các nhà sản xuất ô tô...