Những chiếc xe tự lái sẽ học cách đưa ra lựa chọn sinh tử như thế nào?
Bởi Brett Berk. Wall Street Journal. Ngày 28 tháng 8 năm 2024.
Các nhà sản xuất ô tô đang vật lộn với những tình huống khó xử mà AI sẽ phải đối mặt trên đường phố.
Sự thận trọng trên đường đi của AI sẽ trông như thế nào?
Trí tuệ nhân tạo sẽ giữ ảnh hưởng trên đường đi của chúng ta khi chúng ta tiến gần hơn đến những chiếc xe tự lái hoàn toàn - một sự thay đổi mà nhiều nhà sản xuất ô tô cho biết sẽ giúp lái xe an toàn hơn.
David Margines, giám đốc quản lý sản phẩm tại Waymo, công ty con tự lái của Alphabet, cho biết việc giao AI phụ trách loại trừ nhiều yếu tố gây ra tai nạn, chẳng hạn như chạy quá tốc độ, kiệt sức, mất tập trung và say xỉn - ngăn ngừa các vấn đề trước khi chúng xảy ra.
Những người khác nhìn thấy những cân nhắc khác nhau. "Kỳ vọng đối với các phương tiện tự trị cao hơn nhiều so với các cá nhân," Melissa Cefkin, một nhà nhân chủng học và giảng viên tại khoa kỹ thuật tổng hợp tại Đại học Santa Clara, người đã làm việc với Nissan và Waymo về sự tương tác giữa con người và xe tự trị. "Khi một cá nhân gặp sự cố, chúng ta có thể nói, 'Họ chỉ là con người. Họ đã cố gắng hết sức. Đó là một tai nạn", cô nói. " Chúng tôi sẽ không tha thứ cho một công ty, và có lẽ chúng tôi không nên như vậy."
Dưới đây là một số câu hỏi hàng đầu mà các kỹ sư, lập trình viên và nhà đạo đức sinh học đang vật lộn khi thế giới xe do AI điều khiển đang đến gần.
Nhìn thấy con người
Để tránh đâm vào người đi bộ, các phương tiện tự trị sử dụng một loạt các tính năng hỗ trợ AI: nhận thức, phân loại, dự đoán, lập kế hoạch đường đi. Nhưng nó vẫn có thể là một thách thức để phân biệt giữa con người và robot giao hàng hình người, ma-nơ-canh bán lẻ hoặc thậm chí quảng cáo trên đường phố có hình ảnh của con người.
Dữ liệu đào tạo thiên vị và sự thiên vị trong cách camera điện tử "nhìn thấy" cũng khiến một số hệ thống AI ít phát hiện người đi bộ da sẫm màu một cách đáng tin cậy, Peter Singer, giáo sư danh dự về đạo đức sinh học tại Trung tâm Giá trị Con người của Đại học Princeton cho biết.
Hệ thống xe với xe (V2V) và xe với cơ sở hạ tầng (V2I) sẽ cho phép các phương tiện tự trị giao tiếp với nhau và với đèn giao thông và camera.
Một số người cũng hình dung ra sự phát triển của truyền thông giữa xe với người đi bộ (V2P). Ví dụ, ping phát sóng của điện thoại di động có thể báo hiệu sự hiện diện của con người đối với AI của một chiếc xe tự trị, Sam Abuelsamid, nhà phân tích di động chính tại công ty nghiên cứu giao thông vận tải Guidehouse Insights cho biết. Nhưng điều này mang lại những lo ngại tiềm ẩn về quyền riêng tư và tự do cá nhân — và một bất lợi cho những người không có điện thoại. Có lương tâm không khi mong đợi ai đó có điện thoại di động để bảo vệ sự an toàn của chính họ?
Bản thân các phương tiện tự lái có thể biểu cảm hơn - sử dụng mũi tên, đèn hoặc văn bản để truyền đạt những gì họ đang nhìn thấy và những quyết định họ đang đưa ra, Cefkin, nhà nhân chủng học gợi ý. "Mọi người nhận ra rằng có nhiều con đường hai chiều ở đây, bởi vì một chiếc xe bây giờ sẽ cho họ biết điều gì đó nhiều hơn."
Giá trị động vật
Trong một vụ va chạm, nai sừng tấm và hươu gây ra rủi ro hiện hữu cho các phương tiện và người ngồi trong xe. Các động vật nhỏ hơn như nhím, hoặc mèo và chó, ít có nguy cơ hơn. Có thể chấp nhận được về mặt đạo đức khi AI cân nhắc cuộc sống của những con vật này khác nhau không?
Đối với động vật lớn, Waymo ưu tiên "giảm khả năng gây thương tích" cho con người, thông qua các thao tác tránh, Margines nói. Khi nói đến động vật nhỏ, chẳng hạn như sóc chuột và chim, AI của Waymo "nhận ra rằng phanh hoặc thực hiện hành động né tránh đối với một số loại vật thể lạ có thể gây nguy hiểm", ông nói.
Phương trình có thể khác nhau như thế nào đối với động vật cỡ trung bình như nhím hoặc cáo? Hoặc đối với động vật có thể là vật nuôi?
Singer, nhà đạo đức sinh học, nói rằng mục tiêu nên là "giảm thiểu tác hại gây ra" cho tất cả các loài động vật - con người và phi nhân loại. Ông lo