Tham dự Tech Lounge

Tham dự Tech Lounge


Uber xác nhận xe tự hành gây tai nạn chết người vì lỗi phần mềm

Tuannph
9/5/2018 7:36Phản hồi: 71
Uber xác nhận xe tự hành gây tai nạn chết người vì lỗi phần mềm
Vào tháng 3 vừa qua, một chiếc xe tự hành của Uber đã gây ra vụ tai nạn chết người tại bang Arizona, Hoa Kỳ. Sau đó toàn bộ các hoạt động thử nghiệm xe tự lái của Uber đã bị tạm ngưng. Mới đây họ đã công bố kết quả điều tra củ vụ việc, theo đó nguyên nhân do phần mềm xử lý khi hệ thống đã quyết định mặc kệ vật cản trên đường di chuyển thay vì dừng lại. Mình có tìm được link video quay lại bên trong và bên ngoài của vụ tai nạn tại đây, anh em có thể cân nhắc xem nếu muốn.

Theo phát ngôn từ phía Uber, phần mềm kiểm soát của các mẫu xe tự hành thử nghiệm được cài đặt để tự phát hiện vật cản và tính toán lộ trình di chuyển. Trong khi đó với chiếc Volvo XC90 trong vụ tai nạn thì chương trình dường như đã được lập trình khác đi. Vậy nên dù các cảm biến LIDAR đã phát hiện ra cô Elaine Herzberg đang băng qua đường nhưng xe đã không dừng lại. Tại thời điểm đó, vẫn có người ngồi sau vô-lăng nhưng họ đã không kịp can thiệp. Nguyên nhân sâu xa hơn vẫn sẽ tiếp tục được điều tra với sự tham gia của Uber và Ủy ban An toàn Giao thông Quốc gia (NTSB).

Tham khảo: The Information
71 bình luận
Chia sẻ

Xu hướng

hiepps
TÍCH CỰC
6 năm
Giao tính mạng cho 1 cái máy bị lỗi 😔
@hiepps Con người còn có thể lỗi nữa mà. Đang trong giai đoạn phát triển thôi. Sau này hoàn thiện thì tỉ lệ lỗi chắc chắn thấp hơn con người rất nhiều.
VISY
ĐẠI BÀNG
6 năm
@hiepps Không hoàn toàn là lỗi, chỉ bởi nó đã không nhận ra được điểm nào cần chú ý. Cái máy có thể đã chú ý và đo đạc mấy điểm dễ nhận biết hơn như ánh đèn phía xa. Người dắt xe đạp không hề mặc áo có dải phản quang và ở trong vùng tối.
hiepps
TÍCH CỰC
6 năm
@vietnew2128 Mình thích tự mình lái hơn, chết thì do số rồi ;)
duyvankm
TÍCH CỰC
6 năm
@hiepps Còn hơn giao tính mạng cho mấy thằng không não như ở VN mình
hacrot3000
TÍCH CỰC
6 năm
@hiepps Chỉ là để khắc phục sự cố phần mềm thôi. Còn về mặt xử lý hình sự thì người đi bộ (đã chết) chịu trách nhiệm cho vụ này do qua đường sai luật. Do người đó đã chết nên không có ai bị truy tố trong vụ này cả.

Bên Uber muốn là nếu con người có sai thì vẫn cố gắng cứu họ nếu có thể, chứ không phải vì họ sai thì cứ tông chết đi do không phải chịu trách nhiệm.

Trước đây có một bài về việc tương tự: phần mềm sẽ quyết định ưu tiên cứu người trên xe hay người đi đường, trong đó:
  1. Giả định đang di chuyển tốc độ cao thì có người băng qua sai luật.
  2. Do tốc độ cao nên nếu đâm vào người đi đường sẽ chết.
  3. Nếu phanh gấp và đánh lái tránh thì xe sẽ lật làm người trên xe chết.
  4. Vậy phần mềm cần phải quyết định xem ai chết???
  5. Trong trường hợp này mình nghĩ là phần mềm đã quyết định: ai sai luật thì cho chết nên đã tông thẳng vào người qua đường.
Lỗi anh đánh máy ... rút kinh nghiệm sâu sắc.. sẽ rà soát lại quy trình và giám sát chặt chẽ để không xảy ra những vấn đề nghiêm trọng như trên.. Thân!
@ONE NO! thằng dev nó cũng "typing" còn gì 😁
hacrot3000
TÍCH CỰC
6 năm
@Bão Sài Gòn Quyết định của cảnh sát Mỹ là lỗi thuôc về người phụ nữ bị tông.
Còn theo quan điểm của mình (nếu mình là người lái và thấy người phụ nữ kia) mình cũng tông thẳng vào để bảo vệ bản thân. Không thể nào vì một người sang đường sai luật để phanh gấp hay đánh lái ở tốc độ cao cả, như vậy tai nạn sẽ xảy ra cho mình và chiếc xe. Tự dưng mình lại lãnh hậu quả do cái sai của người khác. Hơn nữa hầu như khả năng yêu cầu người phụ nữ bồi thường cho mình là rất thấp. Còn nếu tông vào người ta thì sẽ không ai phải bồi thường cho ai cả. Cùng lắm là mất ít tiền phúng điếu thôi.
@hacrot3000 Bạn thật là mất nhân tính! Hy vọng người như bạn không có cơ hội lái xe.
hacrot3000
TÍCH CỰC
6 năm
@misamainguyen Vậy chứ giờ bạn muốn sao? Muốn xe lật và người trên xe chết???

Mình luôn tuân thủ luật giao thông nên cực kỳ ghét những kẻ không tuân thủ rồi gây ra tai nạn cho người khác. Đặc biệt ghét những kẻ không đã chạy sai rồi ra đường đụng người ta còn ỷ mạnh lớn tiếng mà không biết phải trái là gì. Nhiều khi cũng muốn những kẻ đó bị xe đâm cho chết quách đi để những người tốt khác không bị vạ lây. Kể thì cũng hơi mất nhân tính một xíu nhưng vì một xã hội tốt đẹp hơn thì cũng nên hi sinh bớt mấy mạng ghẻ.
Chết người tội hình sự. Cố ý làm chết người còn nặng hơn. Giờ ai ra toà, ai đi tù?
@If you dont mind Cái xe ra tòa, cái xe đi tù. Ở mấy nước luật pháp nghiêm minh họ sẽ tống kẻ gây tai nạn vào tù. Mà cái xe thì không thể chạy chọt hối lộ để thoát tội được rồi.
hacrot3000
TÍCH CỰC
6 năm
@If you dont mind Nên đọc kỹ bạn, người sai ở đây là người đi bộ và người ấy đã chết.
Hình như đây là vụ chết ng do xe tự hành gây ra lần đầu thì phải. Ko có gì to tát, để phát triển thì cái giá như vậy còn quá ít. Ở những lĩnh vực khác, để đạt đc thành tựu lớn, số ng chết còn lớn hơn nhiêù kìa.
Anthropology
ĐẠI BÀNG
6 năm
@hacrot3000 Bạn chưa bao giờ và sẽ ko bao giờ đi sai luật?
hacrot3000
TÍCH CỰC
6 năm
@Anthropology Cách đây 20 năm có một lần. Do lần đó đi thi khi tới phòng thi thì phát hiện quên thẻ sinh viên nên phải mượn xe của bạn chạy về nhà lấy. Lúc đó vi phạm 2 lỗi: chạy quá tốc độ và lấn làn, tốc độ cao nhất đạt hơn 90km/h trong thành phố.

Ngoài ra thì chưa, kể cả khi chạy trong hẻm vẫn xi-nhan đàng hoàng.

Về tai nạn, thử tưởng tượng phía trước tay lái là một sinh mạng, phía sau tay lái là gần 20 sinh mạng. Lựa chọn là đánh lái tốc độ cao hay rà nhẹ phanh để giảm dần tốc độ? Có những chuyện không ai muốn nhưng vẫn phải đánh đổi.
Trong trường hợp này, rất có thể người ta đã đưa ra những thông số giới hạn về việc phanh và đánh lái tuỳ tốc độ xe, nên dẫu có phát hiện ra vật cản (Uber khẳng định phần mềm có thấy) nhưng nó "quyết định" không dừng lại do nếu dừng hay đánh lái thì sẽ vượt quá những giới hạn đó và gây nguy hiểm cho xe cũng như người trong xe. Tinh tế đã có một bài nói về thử thách này cho xe tự lái: https://tinhte.vn/threads/xe-tu-lai-se-lua-chon-nhu-the-nao-hy-sinh-hanh-khach-de-cuu-nguoi-di-duong-hay-nguoc-lai.2521970/
Anthropology
ĐẠI BÀNG
6 năm
@hacrot3000 B đang muốn chứng minh điều gì vậy
hacrot3000
TÍCH CỰC
6 năm
@Anthropology Vì phép lịch sự, bạn hỏi thì tôi trả lời thôi.

upload_2018-5-12_13-17-45.png
VISY
ĐẠI BÀNG
6 năm
Với cách băng qua đường như thế thì người mắt tốt lái xe cũng chịu thua.
@VISY Mắt người có giới hạn mà bạn, xe chắc chắn có cảm biến để nhìn đêm, nếu xe hoạt động tốt thì chắc không có tai nạn đó. Nếu là xe bình thường chắc tài xế cũng không thể xử lý nổi nhưng có thể họ vô tội.
VISY
ĐẠI BÀNG
6 năm
@heobanhki Thì camera cũng có giới hạn của nó. Mắt người có giới hạn nhưng não lại có khả năng phán đoán, theo lẽ tự nhiên, lái xe qua những đoạn như thế con người sẽ giảm tốc độ và nhìn rộng ra hai bên đường.
tethien
CAO CẤP
6 năm
@VISY Bạn nhầm. Cái xe tự lái này có gắn LIDAR. Có thể "nhìn" xuyên đêm, bụi, mưa.. .
Nó "nhìn" thấy người đi bộ đó, nhưng do lập trình lỗi nên nó bỏ qua.
Thomas6688
TÍCH CỰC
6 năm
@VISY Xc90 nó cảm biến khắp xe để làm tốt việc phát hiện vật cản
tmn123
CAO CẤP
6 năm
@VISY Lái xe đi qua đoạn tối không nhìn rõ thì con người thường là thận trọng đi chậm lại hoàn toàn có thể tránh tai nạn (con người hơn máy móc ở chỗ phán đoán ra quyết định mặc dù không cần dữ liệu đầu vào - còn gọi là linh cảm, cảm giác ...).
Còn máy móc mà không có dữ liệu đầu vào hoặc quá ít hoặc lập trình sai hoặc thiếu ... => thì nó cứ vận hành như không có gì xảy ra.
Ở đây cái xe vẫn có thể "nhìn" được người đi bộ vì nó có cả đống cảm biến nhưng vì người đó đi sai (có thể do lỗi lập trình hoặc phần cứng) nên nó cứ tông vì nó "đúng luật". Nếu là người lái chắc chắn đạp phanh từ khi nhìn thấy cái chân người đi bộ, và hậu quả có khi không đến mức phải chết.
Hãy xem video những vụ người lái xe có thể đi thẳng tông chết người sai luật nhưng họ không làm thế, đôi khi họ chọn phần thiệt về mình -> thứ mà máy móc chưa thể có trong thời đại này.
Đằng sau 1 thành tựu gì đó lớn lao là 1 sự hy sinh 😔 (Hy sinh thầm lặng cũng nhiều lắm nha các bác) ko lại ném đá em 😁
@Naruto_Xboy Thâm quá.. :D
Gnoc 9
TÍCH CỰC
6 năm
Xem video thấy case đó người lái cũng không dừng được, đường tối thui. Vậy nên là bình thường
tethien
CAO CẤP
6 năm
@robot9xvt Không bình thường vì xe tự hành có LIDAR. Ban đêm là chuyện nhỏ với nó.
Do phần mềm lỗi thôi.
tmn123
CAO CẤP
6 năm
@robot9xvt Ít ra thì cũng có phanh, với phanh tốt có khi chỉ bị văng ra 1 đoạn thôi. Cái xe nó giữ nguyên tốc độ nên mới chết. Nên nhớ không dừng được nhưng có phanh giảm tốc độ thì hậu quả nhẹ hơn rất nhiều.
Gnoc 9
TÍCH CỰC
6 năm
@tmn123 vấn đề người lái thì phanh không kịp => coi như không phanh
tmn123
CAO CẤP
6 năm
@robot9xvt Bà kia đang xem điện thoại không nhìn đường chả có gì xác nhận là phanh không kịp cả.
Đừng lôi cái cớ đó ra, có thể bạn không phanh kịp nhưng người khác thì chưa chắc
Thường khi đi vào vùng tối sẽ đá pha để nhìn xa hơn và xử lý kịp còn cái xe này thì hoàn toàn không vì nó mặc định các cảm biến là đã đủ nên tầm nhìn quá ngắn.
Không thể thay thế con người
tethien
CAO CẤP
6 năm
@ThietKeWebChuyen-Com Xe tự lái tông xong nó phanh lại.
Người tông xong nó đạp ga chạy trốn ==> tông thêm nhiều người khác. 😔
hacrot3000
TÍCH CỰC
6 năm
@onglaodanhca_hn Nếu là con người trong vụ này thì hậu quả còn thảm khốc hơn nhiều do xe đang chạy tốc độ cao mà phanh hay đánh lái thì nguy cơ tai nạn rất lớn.
Rất có thể vì vậy mà phần mềm quyết định tông chết người kia, lý do là người đó sang đường sai luật, tông chết không phải chịu trách nhiệm, nhưng nếu đánh lái dẫn tới lật xe hay tông phải xe khác thì từ đúng thành sai và phải chịu trách nhiệm.
Máy khác con người ở chỗ đó, nó luôn tính sao cho hậu quả thấp nhất (ở đây là hậu quả bằng không, ai đáng chết sẽ phải chết, ai đúng sẽ được sống) chứ không phải theo hướng có tình nhất.
tmn123
CAO CẤP
6 năm
@hacrot3000 Uh hay quá, sang đường sai luật là tử hình luôn cho thế giới này nó sạch.
hacrot3000
TÍCH CỰC
6 năm
@tmn123 Tử hình thì hơi quá, nếu được thì cũng hay.
Nhưng về mặt logic thì khi bắt buộc lựa chọn giữa người đi đúng phải chết hoặc người đi sai phải chết thì chắc chắn lựa chọn người đi sai phải chết sẽ hợp hơn. Còn nếu lựa chọn người đi đúng chết thì có vẻ vô nhân đạo quá. Máy móc đã làm theo logic trong tình huống này.
suktqs
ĐẠI BÀNG
6 năm
Đường tối thui k có đèn, hình như xe không bật pha, chắc phải có cảm biến hồng ngoại xa khoảng 50m thì mới phát hiện được có người di chuyển.
tmn123
CAO CẤP
6 năm
@suktqs Chuẩn đấy, đi qua đoạn tối thỉnh thoảng phải nhá pha để quan sát được xa hơn, cái xe này cậy có cảm biến nên giữ đèn chiếu gần suốt.
Mình có đọc 1 bài báo viết là chiếc volvo đã nhận ra người đi xe đạp qua đường tuy nhiên vì một lý do nào đó mà chiếc xe hay chính xác hơn là phần mềm của xe đã quyết định không dừng lại vì cho đó là không cần thiết. Sau khi kiểm tra sơ bộ thì một số chi tiết đã bị cắt bớt
AmbitiousGay
ĐẠI BÀNG
6 năm
Mình nghĩ có thể nó tính toán và thấy rằng với vận tốc di chuyển đó của vật cản thì khi car vừa tới thì vật cản vừa qua khỏi. Tuy nhiên do nó assume với khoảng cách dự phòng quá ngắn + với việc người qua đường khi thấy car sẽ lập tức phản xạ bằng việc giảm tốc độ dẫn tới khả năng va chạm rất cao.
chuvit
ĐẠI BÀNG
6 năm
sau này ra đường phải chú ý xem xe đi trên đường có người lái k nhé 😆
giapnv272
TÍCH CỰC
6 năm
@chuvit Đang chạy trên đường tối thui mà lại có bà cụ liều mạng chạy cắt qua đầu oto như thế thì có người lái kết quả cũng thế thôi, nếu bà ấy khôn thì phải đợi oto đi qua hẵng sang đường. Xe có người lái nhưng vẫn tai nạn giao thông đâm chết người vẫn diễn ra hàng ngày đó thôi.
Có người ngồi sau tay lái còn xử lý không kịp - vậy thì trường hợp này ngay cả người cũng dính đòn thôi.
ông ngồi trong xe đang nhìn điện thoại hay cái gì đó nên ko phản ứng kịp
Hẳn là do lỗi phần mềm rồi, cứ đổ lỗi cho 1 thứ vô tri là an toàn nhất.
Đưa phần mềm ra vận hành thử rồi đưa mạng con người là chuột bạch 😔 dã man
Theo mình thì lỗi hoàn toàn do người đi bộ. Phần mềm lái xe có " tầm nhìn" và tốc độ xử lý nhanh hơn con người nhiều nhưng trong tình huống này cũng ko xử lý đc. Tóm lại là nạn nhân đã giúp phát hiện 1 lỗ hổng trong phần mềm tự lái của Uber.
jimmyctho
TÍCH CỰC
6 năm
Giao trách nhiệm lái xe cho 2 chiếc máy vào ban đêm với tốc độ như thế là 1 tội ác!
Dù có thế nào 1 phần mềm máy tính cũng ko thể bằng con người đang lái xe. Chưa kể khi phần mềm bị virut hoặc bất kì những trục trặc nào khác. Xe tự hành vẫn còn rất xa vời khi chưa khắc phục 100% các sai sót.
Nếu nó ko phải là ng phụ nữ mà là 1 cục đá to chắc nó cũng đã băng qua luôn r
phieudu0711
ĐẠI BÀNG
6 năm
@jimmyctho Khắc phục 100% sai sót😔, không có thử nghiệm thì có biết sai sót để mà khắc phục không?
jimmyctho
TÍCH CỰC
6 năm
@phieudu0711 Cái này là tính mạng cả ng đi đường và người trong xe. Chứ k phải như 1 món đồ công nghệ thông thường. Cái gì đã đạt hoàng hao r hả đứa ra.
phieudu0711
ĐẠI BÀNG
6 năm
@jimmyctho Trước khi đưa ra đường chạy, người ta đã chạy mô phỏng nhiều lần để hạn chế tối đa sai sót rồi nhé, không có gì gọi là hoàn hảo cả, phải có tỉ lệ rủi ro trong đó, như một viên thuốc trước khi đưa ra thị trường thì người ta củng thử nghiệm rất nhiều lần trên động vật, sau đó củng phải thử nghiệm trên một nhóm người tự nguyện rồi mới đưa ra thị trường mà vẫn có nhiều trường hợp bị phản ứng với loại thuốc đó thôi.
tmn123
CAO CẤP
6 năm
@Bá Hỷ Trên cái quả đất này 1 ngày có vài tỷ cuốc xe với quãng đường hàng chục tỷ km, trong 1 ngày xe tự hành được mấy cuốc mà đòi mang số lượng tai nạn ra so? (muốn so phải tính được tỷ lệ giữa 2 cái)

Xu hướng

Bài mới









  • Chịu trách nhiệm nội dung: Trần Mạnh Hiệp
  • © 2024 Công ty Cổ phần MXH Tinh Tế
  • Địa chỉ: Số 70 Bà Huyện Thanh Quan, P. Võ Thị Sáu, Quận 3, TPHCM
  • Số điện thoại: 02822460095
  • MST: 0313255119
  • Giấy phép thiết lập MXH số 11/GP-BTTTT, Ký ngày: 08/01/2019