Cho rằng việc tạo ra vũ khí tự hành có tính sát thương cao hoạt động dựa trên trí thông minh nhân tạo (AI) cũng giống như hồi xưa loài người phát minh ra thuốc súng hoặc vũ khí hạt nhân, người đứng đầu nhiều tổ chức, công ty công nghệ AI và robot, bao gồm cả Elon Musk và Mustafa Suleyman của đơn vị phát triển trí thông minh nhân tạo Google DeepMind đã cũng nhau ký vào một đơn thỉnh nguyện, yêu cầu Liên Hiệp Quốc cấm phát triển các loại “robot giết người”.
Trong văn bản, nhóm các chuyên gia đã thống nhất rằng: “Một khi được phát triển thành công, vũ khí tự hoạt động sẽ thúc đẩy những sự xung đột vũ trang với quy mô lớn chưa từng có và tốc độ diễn ra điều đó là nhanh hơn nhiều so với suy nghĩ của loài người. Đây có thể biến thành vũ khí cho khủng bố, những loại vũ khí mà bọn độc tài và khủng bố sẽ dùng để chống lại người dân vô tội, và là những loại vũ khí bị hack sẽ hành xử theo những cách cực kỳ dị thường, không ai chịu nổi.”
Đơn đề nghị này đã được ký bởi nhà sáng lập của 116 công ty phát triển AI và robot đến từ 26 quốc gia khác nhau, vừa được công bố trước thềm Hội nghị của liên minh quốc tế về trí thông minh nhân tạo. Đây được cho là bước đi đầu tiên, chính thống trong việc yêu cầu Liên Hiệp Quốc phải có những hành động thiết thực đối với AI, thí dụ như lệnh cấm dùng AI trên vũ khí sát thương. Trên thực tế, vấn đề tương tự đã được 123 quốc gia đưa ra bàn luận hồi năm 2015 nhưng sau đó bị hoãn lại do những bất đồng trong các quốc gia.
Lần này, các chuyên gia trong lĩnh vực đã lập luận rằng việc tạo ra vũ khí giết người mà con người không thể can thiệp được là “trái đạo đức” và điều này phải được điều chỉnh theo Công ước về các loại vũ khí thông thường (CCW) năm 1983. Đây là công ước do Liên Hiệp Quốc đưa ra, trong đó quy định về việc sử dụng một số loại vũ khí, bao gồm cả mìn, bom lửa và vũ khí hóa học.
Một trong những người đã ký vào bản đề nghị, Ryan Gariepy, nhà sáng lập công ty robot Clearpath cho biết: “Đây không phải là một kịch bản giả định mà nó đã rất thật, cực kỳ đáng lưu tâm và phải hành động ngay lập tức. Chúng ta không thể bỏ qua sự thật rằng sự tồn tại của AI đã vượt khỏi khuôn khổ của khoa học viễn tưởng, rằng những hệ thống vũ khí tự động đang đạt tới đỉnh điểm của sự phát triển và có những nguy cơ rất thật có thể cực kỳ có hại tới những người dân vô tội trong một thế giới ngày càng bất ổn hiện nay.”
Trên thực tế, hiện một số quốc gia đã bắt đầu phát triển vũ khí sát thương có khả năng tự vận hành, bao gồm cả Mỹ, Trung Quốc, Nga và Israel. Một số hệ thống đã được triển khai ngoài đời thật, thí dụ như một hệ thống tháp súng tự động đặt ở biên giới Hàn Quốc, trong đó các khẩu súng máy hoạt động cùng với một hệ thống nhận diện và bắn vào các mục tiêu mà không cần sự can thiệp của con người (hiện tại thì vẫn đòi hỏi con người điều khiển nhưng khả năng của nó có thể hoạt động một mình).
Trước đây, có ý kiến cho rằng các hệ thống robot tự động sẽ bị nhâm lẫn giữa đâu là đối phương có vũ trang và đâu là dân thường, từ đó có thể giết lầm. Các bên ủng hộ thì cho rằng điều đó có thể được khắc phục khi công nghệ ngày càng được cải thiện nhưng mặt khác, bên phản đối lại cho rằng tư duy lại lại vô tình khiến cho vũ khí được triển khai nhiều hơn. Song song, nó còn dẫn tới việc chạy đua vũ trang khi mà nước nào cũng muốn đẩy mạnh tốc độ phát triển vũ khí dựa trên AI.
Trong văn bản, nhóm các chuyên gia đã thống nhất rằng: “Một khi được phát triển thành công, vũ khí tự hoạt động sẽ thúc đẩy những sự xung đột vũ trang với quy mô lớn chưa từng có và tốc độ diễn ra điều đó là nhanh hơn nhiều so với suy nghĩ của loài người. Đây có thể biến thành vũ khí cho khủng bố, những loại vũ khí mà bọn độc tài và khủng bố sẽ dùng để chống lại người dân vô tội, và là những loại vũ khí bị hack sẽ hành xử theo những cách cực kỳ dị thường, không ai chịu nổi.”
Đơn đề nghị này đã được ký bởi nhà sáng lập của 116 công ty phát triển AI và robot đến từ 26 quốc gia khác nhau, vừa được công bố trước thềm Hội nghị của liên minh quốc tế về trí thông minh nhân tạo. Đây được cho là bước đi đầu tiên, chính thống trong việc yêu cầu Liên Hiệp Quốc phải có những hành động thiết thực đối với AI, thí dụ như lệnh cấm dùng AI trên vũ khí sát thương. Trên thực tế, vấn đề tương tự đã được 123 quốc gia đưa ra bàn luận hồi năm 2015 nhưng sau đó bị hoãn lại do những bất đồng trong các quốc gia.
Một trong những người đã ký vào bản đề nghị, Ryan Gariepy, nhà sáng lập công ty robot Clearpath cho biết: “Đây không phải là một kịch bản giả định mà nó đã rất thật, cực kỳ đáng lưu tâm và phải hành động ngay lập tức. Chúng ta không thể bỏ qua sự thật rằng sự tồn tại của AI đã vượt khỏi khuôn khổ của khoa học viễn tưởng, rằng những hệ thống vũ khí tự động đang đạt tới đỉnh điểm của sự phát triển và có những nguy cơ rất thật có thể cực kỳ có hại tới những người dân vô tội trong một thế giới ngày càng bất ổn hiện nay.”
Trên thực tế, hiện một số quốc gia đã bắt đầu phát triển vũ khí sát thương có khả năng tự vận hành, bao gồm cả Mỹ, Trung Quốc, Nga và Israel. Một số hệ thống đã được triển khai ngoài đời thật, thí dụ như một hệ thống tháp súng tự động đặt ở biên giới Hàn Quốc, trong đó các khẩu súng máy hoạt động cùng với một hệ thống nhận diện và bắn vào các mục tiêu mà không cần sự can thiệp của con người (hiện tại thì vẫn đòi hỏi con người điều khiển nhưng khả năng của nó có thể hoạt động một mình).
Trước đây, có ý kiến cho rằng các hệ thống robot tự động sẽ bị nhâm lẫn giữa đâu là đối phương có vũ trang và đâu là dân thường, từ đó có thể giết lầm. Các bên ủng hộ thì cho rằng điều đó có thể được khắc phục khi công nghệ ngày càng được cải thiện nhưng mặt khác, bên phản đối lại cho rằng tư duy lại lại vô tình khiến cho vũ khí được triển khai nhiều hơn. Song song, nó còn dẫn tới việc chạy đua vũ trang khi mà nước nào cũng muốn đẩy mạnh tốc độ phát triển vũ khí dựa trên AI.
Tham khảo Futurefile, Theverge
