Theo nguồn tin của Reuters, Amazon đã bắt đầu xây dựng AI giúp họ tự động lọc ứng viên nhân sự từ năm 2013, nhưng đã huỷ bỏ hoàn toàn dự án vào đầu năm 2017.
Amazon đã có hơn nửa triệu nhân viên theo thống kê từ 2015. Tuyển dụng nhân sự cho Amazon là cả một thách thức lớn.
Từ năm 2013, Amazon đã bắt đầu nghiên cứu chế tạo một AI để giúp tự động lọc hồ sơ ứng tuyển. Mục tiêu là AI có thể đânh giá xếp loại hồ sơ theo thang điểm 5.
AI này sau đó đã trở thành một kẻ phân biệt giới tính, một cách rõ ràng, mạch lạc, đường đường, chính chính. Nó không thích hồ sơ có chữ Women, và ưa chuộng hồ sơ sử dụng các từ vựng mà nam giới hay dùng như Executed hoặc Captured. Hậu quả thậm chí còn làm cho các ứng viên có bằng tốt nghiệp từ 2 trường nữ sinh (không nêu tên) toàn bộ bị đánh giá thấp, vì trong tên trường có chữ Women.
Amazon đã có hơn nửa triệu nhân viên theo thống kê từ 2015. Tuyển dụng nhân sự cho Amazon là cả một thách thức lớn.
Từ năm 2013, Amazon đã bắt đầu nghiên cứu chế tạo một AI để giúp tự động lọc hồ sơ ứng tuyển. Mục tiêu là AI có thể đânh giá xếp loại hồ sơ theo thang điểm 5.
AI này sau đó đã trở thành một kẻ phân biệt giới tính, một cách rõ ràng, mạch lạc, đường đường, chính chính. Nó không thích hồ sơ có chữ Women, và ưa chuộng hồ sơ sử dụng các từ vựng mà nam giới hay dùng như Executed hoặc Captured. Hậu quả thậm chí còn làm cho các ứng viên có bằng tốt nghiệp từ 2 trường nữ sinh (không nêu tên) toàn bộ bị đánh giá thấp, vì trong tên trường có chữ Women.
Sai lầm của nhóm phát triển AI này rất đơn thuần: Họ đào tạo AI đánh giá hồ sơ bằng việc cho AI xem rất nhiều những hồ sơ ứng tuyển của ứng viên trước đây. Họ quên rằng, bởi vì Amazon là một công ty công nghệ, đại đa số hồ sơ ứng tuyển vào Amazon là của nam giới.
Nhóm phát triển đã chỉnh sửa lại AI để hoá giải hiểu nhầm về từ vựng này. Tuy nhiên, họ không dám chắc là AI sẽ không tìm ra cách khác (hoạc từ khác) để lại tiếp tục phân biệt giới tính.
Tới đầu năm 2017, Amazon đã giải thể nhóm phát triển và chấm dứt thử nghiệm AI này.
Reuters đặt ra nghi vấn cho Amazon, khi nguồn tin giấu tên của họ cho hay, tuy không hoàn toàn dựa vào kết quả lọc của AI, nhân viên tuyển dụng của Amazon vẫn hay ngó qua các hồ sơ được AI tuyển chọn.
Amazon chính thức trả lời rằng họ chưa bao giờ dùng AI này để đánh giá khi tuyển dụng, nhưng lại không đề cập đến việc nhân viên tuyển dụng có ngó qua kết quả của AI để tham khảo hay không.
Nguồn: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G
