Phần mềm nhận diện của Amazon nhầm khuôn mặt của 28 nghị sĩ với tội phạm bị truy nã
Điều này làm dấy lên sự lo ngại về việc sử dụng AI tích hợp cho các phần mềm nhận diện khuôn mặt. Ai sẽ là người kiểm chứng các kết quả mà chúng đưa ra?
Liên Đoàn Tự Do Dân Sự Mỹ mới đây đã thử nghiệm hệ thống nhận diện khuôn mặt của Amazon và kết quả cũng thực sự khiến cho nhiều người phải lo ngại.
Để kiểm tra, Liên Đoàn đã thử quét khuôn mặt của 535 thành viên quốc hội và đối chiếu với 25.000 khuôn mặt trong kho dữ liệu tội phạm của cảnh sát bằng phần mềm Rekognition API do Amazon phát triển. Kết quả thật bất ngờ khi phần mềm của Amazon cho rằng 28 nghị sĩ trong quốc hội chính là đối tượng tội phạm mà cảnh sát đang truy tìm. Liên Đoàn Tự Do Dân Sự Mỹ đã dùng bằng chứng này để thể hiện sự lo ngại về việc cảnh sát áp dụng công cụ này của Amazon trong khi làm việc.
Liên Đoàn Tự Do Dân Sự Mỹ cho rằng một thiết bị xác định danh tính của con người lại sai sót như vậy sẽ gây hậu quả rất nghiêm trọng.
Phần mềm nhận diện khuôn mặt Rekognition của Amazon đã được ra mắt vào tháng 05 vừa qua và được sử dụng bởi lực lượng hành pháp tại Mỹ, bắt đầu với sở cảnh sát tại Orlando. Chi phí sử dụng cho thiết bị được đánh giá là khá rẻ, chỉ 12 USD mỗi tháng cho một đơn vị cơ quan
Nhiều chuyên gia cho rằng đây có thể là một lỗi lập trình bởi người dùng đã sử dụng Rekognition để nhận diện hàng trăm khuôn mặt nhưng không một khuôn mặt nào nằm trong kho dữ liệu 25.000 người của cảnh sát để máy tính so sánh. Việc tìm kiếm quá nhiều khuôn mặt nhưng không nằm trong kho dữ liệu khiến cho phần mềm có thể đưa ra những kết quả sai lầm.
Dù vậy nhưng ý kiến này cũng không hoàn toàn chính xác bởi việc nhận diện một khuôn mặt không nằm trong kho dữ liệu tội phạm của cảnh sát là trường hợp xảy ra khá thường xuyên. Do đó không thể coi đây là tình huống đặc biệt đến mức hệ thống Rekognition có thể được phép sai lầm.
Theo ghi nhận thì một vài sở cảnh sát của Mỹ thử sử dụng hệ thống này nhưng kết quả đưa ra cũng sai sót khá nhiều khiến các nhân viên phải tự rà soát lại thêm một lần nữa. Sự sai sót của phần mềm nhận diện khuôn mặt do Amazon phát triển đã làm dấy lên sự lo ngại rằng liệu công nghệ hiện nay đã đủ để áp dụng phương thức nhận diện khuôn mặt vào lĩnh vực quan trọng của đời sống như an ninh?
