Phần mềm nhận diện của Amazon nhầm khuôn mặt của 28 nghị sĩ với tội phạm bị truy nã

27/07/2018 04:30 PM | Công nghệ

Điều này làm dấy lên sự lo ngại về việc sử dụng AI tích hợp cho các phần mềm nhận diện khuôn mặt. Ai sẽ là người kiểm chứng các kết quả mà chúng đưa ra?

Phần mềm nhận diện của Amazon nhầm khuôn mặt của 28 nghị sĩ với tội phạm bị truy nã

Liên Đoàn Tự Do Dân Sự Mỹ mới đây đã thử nghiệm hệ thống nhận diện khuôn mặt của Amazon và kết quả cũng thực sự khiến cho nhiều người phải lo ngại. 

Để kiểm tra, Liên Đoàn đã thử quét khuôn mặt của 535 thành viên quốc hội và đối chiếu với 25.000 khuôn mặt trong kho dữ liệu tội phạm của cảnh sát bằng phần mềm Rekognition API do Amazon phát triển. Kết quả thật bất ngờ khi phần mềm của Amazon cho rằng 28 nghị sĩ trong quốc hội chính là đối tượng tội phạm mà cảnh sát đang truy tìm. Liên Đoàn Tự Do Dân Sự Mỹ đã dùng bằng chứng này để thể hiện sự lo ngại về việc cảnh sát áp dụng công cụ này của Amazon trong khi làm việc.

Liên Đoàn Tự Do Dân Sự Mỹ cho rằng một thiết bị xác định danh tính của con người lại sai sót như vậy sẽ gây hậu quả rất nghiêm trọng.

Phần mềm nhận diện khuôn mặt Rekognition của Amazon đã được ra mắt vào tháng 05 vừa qua và được sử dụng bởi lực lượng hành pháp tại Mỹ, bắt đầu với sở cảnh sát tại Orlando. Chi phí sử dụng cho thiết bị được đánh giá là khá rẻ, chỉ 12 USD mỗi tháng cho một đơn vị cơ quan

Nhiều chuyên gia cho rằng đây có thể là một lỗi lập trình bởi người dùng đã sử dụng Rekognition để nhận diện hàng trăm khuôn mặt nhưng không một khuôn mặt nào nằm trong kho dữ liệu 25.000 người của cảnh sát để máy tính so sánh. Việc tìm kiếm quá nhiều khuôn mặt nhưng không nằm trong kho dữ liệu khiến cho phần mềm có thể đưa ra những kết quả sai lầm.

Dù vậy nhưng ý kiến này cũng không hoàn toàn chính xác bởi việc nhận diện một khuôn mặt không nằm trong kho dữ liệu tội phạm của cảnh sát là trường hợp xảy ra khá thường xuyên. Do đó không thể coi đây là tình huống đặc biệt đến mức hệ thống Rekognition có thể được phép sai lầm.

Theo ghi nhận thì một vài sở cảnh sát của Mỹ thử sử dụng hệ thống này nhưng kết quả đưa ra cũng sai sót khá nhiều khiến các nhân viên phải tự rà soát lại thêm một lần nữa. Sự sai sót của phần mềm nhận diện khuôn mặt do Amazon phát triển đã làm dấy lên sự lo ngại rằng liệu công nghệ hiện nay đã đủ để áp dụng phương thức nhận diện khuôn mặt vào lĩnh vực quan trọng của đời sống như an ninh? 

Trang Thu

Theo Trí Thức Trẻ

Cùng chuyên mục
XEM

NỔI BẬT TRANG CHỦ

Shark Hưng: Các bạn nên bỏ chữ XIN trong Đơn Xin việc, tôi không có gì để CHO cả, tuyển dụng là chuyện MUA BÁN, hãy xem mình có gì để bán cho tôi!

"Tôi xin các bạn bỏ chữ XIN trong Đơn Xin việc. Đừng bao giờ nói đi "xin" việc làm. Tôi chả có gì để CHO các bạn cả... Trong tuyển dụng, các bạn bán cái doanh nghiệp cần, và chúng tôi mua cái các bạn có. Vậy thì các bạn phải hiểu doanh nghiệp đang cần gì để chào cho trúng và chào cho được giá", Shark Hưng nhấn mạnh.

Câu chuyện kinh doanh

Đầu năm nói chuyện chuyển đổi số: "Sàn đấu" 30 tỷ USD dành cho các "tay đấm" danh tiếng như FPT, CMC, VNG và NextTech

Thị trường chuyển đổi số tại Việt Nam được đánh giá là một ‘miếng bánh’ thơm ngon đầy tiềm năng. Nhưng, do những đặc thù của ngành nghề, đây là cuộc chơi chỉ dành riêng cho các ‘ông lớn’ trong ngành công nghệ thông tin như FPT, CMC hay NextTech; cơ hội cho các SMEs hay startup chiếm lĩnh thị phần là khá nhỏ.

Warren Buffett bị một cặp vợ chồng lừa đảo đa cấp hơn 300 triệu USD

Warren Buffett và nhiều nhà đầu tư khác là nạn nhân của một cặp vợ chồng liên quan tới mô hình lừa đảo 1 tỷ USD.

Câu chuyện kinh doanh

Cựu SV Ngoại thương dành cả thanh xuân làm tai nghe xuất ngoại, công nghệ lõi tầm quốc tế mang trí tuệ Việt, từ chối lên Shark Tank vì không muốn "diễn"

Rất nhiều người nổi tiếng đã đặt hàng và tin dùng tai nghe inear của itsfit như nghệ sĩ saxophone Trần Mạnh Tuấn, ca sĩ Ngô Kiến Huy, Lâm Bảo Ngọc, Cường Seven…

Đọc thêm