26 nhà lập pháp bị trí tuệ nhân tạo đánh dấu là tội phạm
Trí tuệ nhân tạo thật ra cũng không thông minh như người ta tưởng tượng. Mới đây, 26 nhà lập pháp Mỹ bị nhầm là tội phạm chỉ vì công nghệ nhận diện gương mặt.
Bức ảnh các nhà lập pháp California (Mỹ) được chạy qua chương trình nhận diện gương mặt để đối chiếu với cơ sở dữ liệu 25.000 tên tội phạm. Theo Liên đoàn Tự do dân sự Mỹ (ACLU), chương trình đánh dấu 26 nhà lập pháp là tội phạm. ACLU công bố kết quả kiểm tra nhằm thúc đẩy thông qua dự luật cấm công nghệ nhận diện gương mặt trong camera cảnh sát.
Theo ông Phil Tang, một trong những người bị đánh dấu nhầm, thí nghiệm một lần nữa cho thấy phần mềm nhận diện gương mặt chưa sẵn sàng để sử dụng rộng rãi.
Vài năm gần đây, hệ thống nhận diện gương mặt trở nên phổ biến và được dùng tại sân bay, trường học, nhà ở, thậm chí cả rạp hát. Công nghệ cũng giúp nhân viên pha chế biết được ai đang đứng chờ tới lượt. Nó hoạt động bằng cách xác định gương mặt của mọi người từ video và ảnh, sau đó so sánh đặc điểm gương mặt với cơ sở dữ liệu.
Tuy nhiên, ACLU lo ngại công nghệ thể hiện sự thiên vị, không chính xác, đặc biệt đối với phụ nữ và người da màu.
Ông Ting cùng với ACLU đã đồng tài trợ cho AB 1215, dự luật cấm sử dụng nhận diện gương mặt và bất kỳ hệ thống giám sát sinh trắc học nào trên camera được cảnh sát mang theo. Hiện nay, chưa có thành phố nào tại California áp dụng công nghệ này trên camera của cảnh sát.
Theo ACLU, một nửa các nhà lập pháp bị nhầm là tội phạm là người da màu. Năm 2018, tổ chức cũng thực hiện bài kiểm tra tương tự và 28 thành viên Quốc hội bị nhầm lẫn tương tự. Trong các kết quả này, họ phát hiện chương trình sai nhiều hơn đối với phụ nữ và người da màu.
Theo Matt Cagle, Luật sư tự do dân sự và công nghệ của ACLU, camera cảnh sát kích hoạt nhận diện gương mặt sẽ là thảm họa cho cộng đồng và quyền công dân. Ngay cả khi công nghệ chính xác, chúng vi phạm nghiêm trọng quyền công dân của người California.
ACLU cho biết trong quá trình thử nghiệm, họ sử dụng điểm mặc định là 80% của chương trình nhận diện gương mặt của Amazon. Song, Amazon khẳng định ACLU đã sử dụng sai công nghệ của mình. Công ty luôn khuyến nghị dùng phần mềm với điểm chính xác 99%.
Một số cơ quan hành pháp khác cho rằng dự luật của ACLU làm ảnh hưởng đến năng lực của cảnh sát. Trong phiên điều trần trước Thượng viện hồi tháng 6/2019, Hiệp hội cảnh sát trưởng Riverside nói công nghệ sẽ giúp bảo đảm an ninh cho các sự kiện quy mô lớn như Coachella Music, Arts Festival hay Rose Bowl.
“Cấm công nghệ này, California sẽ thông báo cho cả nước và toàn thế giới rằng họ không muốn nhân viên hành pháp sở hữu công cụ cần thiết để bảo vệ công chúng và người tham dự các sự kiện này”, tuyên bố của hiệp hội khẳng định.
John Mirisch, thị trưởng Beverly Hills, cũng đồng tình. Ông gửi thư đến cho Ting nêu rõ lập trường của mình: Đó là công nghệ sẽ giúp quản lý các sự kiện có sự tham dự của các ngôi sao nổi tiếng như The Golden Globes. Nó cho phép so sánh hình ảnh của hàng trăm ngàn cá nhân, tiết kiệm thời gian và nhân lực.
Nếu dự luật được thông qua, California sẽ là bang lớn nhất tại Mỹ cấm công nghệ nhận diện gương mặt trên camera cảnh sát. New Hampshire và Oregaon đều đã thông qua dự luật năm 2017.
Năm nay, tới lượt San Francisco, một trong các thành phố nổi tiếng chuộng công nghệ và Oakland đều đã cấm cảnh sát và các tổ chức chính phủ khác sử dụng công nghệ này.
Axon, nhà sản xuất camera cảnh sát cho Los Angeles, thông báo hệ thống nhận diện gương mặt sẽ không được đưa vào các thiết bị đó nữa.
AB 1215 được giới thiệu lần đầu vào tháng 2 và được Hội đồng California phê chuẩn vào tháng 5. Vài tuần tới, nó sẽ được Thượng viện California bỏ phiếu.
