AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử

17/06/2018 11:25 AM | Công nghệ

Con người đang đứng tại thời điểm lịch sử chưa từng có khi các cỗ máy trí tuệ nhân tạo sắp sửa đưa ra những quyết định có ảnh hưởng tới nhiều lĩnh vực trong cuộc sống. Nhưng chúng ta có biết AI đưa ra quyết định bằng cách nào không?

AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử

Nhiều quyết định quan trọng với con người đã và đang được đưa ra thông qua các cơ chế và công cụ AI, ví dụ như công ty bảo hiểm từ chối thanh toán các khoản bảo hiểm sức khỏe dựa trên thuật toán đánh giá rủi ro, hay cảnh sát quyết định bắt giữ nhiều cá nhân do nghi ngờ lên kế hoạch phạm tội dựa trên một mô hình dự báo từ siêu máy tính xử lý dữ liệu.

Đây đều là những viễn cảnh mà ngành công nghệ đang quan ngại về những bước tiến mạnh mẽ của trí tuệ nhân tạo trong nhiều mặt của xã hội. AI đang được thử nghiệm với nhiều lĩnh vực như nghiên cứu và chẩn đoán y tế, phương tiện tự hành, giám sát an ninh, định hướng mục tiêu quốc phòng hay xử lý tội phạm. Một báo cáo gần đây của hãng PwC dự báo AI có thể thúc đẩy nền kinh tế toàn cầu tăng thêm 15,7 nghìn tỷ USD cho đến năm 2030.

Tuy nhiên, những thuật toán phần mềm đó đang ngày càng trở nên phức tạp đến mức chính những người sáng tạo ra chúng còn không hiểu hết được cách thức chúng đưa ra những câu trả lời như vậy.

AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử - Ảnh 1.

(Nguồn: BBC)

Mạng nơ ron (neural network) được thiết kế để tái tạo lại cách não người suy nghĩ thông qua số lượng lớn bộ xử lý và khối lượng khổng lồ dữ liệu, bằng việc phát hiện các mô hình hay khuôn mẫu giữa hàng triệu biến số với máy học, và quan trọng, điều chỉnh phản ứng với những gì chúng được đào tạo. Chính khả năng này cho phép nghiên cứu sâu hơn và đưa ra các dự báo chính xác về thời tiết hoặc chẩn đoán bệnh ung thư

Mặc dù vậy, không ít các chuyên gia cũng cảnh báo rằng, những bước tiến nhanh nhất trong nghiên cứu AI gần đây đang tập trung vào phương thức tiếp cận dựa vào dữ liệu và kiểm thử hộp đen. Nếu các hệ thống được sử dụng cho hoạt động bầu cử hoặc dịch vụ công, sẽ nảy sinh nhiều vấn đề do tương tác trong mạng nơ ron vô cùng phức tạp và khó khăn để giải thích và sửa đổi.

Một xu hướng mới trong ngành công nghiệp robot là học tăng cường sâu (deep reinforcement learning) khi mà nhà thiết kế chỉ đơn giản vạch ra các mục tiêu hành vi của hệ thống và nó tự động học hỏi bằng các tương tác trực tiếp với môi trường. Điều này dẫn tới hệ quả một hệ thống còn khó hiểu hơn. Do vậy các nhà nghiên cứu lại đang phải tìm hiểu các cách để giải mã thuật toán và đặt chúng dưới quyền kiểm soát của con người. Ví dụ, Cơ quan chỉ đạo các dự án quốc phòng tiên tiến Hoa Kỳ (DARPA) vận hành dự án Explainable AI và Open AI - một công ty nghiên cứu phi lợi nhuận - đang cùng chung tay tìm hiểu và triển khai con đường dẫn tới AI an toàn. Điều này có vẻ nhạy cảm, nhưng một trong những lợi thế của AI là làm được những điều mà con người không thể làm được. Liệu chúng ta có đang can thiệp và làm giảm hiệu quả của nó bằng việc đi sâu tìm hiểu bên trong.

Adrian Weller, Giám đốc chương trình AI tại Viện Nghiên cứu Alan Turing (Anh), gợi ý về nhu cầu tìm hiểu cách thức máy móc đưa ra quyết định còn phụ thuộc vào mức độ quan trọng của những quyết định đó ra sao. Và một vài cân nhắc cũng có thể quan trọng hơn cả tính có thể giải thích được đó. "Nếu như chúng ta có thể chắc chắn một hệ thống đang hoạt động đáng tin cậy, không có sự phân biệt và an toàn, những điều đó có thể đáng cân nhắc hơn cả việc chúng ta cần phải hiểu cách hoạt động của nó như thế nào", vị chuyên gia này cho biết. "Đối với những chẩn đoán y khoa, sẽ là rất tốt khi tỷ lệ chính xác đang ở mức 95% trung bình. Nhưng nếu tôi vẫn muốn biết cách tính toán của hệ thống AI cho riêng trường hợp của tôi, tính có thể giải trình được sẽ trở nên cần thiết hơn".

AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử - Ảnh 2.

Andrian Weller, Giám đốc chương trình AI tại Viện Alan Turing (Nguồn: BBC)

Mặt khác, khi AI được sử dụng để hỗ trợ đưa ra án phạt tù giam, rõ ràng cách thức nhận định và đưa ra quyết định phải rõ ràng. Weller cho biết: "Nếu một thuật toán khuyến nghị một người nhận bản án 5 năm tù giam, người đó sẽ muốn một lời giải thích rõ ràng về việc tuân thủ đúng quy trình và quy định pháp luật, cũng như được tạo cơ hội thử thách thuật toán mà người đó cho là không đúng. Tôi đồng ý với những ý kiến yêu cầu các công ty công nghệ làm rõ cách thức thuật toán hoạt động. Nếu không có những biện pháp bảo vệ, sẽ có nguy cơ con người chúng ta bị phân biệt đối xử mà không biết lý do".

Theo AM

Ictnews

Cùng chuyên mục
XEM

NỔI BẬT TRANG CHỦ

Giấc mơ lớn của TGĐ VinBrain: Có một bài toán có thể cứu giúp 4,7 tỷ người nhưng chưa ai trên thế giới giải được, và chúng tôi dám giải bài toán này!

Dự án "Trợ lý bác sỹ" - bài toán đó chưa ai trên thế giới giải được. 4,7 tỷ người trên thế giới chưa có bác sỹ chẩn đoán hình ảnh, hiện 10% người bệnh chết vì chuẩn đoán sai. Đó là cơ hội mà mình nhìn thấy, tại sao mình dám giải một bài toán như vậy?

Câu chuyện kinh doanh

Đề xuất hạn mức giao dịch qua ví điện tử không quá 20 triệu đồng/ngày: Muốn đặt cọc xe Vinfast, mua tour đi Hàn, sắm Smart TV sẽ không thể thanh toán qua Momo, Moca, VNPay?

Theo dự thảo thông tư mới, hạn mức giao dịch của một cá nhân sẽ bị giới hạn ở mức 20 triệu đồng/ngày và 100 triệu đồng/tháng. Tuy nhiên, dạo một vòng các kênh thương mại điện tử như A Đây Rồi hay Sendo, các sản phẩm có mức giá hơn 20 triệu đồng không ít, phổ biến nhất là các tour du lịch Châu Á, Châu Âu, đặt cọc xe VinFast, hay các dòng Smart TV QLED… Nhưng những thương vụ giá trị cao này rồi đây sẽ không thể thanh toán qua ví điện tử.

Trước khi tạm biệt Việt Nam, Auchan vẫn nỗ lực tìm kiếm cơ hội làm việc mới cho nhân viên của mình

Hành động này của ban lãnh đạo Auchan đã nhận những phản hồi tích cực từ phía dư luận, về cách hành xử đẹp của một doanh nghiệp với nhân viên trong những giờ phút ràng buộc cuối cùng.

Bài học cuộc sống

Tự sự của một sinh viên Ngoại thương: Chọn trường vì ngưỡng mộ 'Harvard Việt Nam', vào rồi mới biết đầy áp lực, ngỡ ngàng nhận ra chả học được gì nhiều!

Học trường gì không hề quyết định sự thành bại của mỗi người. Điều quyết định rằng họ có thành công khi ra đời hay không, đó là khả năng tự học.

Đọc thêm