AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử

17/06/2018 11:25 AM | Công nghệ

Con người đang đứng tại thời điểm lịch sử chưa từng có khi các cỗ máy trí tuệ nhân tạo sắp sửa đưa ra những quyết định có ảnh hưởng tới nhiều lĩnh vực trong cuộc sống. Nhưng chúng ta có biết AI đưa ra quyết định bằng cách nào không?

AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử

Nhiều quyết định quan trọng với con người đã và đang được đưa ra thông qua các cơ chế và công cụ AI, ví dụ như công ty bảo hiểm từ chối thanh toán các khoản bảo hiểm sức khỏe dựa trên thuật toán đánh giá rủi ro, hay cảnh sát quyết định bắt giữ nhiều cá nhân do nghi ngờ lên kế hoạch phạm tội dựa trên một mô hình dự báo từ siêu máy tính xử lý dữ liệu.

Đây đều là những viễn cảnh mà ngành công nghệ đang quan ngại về những bước tiến mạnh mẽ của trí tuệ nhân tạo trong nhiều mặt của xã hội. AI đang được thử nghiệm với nhiều lĩnh vực như nghiên cứu và chẩn đoán y tế, phương tiện tự hành, giám sát an ninh, định hướng mục tiêu quốc phòng hay xử lý tội phạm. Một báo cáo gần đây của hãng PwC dự báo AI có thể thúc đẩy nền kinh tế toàn cầu tăng thêm 15,7 nghìn tỷ USD cho đến năm 2030.

Tuy nhiên, những thuật toán phần mềm đó đang ngày càng trở nên phức tạp đến mức chính những người sáng tạo ra chúng còn không hiểu hết được cách thức chúng đưa ra những câu trả lời như vậy.

AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử - Ảnh 1.

(Nguồn: BBC)

Mạng nơ ron (neural network) được thiết kế để tái tạo lại cách não người suy nghĩ thông qua số lượng lớn bộ xử lý và khối lượng khổng lồ dữ liệu, bằng việc phát hiện các mô hình hay khuôn mẫu giữa hàng triệu biến số với máy học, và quan trọng, điều chỉnh phản ứng với những gì chúng được đào tạo. Chính khả năng này cho phép nghiên cứu sâu hơn và đưa ra các dự báo chính xác về thời tiết hoặc chẩn đoán bệnh ung thư

Mặc dù vậy, không ít các chuyên gia cũng cảnh báo rằng, những bước tiến nhanh nhất trong nghiên cứu AI gần đây đang tập trung vào phương thức tiếp cận dựa vào dữ liệu và kiểm thử hộp đen. Nếu các hệ thống được sử dụng cho hoạt động bầu cử hoặc dịch vụ công, sẽ nảy sinh nhiều vấn đề do tương tác trong mạng nơ ron vô cùng phức tạp và khó khăn để giải thích và sửa đổi.

Một xu hướng mới trong ngành công nghiệp robot là học tăng cường sâu (deep reinforcement learning) khi mà nhà thiết kế chỉ đơn giản vạch ra các mục tiêu hành vi của hệ thống và nó tự động học hỏi bằng các tương tác trực tiếp với môi trường. Điều này dẫn tới hệ quả một hệ thống còn khó hiểu hơn. Do vậy các nhà nghiên cứu lại đang phải tìm hiểu các cách để giải mã thuật toán và đặt chúng dưới quyền kiểm soát của con người. Ví dụ, Cơ quan chỉ đạo các dự án quốc phòng tiên tiến Hoa Kỳ (DARPA) vận hành dự án Explainable AI và Open AI - một công ty nghiên cứu phi lợi nhuận - đang cùng chung tay tìm hiểu và triển khai con đường dẫn tới AI an toàn. Điều này có vẻ nhạy cảm, nhưng một trong những lợi thế của AI là làm được những điều mà con người không thể làm được. Liệu chúng ta có đang can thiệp và làm giảm hiệu quả của nó bằng việc đi sâu tìm hiểu bên trong.

Adrian Weller, Giám đốc chương trình AI tại Viện Nghiên cứu Alan Turing (Anh), gợi ý về nhu cầu tìm hiểu cách thức máy móc đưa ra quyết định còn phụ thuộc vào mức độ quan trọng của những quyết định đó ra sao. Và một vài cân nhắc cũng có thể quan trọng hơn cả tính có thể giải thích được đó. "Nếu như chúng ta có thể chắc chắn một hệ thống đang hoạt động đáng tin cậy, không có sự phân biệt và an toàn, những điều đó có thể đáng cân nhắc hơn cả việc chúng ta cần phải hiểu cách hoạt động của nó như thế nào", vị chuyên gia này cho biết. "Đối với những chẩn đoán y khoa, sẽ là rất tốt khi tỷ lệ chính xác đang ở mức 95% trung bình. Nhưng nếu tôi vẫn muốn biết cách tính toán của hệ thống AI cho riêng trường hợp của tôi, tính có thể giải trình được sẽ trở nên cần thiết hơn".

AI và viễn cảnh tương lai con người bị vượt mặt và phân biệt đối xử - Ảnh 2.

Andrian Weller, Giám đốc chương trình AI tại Viện Alan Turing (Nguồn: BBC)

Mặt khác, khi AI được sử dụng để hỗ trợ đưa ra án phạt tù giam, rõ ràng cách thức nhận định và đưa ra quyết định phải rõ ràng. Weller cho biết: "Nếu một thuật toán khuyến nghị một người nhận bản án 5 năm tù giam, người đó sẽ muốn một lời giải thích rõ ràng về việc tuân thủ đúng quy trình và quy định pháp luật, cũng như được tạo cơ hội thử thách thuật toán mà người đó cho là không đúng. Tôi đồng ý với những ý kiến yêu cầu các công ty công nghệ làm rõ cách thức thuật toán hoạt động. Nếu không có những biện pháp bảo vệ, sẽ có nguy cơ con người chúng ta bị phân biệt đối xử mà không biết lý do".

Theo AM

Ictnews

Cùng chuyên mục
XEM

NỔI BẬT TRANG CHỦ

50 triệu USD và giấc mơ lớn phía sau The Coffee House, Juno, Haravan… của Đinh Anh Huân

Mới đây nguồn tin từ TechinAsia cho biết, quỹ đầu tư Ficus được thành lập bởi đồng sáng lập Thế giới di động Đinh Anh Huân vừa được một quỹ đứng sau bởi tỷ phú Jack Ma rót vốn 50 triệu USD. Thương vụ gọi vốn này sẽ góp phần giúp ông Huân thực hiện được giấc mơ đưa sản phẩm công nghệ, dịch vụ Việt Nam ra thế giới.

Cuộc trò chuyện giữa tỷ phú Jack Ma và ông Trương Gia Bình tiết lộ công thức 'từ 0 đến 1' để khởi nghiệp thành công

Trong khuôn khổ sự kiện do Hiệp hội Nông nghiệp số Việt Nam (Vida) tổ chức sáng 27/10, ông Trương Gia Bình, Chủ tịch FPT, cũng đồng thời là Chủ tịch Vida đã có nhiều chia sẻ thiết thực liên quan đến câu chuyện khởi nghiệp.

Rapper Suboi - từ cô gái bị bạo hành thành “nữ hoàng” Rap Việt, được Toyota, Grab, H&M,... săn đón: “Chết” ở tuổi 25 và làm đại gia của chính mình ở tuổi 29

Dù trải qua nhiều biến cố, khó khăn nhưng sau cùng, nàng rapper vẫn giữ niềm lạc quan và tình yêu cuộc sống. Cô dẫn lại câu hát nổi tiếng của cố nhạc sĩ Lê Hựu Hà: "Bạn thân ơi, cố gắng yêu thương đời. Dù đời không yêu ta, hãy cứ yêu thương hoài”.

Sau một thời gian dài liên tục "đồng pha", VPBank vừa hụt hơi trong cuộc đua lợi nhuận với Techcombank

Trong khi lợi nhuận Techcombank đạt gần 4.000 tỷ đồng trong quý 3/2020 thì lợi nhuận VPBank vừa giảm mạnh, xuống thấp nhất hơn 1 năm qua. Khoảng cách lợi nhuận giữa 2 ngân hàng là hơn 1.100 tỷ đồng, dù quy mô tài sản tương đương nhau.

Đọc thêm