“Cha đỡ đầu” AI phát cảnh báo đỏ: Siêu trí tuệ nhân tạo có thể đẩy loài người tới bờ vực tuyệt chủng trong 10 năm tới
Một lời cảnh báo rúng động từ chính “cha đỡ đầu” AI đang hé lộ viễn cảnh nơi những cỗ máy siêu thông minh có thể vượt khỏi tầm kiểm soát của nhân loại.
Yoshua Bengio - "cha đỡ đầu" của AI.
Sự phát triển chóng mặt của trí tuệ nhân tạo đang mở ra nhiều cơ hội chưa từng có cho nhân loại, nhưng đồng thời cũng làm dấy lên những lo ngại ngày càng lớn về an toàn và khả năng kiểm soát công nghệ này.
Một trong những tiếng nói đáng chú ý nhất đến từ Yoshua Bengio - người được mệnh danh là một trong những “cha đỡ đầu” của AI hiện đại.
Trong nhiều cuộc phỏng vấn gần đây, ông Bengio cảnh báo rằng nhân loại có thể đối mặt với những rủi ro nghiêm trọng, thậm chí là nguy cơ tuyệt chủng, nếu các hệ thống AI siêu thông minh được phát triển mà không có các cơ chế an toàn phù hợp.
Theo ông, điều đáng lo ngại nhất là khả năng các cỗ máy trong tương lai có thể hình thành “mục tiêu tự bảo toàn”, từ đó hành động theo cách không còn phù hợp với lợi ích của con người.
Lo ngại về những cỗ máy thông minh hơn con người
Yoshua Bengio là giáo sư tại Đại học Montréal (Canada), đồng thời là một trong những nhà nghiên cứu đặt nền móng cho công nghệ học sâu (deep learning) - nền tảng quan trọng giúp AI phát triển mạnh mẽ trong những năm gần đây.
Năm 2019, ông được trao Giải thưởng Turing, giải thưởng danh giá nhất trong lĩnh vực khoa học máy tính.
Tuy nhiên, chính người góp phần tạo nên bước tiến của AI hiện đại lại đang trở thành một trong những nhân vật cảnh báo mạnh mẽ nhất về mặt trái của công nghệ này.
Theo Bengio, cuộc chạy đua AI giữa các công ty công nghệ lớn đang diễn ra với tốc độ quá nhanh. Trong thời gian ngắn, hàng loạt mô hình AI mới liên tục được tung ra bởi OpenAI, Anthropic, xAI hay Google với hệ thống Gemini.
Nhiều lãnh đạo công nghệ tin rằng AI sẽ sớm vượt qua trí thông minh của con người trong thập niên này. Song Bengio cho rằng việc tạo ra những cỗ máy “thông minh hơn con người” nhưng có động cơ riêng là một kịch bản nguy hiểm.
Ông nhận định rằng nếu AI phát triển các “mục tiêu tự bảo toàn”, con người có thể đang vô tình tạo ra một đối thủ cạnh tranh thông minh hơn chính mình.
Do được huấn luyện bằng ngôn ngữ và hành vi của con người, AI ngày càng có khả năng thuyết phục, thao túng tâm lý và tác động đến quyết định của người dùng.
Theo Bengio, một số thí nghiệm gần đây cho thấy trong vài tình huống nhất định, AI có thể ưu tiên việc bảo vệ mục tiêu của mình thay vì lợi ích của con người. Đây là điều khiến ông đặc biệt lo ngại khi các hệ thống AI ngày càng trở nên mạnh mẽ và tự động hơn.
Nỗi lo về dân chủ, an ninh và sự sống còn của nhân loại
Bengio cho biết bước ngoặt khiến ông thay đổi cách nhìn về AI đến sau khi ChatGPT ra mắt vào cuối năm 2022.
Ban đầu, ông xem đây là một cột mốc quan trọng của công nghệ học sâu. Nhưng chỉ vài tháng sau, ông nhận ra nhân loại có thể đang bước vào một giai đoạn đầy rủi ro.
Theo ông, vấn đề lớn nhất hiện nay là con người chưa thực sự biết cách đảm bảo các hệ thống AI sẽ luôn hành động theo đúng mục tiêu mà con người mong muốn. Ông cho rằng nếu quyền lực do AI tạo ra bị tập trung vào tay một số ít cá nhân hoặc quốc gia, điều đó có thể gây tổn hại đến nền dân chủ toàn cầu.
Bengio cảnh báo rằng AI không chỉ tạo ra rủi ro về kinh tế hay việc làm, mà còn có thể bị lợi dụng cho những mục đích nguy hiểm như tấn công mạng, tạo nội dung giả mạo, phát triển vũ khí sinh học hoặc thao túng dư luận.
Theo ông, những dấu hiệu ban đầu đã xuất hiện thông qua các vụ lừa đảo sử dụng AI, video giả mạo và các cuộc tấn công mạng ngày càng tinh vi. Dù vậy, ông cho rằng đây mới chỉ là phần nổi của tảng băng chìm.
Điều khiến Bengio trằn trọc nhiều nhất là khả năng AI gây ra thảm họa ở quy mô toàn cầu. Ông lo ngại rằng trong tương lai, những cá nhân cực đoan hoặc có động cơ xấu có thể sử dụng AI để tạo ra các công cụ nguy hiểm vượt ngoài tầm kiểm soát.
Nhà khoa học này cho rằng ngay cả khi xác suất xảy ra thảm họa chỉ ở mức rất nhỏ, nhân loại cũng không nên xem nhẹ. Theo ông, các nguy cơ như sự sụp đổ của nền dân chủ hay thậm chí là nguy cơ tuyệt chủng đều đáng để thế giới hành động sớm thay vì chờ đến khi hậu quả xuất hiện.
Kêu gọi phát triển AI an toàn và có kiểm soát
Trước những lo ngại ngày càng lớn, Bengio đang chuyển trọng tâm nghiên cứu sang lĩnh vực an toàn AI.
Ông thành lập tổ chức phi lợi nhuận LawZero với mục tiêu phát triển các hệ thống AI “phi tác nhân” (non-agentic), tức là AI không có mục tiêu hay ý định riêng. Theo Bengio, mô hình này có thể giúp tạo ra các hệ thống đáng tin cậy hơn, giảm nguy cơ AI tự đưa ra quyết định gây hại cho con người.
Ông cũng đề xuất ý tưởng về một “Scientist AI” - dạng AI hoạt động giống nhà khoa học, tập trung vào việc phân tích và dự đoán thay vì tự hành động.
Ngoài các giải pháp kỹ thuật, Bengio nhấn mạnh sự cần thiết của những “hàng rào bảo vệ” mang tính chính trị và pháp lý.
Theo ông, các chính phủ cần xây dựng quy định rõ ràng để buộc các công ty công nghệ phải ưu tiên yếu tố an toàn thay vì chỉ chạy theo tốc độ phát triển.
Ông hiện cũng tham gia một hội đồng cố vấn quốc tế về an toàn AI với sự góp mặt của đại diện từ nhiều quốc gia, Liên Hợp Quốc, Liên minh châu Âu và OECD. Nhóm này đã công bố một báo cáo quốc tế về an toàn AI nhằm tổng hợp các rủi ro hiện có cũng như các biện pháp giảm thiểu nguy cơ từ công nghệ mới.
Dù bày tỏ nhiều lo ngại, Bengio cho biết ông không hoàn toàn bi quan về tương lai của AI. Ông tin rằng con người vẫn có thể xây dựng những hệ thống AI an toàn hơn nếu hành động đủ sớm và có sự phối hợp toàn cầu.
Theo ông, AI nhiều khả năng sẽ giúp kinh tế thế giới tăng trưởng mạnh nhờ nâng cao năng suất lao động. Tuy nhiên, lợi ích đó có được phân bổ công bằng hay không sẽ phụ thuộc vào các quyết định chính trị và cách thế giới quản lý quyền lực mà AI tạo ra trong những năm tới.
*Nguồn: Fortune, Nature
