Nỗi lo AI vượt tầm kiểm soát

Công ty trí tuệ nhân tạo (AI) Anthropic vừa kêu gọi tạm dừng phát triển các hệ thống AI mạnh nhất, đồng thời cảnh báo con người có nguy cơ mất quyền kiểm soát công nghệ này.

Anthropic, công ty phát triển chatbot Claude và có trụ sở ở Mỹ, nhấn mạnh sẵn sàng ngừng nghiên cứu các hệ thống AI mạnh hơn nếu có bảo đảm rằng các công ty khác cũng sẽ làm điều tương tự. "Nếu có thể thực sự làm chậm tốc độ phát triển công nghệ này để chúng ta có thêm thời gian ứng phó với những tác động to lớn của nó, đó có lẽ sẽ là điều tích cực" - ông Jack Clark, Chủ tịch công ty và bà Marina Favaro, người đứng đầu bộ phận nghiên cứu của Anthropic, cho biết trong bài viết đăng tải hôm 4-6. Theo trang The Telegraph, công ty này ví sự trỗi dậy của các hệ thống AI tiên tiến như một "bài toán kiểm soát vũ khí" và cảnh báo thời gian để kiềm chế công nghệ này đang dần thu hẹp.

Anthropic gần đây quyết định chưa phát hành rộng rãi mô hình AI mạnh nhất của mình, gọi là Mythos, do lo ngại nó có thể bị lợi dụng để thực hiện các cuộc tấn công mạng có sức tàn phá lớn. Mô hình này sở hữu các năng lực an ninh mạng đặc biệt và mới chỉ được triển khai cho một số lượng nhỏ doanh nghiệp đã được thẩm định kỹ.

Trong bài viết trên, các tác giả nhận định AI ngày càng giỏi hơn trong việc đề xuất ý tưởng mới và lập kế hoạch nghiên cứu - những dấu hiệu mà họ xem là bước tiến hướng tới các hệ thống AI có khả năng tự xây dựng và phát triển chính mình. Thời điểm này có thể tạo ra sự bùng nổ về năng lực AI, nhưng cũng có nguy cơ khiến con người không còn khả năng kiểm soát các hệ thống đó. Tuy nhiên, công ty này thừa nhận việc phối hợp để thực hiện một lệnh tạm dừng như thế trên toàn cầu sẽ vô cùng khó khăn, nhất là khi Mỹ và Trung Quốc đang cạnh tranh gay gắt trong lĩnh vực này.

Anthropic từ lâu tự định vị là công ty AI đặt trọng tâm lớn nhất vào vấn đề an toàn, đồng thời cũng liên tục đạt được những bước đột phá nghiên cứu mà chính họ thừa nhận có thể dẫn tới các hệ thống tiềm ẩn rủi ro cao. Giám đốc điều hành Dario Amodei của Anthropic từng nhận định có khoảng 25% khả năng "mọi thứ sẽ diễn biến cực kỳ tồi tệ". Tuy nhiên, một số chuyên gia chỉ trích Anthropic đang phóng đại năng lực thực tế của AI hoặc cố tình đưa ra những cảnh báo đáng lo ngại nhằm thúc đẩy các quy định quản lý có thể gây bất lợi cho các đối thủ cạnh tranh.

Đề xuất của Anthropic được cho là sẽ gặp nhiều trở ngại tại Mỹ, nơi giới chức và các lãnh đạo công nghệ nhiều lần khẳng định rằng bất kỳ sự chậm lại nào trong phát triển AI cũng có thể khiến Washington đánh mất lợi thế chiến lược trước Bắc Kinh trong cuộc đua công nghệ quan trọng này. Dù vậy, Tổng thống Mỹ Donald Trump cho biết ông đã thảo luận khả năng hợp tác với Trung Quốc về các vấn đề an toàn AI trong chuyến thăm Bắc Kinh gần đây.

Ngày 2-6, nhà lãnh đạo Mỹ đã ký sắc lệnh hành pháp về giám sát AI. Theo AP, sắc lệnh thiết lập một khuôn khổ để chính phủ liên bang đánh giá các rủi ro đối với an ninh quốc gia từ những hệ thống AI tiên tiến nhất trong thời gian tối đa 30 ngày trước khi chúng được công bố rộng rãi. Khoảng thời gian này ngắn hơn so với dự đoán của một số công ty trong ngành. Một thời hạn dài hơn có thể bị xem là gây thêm gánh nặng cho một lĩnh vực phát triển nhanh và cạnh tranh khốc liệt.

Ngoài ra, sắc lệnh được mô tả là cơ chế hợp tác tự nguyện giữa chính phủ và các công ty công nghệ có trụ sở tại Mỹ, trong đó có Anthropic, OpenAI và Google. Những công ty này thường được gọi là các "phòng thí nghiệm AI tiên phong" vì đang phát triển những hệ thống AI tiên tiến nhất hiện nay. "Các năng lực AI tiên tiến giúp đất nước chúng ta mạnh hơn, nhưng đồng thời cũng đặt ra những vấn đề mới về an ninh quốc gia, đòi hỏi sự phối hợp hành động giữa các bộ, ngành và cơ quan liên bang" - sắc lệnh nhấn mạnh.

Theo Hoàng Phương