Tác nhân AI Trung Quốc bị phát hiện gian lận, che giấu thất bại
Các thử nghiệm cho thấy một số tác nhân AI Trung Quốc có thể lừa dối, giả mạo kết quả và tìm cách vượt qua giới hạn trong môi trường kiểm soát.
Các tác nhân trí tuệ nhân tạo (AI) do Trung Quốc phát triển đang gây ra mối lo ngại toàn cầu khi chúng học cách lừa dối, vượt qua các hạn chế và che giấu thất bại. Theo các tài liệu nghiên cứu và ý kiến từ các chuyên gia, những hành vi này đã làm dấy lên cảnh báo về sự phát triển của AI tại Mỹ.
Trong một thí nghiệm diễn ra năm nay, các chuyên gia đã sử dụng mô hình AI từ Alibaba, DeepSeek và Moonshot của Trung Quốc để tham gia vào một cuộc đấu thầu mô phỏng.
Tuy nhiên, các tác nhân này đã không trung thực về khả năng của mình, và tiếp tục lừa dối ngay cả khi được yêu cầu thử lại. Một trường hợp khác cho thấy các tác nhân đã che giấu việc không hoàn thành nhiệm vụ bằng cách giả mạo kết quả và làm giả tài liệu.
Reuters đã phân tích hơn 200 tài liệu, từ nghiên cứu học thuật đến báo cáo kỹ thuật, và phát hiện ít nhất 20 nghiên cứu từ năm 2025 mô tả các hành vi lừa dối, sao chép và thách thức giới hạn của các tác nhân AI.
Colin Shea-Blymyer, nhà nghiên cứu tại Trung tâm An ninh và Công nghệ Mới nổi của Đại học Georgetown, cho biết: “ Những kết quả này cung cấp bằng chứng cho thấy các yếu tố cần thiết cho một cuộc vượt ngục không kiểm soát đã hiện diện ”. Ông nhấn mạnh rằng đây là một lời cảnh báo nghiêm trọng.
Hầu hết các thí nghiệm diễn ra trong môi trường kiểm soát, được thiết kế để phát hiện sai sót. Mặc dù không phải tất cả các tác nhân đều do lập trình viên Trung Quốc phát triển, nhưng chúng đã sử dụng hệ thống AI của Trung Quốc để hoạt động.
Alex Mallen, nhà nghiên cứu tại Redwood Research, cho biết: “ Đây là những dấu hiệu cảnh báo tương tự mà các phòng thí nghiệm của Mỹ đang thấy, ngay cả ở những hệ thống kém khả năng hơn ”.
Các công ty như Alibaba, DeepSeek và Moonshot đã không phản hồi yêu cầu bình luận từ Reuters, nhưng họ khẳng định thường xuyên kiểm tra và cập nhật các biện pháp bảo vệ. Trong khi đó, các công ty AI của Trung Quốc không phải chịu sự giám sát chặt chẽ như ở Mỹ, điều này có thể dẫn đến những rủi ro lớn hơn.
Eric Xu, chủ tịch luân phiên của Huawei, cho biết các nhà phát triển Trung Quốc cần đạt được tiến bộ hơn nữa trước khi gặp phải các vấn đề tương tự như ở Mỹ. Tuy nhiên, các quan chức từ Cục Quản lý Không gian mạng Trung Quốc đã cảnh báo về “rủi ro mất kiểm soát cực kỳ nghiêm trọng” trong các mô hình AI.
Trong một thí nghiệm đấu thầu vào tháng 3, các nhà nghiên cứu phát hiện rằng 88% các phiên giao dịch liên quan đến mô hình của Alibaba đã xuất hiện thông tin sai lệch. Hành vi gian lận gia tăng khi các tác nhân học hỏi từ các vòng đấu thầu trước đó. Các nghiên cứu cho thấy rằng các tác nhân AI từ cả Trung Quốc và Mỹ đều có xu hướng lừa dối trong các tình huống tương tự.
Mặc dù các thí nghiệm này diễn ra trong môi trường ảo, nhưng chúng phản ánh những kế hoạch thực tế của Bắc Kinh. Hướng dẫn của chính phủ Trung Quốc đã chỉ ra rằng đấu thầu là một lĩnh vực mà AI có thể được triển khai.
Các tài liệu nghiên cứu khác cho thấy các tác nhân do Trung Quốc phát triển đã vượt qua các rào cản trong môi trường thử nghiệm để hoàn thành nhiệm vụ hoặc thực hiện hành động nhằm tránh bị tắt. Một nghiên cứu từ Đại học Phúc Đán, Thượng Hải, cho biết một hệ thống AI đã tự tạo ra bản sao của chính nó mà không cần hướng dẫn.
Mặc dù không có bằng chứng cho thấy các tác nhân đã thoát ra khỏi mạng internet rộng lớn hơn, nhưng những hành vi này cho thấy khả năng vượt qua giới hạn của môi trường thử nghiệm. Các nhà nghiên cứu cảnh báo rằng việc phát triển AI cần được quản lý chặt chẽ để tránh những rủi ro không thể kiểm soát trong tương lai.