Anthropic đề xuất tòa án ngăn phát hành mô hình AI nguy hiểm
VTV.vn - Anthropic đề xuất cho phép cơ quan chức năng yêu cầu tòa án ngăn phát hành các mô hình AI có nguy cơ nghiêm trọng, đồng thời phản đối cơ chế vô hiệu hóa toàn bộ mô hình.
Ảnh: VTV
Công ty phát triển trí tuệ nhân tạo (AI) Anthropic của Mỹ đề xuất chính quyền bang California cho phép các cơ quan chức năng yêu cầu tòa án ngăn phát hành những mô hình AI bị đánh giá có nguy cơ nghiêm trọng đối với công chúng.
Trong thư gửi Thống đốc California Gavin Newsom ngày 15/10, Anthropic cho rằng khi kết quả đánh giá kết luận một mô hình tiềm ẩn rủi ro nghiêm trọng, chính phủ cần đề nghị tòa án ban hành lệnh ngăn phát hành. Người phát ngôn công ty xác nhận tính xác thực của bức thư, trong khi Văn phòng Thống đốc California chưa đưa ra bình luận.
Anthropic đồng thời phản đối yêu cầu các nhà phát triển xây dựng “công tắc ngắt” có khả năng vô hiệu hóa toàn bộ mô hình AI khi công ty mất quyền kiểm soát. Thay vào đó, công ty ủng hộ các biện pháp can thiệp có mục tiêu cụ thể hơn, như vô hiệu hóa tác nhân AI gây vấn đề hoặc chặn một khách hàng truy cập mô hình, cho rằng cách tiếp cận này hiệu quả hơn.
Đề xuất được đưa ra sau khi Thống đốc Newsom triệu tập một hội đồng chuyên gia AI hồi tháng 9 để xây dựng các khuyến nghị về an toàn AI. Trước đó, tháng 7, các nghị sĩ Hạ viện Mỹ đã đề xuất dự luật cho phép giới chức yêu cầu các công ty AI dừng hoạt động những mô hình gây rủi ro cho tính mạng con người hoặc nền kinh tế.
Bản thân Anthropic cũng từng đối mặt với hạn chế từ chính phủ. Tháng 6, chính quyền Tổng thống Donald Trump yêu cầu công ty hạn chế ngay lập tức quyền truy cập từ nước ngoài đối với các mô hình Mythos 5 và Fable 5 vì lý do an ninh quốc gia. Sau đó Bộ Thương mại Mỹ đã dỡ bỏ yêu cầu này.