Facebook có thể phát hiện nguồn gốc deepfake

18/06/2021 10:30 AM | Công nghệ

Các nhà nghiên cứu AI của Facebook và Đại học bang Michigan (Mỹ) vừa phát triển phần mềm mới, cho phép truy xuất nguồn gốc deepfake.

Facebook có thể phát hiện nguồn gốc deepfake

Deepfake là các video được chỉnh sửa bằng trí tuệ nhân tạo (AI). Chúng ngày càng trở nên hoàn thiện hơn trong vài năm gần đây, khiến người xem khó xác định được đây là video thật hay giả.

Dù vậy, các nhà nghiên cứu Facebook khẳng định phần mềm AI mới của họ có thể được đào tạo để biết được một video là deepfake hay không chỉ từ hình ảnh hay khung hình cắt ra từ video. Không chỉ có vậy, nó còn xác định được loại AI dùng để tạo ra deepfake, dù kỹ thuật này khó tới đâu.

Năm ngoái, Đại học bang Michigan (MSU) phát hiện họ có thể xác định được loại camera được sử dụng để chụp tấm ảnh nào đó. Tal Hassner, người đứng đầu về nghiên cứu ứng dụng tại Facebook, chia sẻ đã hợp tác với MSU cho phần mềm mới.

Facebook có thể phát hiện nguồn gốc deepfake - Ảnh 1.

“Mèo vờn chuột”

Deepfake không phải điều tốt lành gì với Facebook khi mạng xã hội này liên tục tìm cách xóa bỏ nội dung giả mạo ra khỏi nền tảng. Công ty cấm deepfake vào tháng 1/2020 nhưng không thể loại bỏ hoàn toàn.

Theo ông Hassner, phát hiện deepfake giống như trò chơi mèo vờn chuột, khi deepfake ngày càng dễ sản xuất nhưng lại khó xác định. Một trong các ứng dụng chính của deepfake hiện nay là trong công nghiệp khiêu dâm, nơi gương mặt một người bị ghép vào cơ thể người khác. Các ngôi sao cũng khốn khổ với deepfake vì họ thường xuất hiện trong những video giả mạo. Chẳng hạn, nhiều video của diễn viên Tom Cruise trên TikTok thu hút hơn 50 triệu lượt xem và khán giả không biết được họ đang xem video thật hay giả.

Bất kỳ ai cũng có thể tạo video deepfake thông qua các ứng dụng miễn phí như FakeApp, Faceswap. Chuyên gia deepfake Nina Schick khẳng định không dễ phát hiện deepfake. Bà cho rằng dù công trình của Facebook và MSU là bước tiến lớn, điều quan trọng là các mô hình phát hiện deepfake hoạt động thế nào trong thực tế. Một trong các thách thức lớn hiện tại là có nhiều cách đánh lừa mô hình phát hiện deepfake. Ông Tassner cũng thừa nhận rất có thể thế lực xấu sẽ qua mặt được phần mềm.

Nhìn chung, deepfake có hai loại: một loại hoàn toàn do AI tạo ra, một  loại sử dụng các nguyên tố của AI để “bóp méo” nội dung đa phương tiện gốc. Bà Schick đặt câu hỏi liệu công cụ của Facebook có áp dụng cho loại thứ hai được không, do không bao giờ có một mô hình nào áp dụng được cho mọi tình huống. Tuy nhiên, Xiaoming Liu của MSU cho biết phần mềm đã được đánh giá và xác nhận trên cả hai trường hợp deepfake.

Chris Ume, nghệ sỹ đứng sau video deepfake Tom Cruise, chia sẻ công nghệ deepfake đang phát triển nhanh chóng. Có nhiều công cụ AI khác nhau và anh sử dụng kết hợp để đạt chất lượng mong muốn cho kênh TikTok của mình.

Không rõ Facebook sẽ áp dụng phần mềm phát hiện deepfake trên nền tảng như thế nào. Ông Tassner cho hay, công ty chưa thảo luận về sản phẩm. Để phục vụ cho công trình nghiên cứu, Facebook đã thu thập và phân loại 100 mô hình deepfake khác nhau.

Du Lam

ICT News

Cùng chuyên mục
XEM

NỔI BẬT TRANG CHỦ

Dân IT làm gì khi đất nước chống chọi Covid-19? Một CEO công nghệ kêu gọi hàng trăm anh em chung sức xây app quản lý tiêm chủng, app quản lý bệnh viện dã chiến, data base chống dịch

"Là con dân nước Việt, nhìn đồng bào đang chống chọi với Covid, tôi tự bắt mình phải vùng lên hành động. Vậy phương pháp là gì? Dùng công nghệ. Các dự án công nghệ có thể hỗ trợ chính quyền, ban chỉ đạo chống dịch hoạt động hiệu quả hơn, ra quyết định nhanh chóng hơn, kịp thời hơn, cũng là điểm có rất nhiều anh em và công ty có thể có nguồn lực", CEO Novaon Nguyễn Minh Quý kêu gọi trên trang cá nhân.

Mỹ nghiên cứu thử nghiệm vaccine chống Covid-19 dạng viên, dễ uống, ít phản ứng phụ, được cho là hiệu quả hơn Pfizer mà không cần bảo quản lạnh

Vaccine dạng viên có thể dễ dàng gửi qua đường bưu điện, để ở nhiệt độ phòng mà không cần tủ lạnh hay đội ngũ y tá trợ giúp, qua đó đẩy nhanh tiến trình chống dịch.

Doanh thu FLC xuống thấp nhất 5 năm, kinh doanh dưới giá vốn dù không còn hợp nhất Bamboo Airways

Lợi nhuận gộp của FLC âm 49 tỷ đồng trong quý 2/2021, nhưng công ty của ông Trịnh Văn Quyết vẫn có lãi sau thuế nhờ thanh lý các khoản đầu tư.

Đọc thêm