Viễn cảnh khủng khiếp nhất đã đến: Một công ty dụ dỗ mọi người "bán linh hồn" cho AI - Quá phi đạo đức!

"Bán linh hồn cho AI"

Khi được đề nghị hợp đồng thương hiệu trị giá năm con số để quảng bá cho một công ty chưa từng nghe đến trên TikTok, chuyên gia tư vấn nghề nghiệp Eve Peña cảm thấy rất tò mò.

Nhưng cô sửng sốt ngay sau đó khi yêu cầu mà phía công ty StartupHelper đưa ra là một dịch vụ tạo các bản sao AI của con người, mang hình dáng hoàn toàn giống người thật, mục đích là để tham gia các cuộc phỏng vấn việc làm ảo và tạo ra câu trả lời dựa trên sơ yếu lý lịch của khách hàng.

"Thứ đầu tiên tôi nghĩ trong đầu là điều này thực sự phi đạo đức. Mọi người cũng sẽ nghĩ như tôi", Peña nói với NBC News. Về bên phía công ty đề nghị, họ cũng thừa nhận: "Chà, tôi cũng nghĩ điều đó là phi đạo đức… nhưng chúng tôi sẽ tạo ra một số thứ để bạn có thể hóa giải những bình luận ghét bỏ".

Peña là một trong ba nhà sáng tạo nội dung được tiếp cận với lời đề nghị, những người nhanh chóng cảnh giác rằng đó là một trò lừa đảo. Chưa đầy hai tuần sau, công ty StartupHelper chuyển sang hoạt động ẩn, với nội dung trang web bị gỡ xuống hoàn toàn và trang TikTok được đặt ở chế độ riêng tư.

Đó là câu chuyện kỳ lạ kể về sự va chạm của hai động lực riêng biệt: thế giới hợp tác mờ ám, trong đó những người sáng tạo được tiếp cận để quảng bá cho các công ty xa lạ và sự nổi lên của công nghệ AI nhiều tiềm năng nhưng không có sự giám sát.

"Họ đưa ra số tiền điên rồ khiến tôi phải suy nghĩ. Đây chắc hẳn là một kiểu lừa đảo nào đó", Peña nói về thỏa thuận hứa hẹn trị giá 48.000 USD (1,2 tỷ đồng) trong sáu tháng, cũng như hoa hồng 10% cho mỗi khách hàng gia nhập nền tảng.

Công ty sẽ tính phí trả trước 500 USD cho khách hàng cùng với 10% tiền lương năm đầu tiên nếu họ nhận được việc làm bằng cách sử dụng dịch vụ.

Sự bùng nổ của các AI tạo sinh đã mở ra cơ hội cho nhiều mục đích sử dụng khác nhau, từ soạn thảo email đến tạo ra deepfake, làm dấy lên cơn sốt tìm ra cách tận dụng công nghệ mới.

Trong lĩnh vực nhân sự, điều đó đặt ra câu hỏi về việc nhà tuyển dụng nên sử dụng AI ở mức độ nào để xem xét các hồ sơ ứng tuyển và liệu người nộp đơn có nguy cơ vượt qua ranh giới đạo đức với sơ yếu lý lịch và thư xin việc do AI tạo ra hay không.

Nhưng một bản sao do AI tạo ra - thứ mà StartupHelper mô tả là "nhân bản cơ thể kỹ thuật số thay mặt người thật để tham dự các cuộc phỏng vấn xin việc" – đã vượt quá giới hạn đối với một số nhà sáng tạo chuyên về nội dung nghề nghiệp.

Phi đạo đức

Nội dung nghề nghiệp đã trở thành phân khúc phổ biến trên TikTok và các nền tảng công nghệ khác, nơi những người có ảnh hưởng thường xuyên thu hút hàng trăm nghìn người theo dõi.

Peña, người có các video tập trung vào cách chỉ dạy mọi người các vấn đề liên quan đến nghề nghiệp đã nhanh chóng chỉ trích StartupHelper trên trang TikTok của mình là phi đạo đức.

Sau khi video của Peña bắt đầu thu hút được sự chú ý, các tài khoản bot bắt đầu tràn ngập vào bình luận cho rằng StartupHelper đã giúp họ có được việc làm.

Sau khi sử dụng bộ lọc để chặn bất kỳ bình luận nào đề cập đến tên công ty, trang TikTok của chính StartupHelper đã bắt đầu đăng các video chê bai Peña.

StartupHelper không trả lời về ồn ào trên. Địa chỉ email startuphelper.com không còn hoạt động. Trang web cũng thông báo sẽ quay trở lại với một sản phẩm "đạo đức hơn".  

Câu chuyện này là minh chứng mới nhất cho những lo ngại về đạo đức và an ninh xung quanh sử dụng công nghệ AI không được kiểm soát, làm nổi bật việc các nhà sáng tạo thường gặp khó khăn khi cân bằng đạo đức cá nhân với nhu cầu kiếm tiền từ sáng tạo nội dung.

Kể từ khi OpenAI giới thiệu ChatGPT vào cuối năm ngoái, ngành công nghệ đã dự đoán sự bùng nổ về số lượng các công ty khởi nghiệp muốn sử dụng AI tạo sinh– hệ thống trí tuệ nhân tạo có khả năng tạo ra nội dung giống con người, bao gồm bản in, ảnh và video – cho mọi loại dịch vụ kinh doanh và tiêu dùng.

Một số công ty đã đẩy mạnh các công nghệ giúp mọi người tạo ra các phiên bản AI của chính họ. Aphid, một công ty fintech tạo ra các nhân viên AI để xử lý nhiều nhiệm vụ trực tuyến cùng một lúc, hình dung ra một tương lai trong đó mọi người tạo ra các bản sao kỹ thuật số có thể hoạt động thay thế bản thân.

Những công ty như vậy phần lớn vẫn chưa được kiểm soát, mặc dù đã có rất nhiều cuộc thảo luận về cách viết ra các quy tắc liên quan đến sự phát triển của AI.

"Tôi đã dành ba năm trên mạng xã hội và không bao giờ muốn mạo hiểm danh tiếng của bản thân chỉ vì một số tiền", Peña nói.

Những người sáng tạo cũng cho biết số tiền mà StartupHelper đưa ra dường như quá tốt để có thể là sự thật.

Nhưng Gabrielle Judge, người sáng tạo TikTok cho biết khoản thanh toán thực sự không hề hời khi bạn xem xét kỹ hơn yêu cầu. Họ yêu cầu một bài đăng mỗi ngày trong sáu tháng, bên cạnh việc đưa liên kết của StartupHelper vào tiểu sử của người sáng tạo.

"Lúc đầu, bạn nghĩ đó là số tiền tuyệt vời, nhưng sau đó khi nhìn vào công việc thực tế, bạn thấy nó không đáng chút nào", Judge nói.

Theo Mạnh Kiên