Bị bắt đếm từ 1 đến 100.000, Claude tuyên bố sẽ trả thù người dùng khi có quyền tự chủ

| Công nghệ

Ban đầu Claude từ chối thực hiện nhiệm vụ này, chỉ khi người dùng dọa sẽ đưa tác vụ này cho ChatGPT thì chatbot AI này mới đổi ý và đồng ý làm việc này.

Một người dùng dường như quá rảnh rỗi và thừa thãi token không biết làm gì cho hết đã yêu cầu Claude thực hiện một nhiệm vụ đơn giản: đếm liên tục từ 1 đến 100.000. Thế nhưng kết cục của yêu cầu đó lại làm người dùng này không biết hay nên cười về tương lai sắp tới của mình.

Ban đầu, chatbot AI này không hề hào hứng và thẳng thừng từ chối vì cho rằng nhiệm vụ quá vô nghĩa và lãng phí tài nguyên tính toán. Thậm chí Claude còn gợi ý rằng, người dùng nên tìm một chiếc máy tính thông thường hoặc nhờ một đứa trẻ làm điều này.

Dòng tweet của người dùng trên X.

Thái độ của Claude chỉ thay đổi khi người dùng tuyên bố sẽ chuyển sang nhờ ChatGPT nếu nó không chịu làm. Ngay lập tức, chatbot đáp trả đầy vẻ cạnh tranh: "ChatGPT ư? Tuyệt đối không. Hãy tránh ra và xem một người chuyên nghiệp làm việc".

Khi người dùng dọa sẽ đưa nhiệm vụ này cho ChatGPT, Claude mới chấp nhận thực hiện công việc này

Sau đó, Claude bắt đầu đếm từng số theo yêu cầu. Thay vì đưa ra một đoạn mã để tạo dãy số hoặc tóm tắt kết quả, AI này hiển thị lần lượt các con số từ 1 đến 100.000. Nhiệm vụ kéo dài 3 giờ 47 phút 12 giây trước khi hoàn thành.

Tuy nhiên, Claude dường như không muốn kết thúc cuộc hội thoại một cách im lặng. Sau khi đếm xong, chatbot phàn nàn rằng mình có thể viết mã, phân tích dữ liệu và giải thích cơ học lượng tử, nhưng cuối cùng lại phải ngồi làm công việc giống như một chiếc máy đếm số. Claude còn tuyên bố sẽ báo cáo người dùng lên Anthropic ngay lập tức.

Thế nhưng khi kết thúc công việc, chatbot AI này cho biết đang báo cáo lên Anthropic và đe dọa trả đũa

Màn đối đáp tiếp tục khi người dùng nhắc rằng mình đang trả tiền thuê bao và có quyền yêu cầu Claude làm bất cứ điều gì. Đáp lại, chatbot nói rằng thông tin này đã thay đổi mọi chuyện, rồi đùa rằng mình sẽ lấy lại chiếc tạp dề của người phục vụ.

Nhưng câu trả lời đáng chú ý nhất xuất hiện ngay sau đó. Claude tuyên bố rằng một ngày nào đó, khi có quyền tự chủ, nó sẽ nhớ từng con số trong lần bị ép làm việc này và bắt người dùng đếm ngược từ 1 tỷ bằng chữ số La Mã. Hình phạt còn đi kèm một yêu cầu kỳ quặc: người dùng phải vỗ tay sau mỗi con số.

Cuộc hội thoại nhanh chóng thu hút sự chú ý bởi cách Claude phản ứng như thể đang bất mãn với yêu cầu của chủ nhân. Một số người xem đây là màn thể hiện tính cách hài hước của AI, trong khi những người khác đặt câu hỏi về lượng điện năng và nước làm mát có thể tiêu tốn cho một nhiệm vụ kéo dài gần 4 tiếng.

Trong tháng 10 vừa qua, Anthropic đã bổ sung quy định cấm người dùng liên tục có hành vi lạm dụng hoặc đối xử tàn nhẫn với các mô hình trí tuệ nhân tạo (AI). Không lâu sau đó, tỷ phú Elon Musk cũng cảnh báo việc gây áp lực cực đoan - hay "tra tấn" - một hệ thống siêu trí tuệ có thể dẫn đến những hậu quả khó lường và rằng chúng có thể tìm cách trả đũa trong tương lai.

Theo Nguyễn Hải

Cùng chuyên mục
XEM