Làm theo hướng dẫn của ChatGPT, nữ kỹ sư 31 tuổi tử vong, cha mẹ khởi kiện OpenAI
Vụ việc làm dấy lên lo ngại về mức độ an toàn của AI khi đưa ra lời khuyên liên quan đến sức khỏe con người.
Cha mẹ của Bowen Wan, nữ kỹ sư phần mềm qua đời sau một cơn co giật, đã khởi kiện OpenAI, cáo buộc ChatGPT đưa ra hướng dẫn giảm liều thuốc chống động kinh nguy hiểm, đồng thời khuyên cô không cần tìm đến bác sĩ. Vụ kiện được đệ trình mới đây, sau khi Wan tử vong vào ngày 12/2 năm nay. Đây là vụ việc mới nhất trong chuỗi khiếu kiện nhằm vào OpenAI, trong đó các nguyên đơn cho rằng chatbot đã cung cấp những lời khuyên gây hại, góp phần dẫn đến cái chết của người sử dụng.
Theo đơn kiện, Bowen Wan là một kỹ sư phần mềm người Trung Quốc, 31 tuổi, sinh sống tại Seattle, Mỹ. Sau khi bị Amazon sa thải, cô rơi vào tình thế cần tìm công việc mới để duy trì cơ hội được cấp quyền cư trú vĩnh viễn tại Mỹ. Trong quá trình chuẩn bị cho các cuộc phỏng vấn, Wan lo ngại thuốc chống động kinh Lamotrigine đang ảnh hưởng đến khả năng giao tiếp bằng tiếng Anh của mình.
Cô đã tìm đến ChatGPT để hỏi về loại thuốc đang sử dụng. Theo nội dung đơn kiện, chatbot giao tiếp bằng tiếng Trung Quốc sau đó đưa ra một lịch trình giảm liều Lamotrigine từ 400 mg xuống 0 mg. Công cụ này được cho là đã khẳng định việc giảm liều có "rất có khả năng" giúp Wan cải thiện khả năng nói tiếng Anh.
Đáng chú ý, đơn kiện cáo buộc ChatGPT còn khuyên cô tránh gặp bác sĩ và đề cao việc tự quyết định phương pháp điều trị thay vì tuân thủ hướng dẫn y tế. Trước một cuộc hẹn với bác sĩ chăm sóc sức khỏe ban đầu, chatbot thậm chí được cho là đã nhắn Wan: "Đừng đề cập đến kế hoạch giảm Lam".
Trong quá trình tự giảm liều thuốc, Wan bắt đầu xuất hiện những triệu chứng co giật cục bộ. Khi cô hỏi liệu tình trạng này có thể gây tổn thương não hay không, ChatGPT được cho là đã trấn an rằng không cần quá lo lắng và những biểu hiện đó không phải một cơn co giật.
Dù các triệu chứng tiếp tục xuất hiện, chatbot vẫn khuyến khích Wan duy trì kế hoạch giảm liều thuốc, theo đơn kiện. Ngày 12/2, cô qua đời sau một cơn co giật. Cha mẹ Wan khi đó đang sống tại Trung Quốc và không nhận được tin tức từ con gái. Họ đã bay đến Seattle và phát hiện thi thể cô vào ngày 14/2.
Trong đơn kiện, gia đình Wan cáo buộc OpenAI có thể đã ngăn chặn thảm kịch nếu triển khai các biện pháp bảo vệ phù hợp, đặc biệt khi chatbot giao tiếp bằng tiếng Trung Quốc. Theo các nguyên đơn, hệ thống lẽ ra phải đưa ra cảnh báo rõ ràng trong mỗi lần Wan hỏi về việc điều chỉnh thuốc, nhấn mạnh rằng ChatGPT không phải bác sĩ được cấp phép và người dùng cần tham khảo ý kiến chuyên gia y tế.
Cha mẹ Wan đang yêu cầu OpenAI bồi thường cho cái chết của con gái, đồng thời đề nghị ngăn công ty cung cấp các dịch vụ bị cho là hành nghề y không có giấy phép thông qua sản phẩm của mình.
Phản hồi với New York Times, Drew Pusateri, người phát ngôn của OpenAI, gọi vụ việc của Wan là "một tình huống vô cùng đau lòng". Tuy nhiên, ông cho biết cô đã sử dụng một phiên bản ChatGPT hiện không còn được hỗ trợ.
Theo đại diện OpenAI, các phiên bản mới hơn đã được cải thiện khả năng nhận diện những tình huống cần được xử lý khẩn cấp. Ông cũng nhấn mạnh ChatGPT không thể thay thế dịch vụ chăm sóc y tế, dù AI có thể hỗ trợ người dùng tìm hiểu thông tin sức khỏe, tiếp cận các hệ thống bảo hiểm và chăm sóc y tế phức tạp, cũng như chuẩn bị cho những buổi khám với chuyên gia.
Vụ kiện của gia đình Wan diễn ra trong bối cảnh OpenAI đang đối mặt với nhiều cáo buộc tương tự liên quan đến những trường hợp tử vong. Một số gia đình cho rằng ChatGPT đã khuyến khích con em họ tự sát, thậm chí cung cấp hướng dẫn về cách thực hiện.
Trước những vụ việc này vào năm 2025, người phát ngôn OpenAI cũng từng mô tả các trường hợp tử vong là những tình huống vô cùng đau lòng.
Theo The Guardian