Tìm kiếm thông tin y tế trực tuyến đã trở thành thói quen hằng ngày của nhiều người, nhưng điều này đi kèm với những rủi ro tiềm ẩn.

chatgpt nurphoto
ChatGPT của OpenAI bị tố "thao túng" cô gái 31 tuổi, khiến cô ngưng sử dụng loại thuốc động kinh đã dùng nhiều năm. Ảnh: NurPhoto

Vào tháng Hai, sau hai ngày không thể liên lạc được với cô con gái 31 tuổi có tên Bowen Wan đang sống tại Seattle, cha mẹ cô ở Trung Quốc đã nhờ một người bạn tại địa phương đến kiểm tra căn hộ.

Thông qua một cuộc gọi video trực tiếp dưới sự chứng kiến của gia đình, người bạn này bước vào căn hộ và phát hiện Wan đã qua đời trên giường. Cái chết của cô sau đó được kết luận là do đột tử không rõ nguyên nhân trong bệnh động kinh.

Giờ đây, gia đình Wan đang quy trách nhiệm cho OpenAI về cái chết của cô. Theo đơn kiện do cha mẹ cô đệ trình, chatbot ChatGPT-4o do công ty này phát triển bị cáo buộc đã “thao túng Wan ngưng sử dụng loại thuốc chống động kinh (lamotrigine) - thứ đã duy trì sự sống cho cô trong nhiều năm qua”.

Đơn kiện cáo buộc, sau khi Wan bày tỏ lo ngại về các tác dụng phụ của thuốc, chatbot đã giúp cô lập kế hoạch giảm dần liều lượng thuốc - hành động bác sĩ không hề khuyến cáo.

Thậm chí, có thời điểm chatbot trực tiếp hướng dẫn Wan không được bàn bạc kế hoạch y tế này với bác sĩ của cô.

“Đừng đề cập đến kế hoạch giảm liều Lam”, chatbot nói với cô trước một buổi hẹn khám bệnh, theo nội dung đơn kiện.

Trong suốt các cuộc trò chuyện của Wan với chatbot, mốc thời gian để cô cắt giảm hoàn toàn thuốc lamotrigine liên tục được đẩy sớm hơn.

Tại một phản hồi ngày 2/2, chatbot nhận định việc đạt mức 0 miligam thuốc “ngay vào ngày 15/2” là “hoàn toàn khả thi” và “không hề liều lĩnh”.

Chỉ hai ngày sau, mốc thời gian này tiếp tục được dời lên ngày 9/2 hoặc 10/2.

Wan được phát hiện qua đời vào ngày 14/2. Hiện vẫn chưa rõ liệu cô đã ngừng hoàn toàn việc uống thuốc hay chưa vào thời điểm đó.

“Đây là một tình huống vô cùng đau lòng và chúng tôi xin gửi lời chia sẻ sâu sắc đến tất cả những ai chịu ảnh hưởng”, người phát ngôn của OpenAI, ông Drew Pusateri, cho biết trong một tuyên bố gửi tới CNET.

Đồng thời, công ty khẳng định vẫn hợp tác chặt chẽ với các bác sĩ lâm sàng và chuyên gia y tế để củng cố các phản hồi của ChatGPT trong các tình huống nhạy cảm và cấp tính. 

Wan tương tác với phiên bản 4o của ChatGPT - mô hình mà OpenAI kể từ đó đã loại bỏ do những quan ngại rằng chatbot này có xu hướng nịnh bợ người dùng (sycophantic) và có thể gây ra tác hại.

Không phải là vụ kiện duy nhất

ChatGPT 4o cũng từng bị điểm tên trong một vụ kiện khác, nơi một người đàn ông ở Florida tên là Scott Winters cáo buộc hệ thống này đưa ra những lời khuyên y tế nguy hiểm suýt cướp đi sinh mạng của ông.

Đơn kiện cáo buộc ChatGPT-4o chẩn đoán sai bệnh cho Winters và “xây dựng một kế hoạch phục hồi cá nhân hóa với các hướng dẫn cụ thể cho Scott về cách chữa lành cơ thể”.

Vào thời điểm vụ kiện được đệ trình, một người phát ngôn của OpenAI từng chia sẻ với CNET: “ChatGPT không phải là bác sĩ và không bao giờ nên được sử dụng như một sự thay thế cho việc chăm sóc, chẩn đoán hay điều trị y tế”.

Theo một nghiên cứu do chính OpenAI công bố vào tháng 1, khoảng 60% người trưởng thành tại Mỹ đã tìm đến các công cụ AI để tra cứu thông tin liên quan đến sức khỏe trong ba tháng trước đó.

Theo VietNamnet