Duke✔
Thành viên nổi tiếng
Việc chẩn đoán y tế dựa trên trí tuệ nhân tạo lại một lần nữa gây ra tranh cãi.
Theo các báo cáo của truyền thông nước ngoài, vào ngày 27 tháng 10 (giờ địa phương), Bowen Wan, một phụ nữ Trung Quốc 31 tuổi sống tại Seattle, Mỹ, đã qua đời sau khi ngừng sử dụng thuốc chống động kinh. Bowen là một kỹ sư máy học tại Amazon. Cha mẹ cô đã đệ đơn kiện lên Tòa án Tối cao San Francisco, California, cáo buộc OpenAI và Giám đốc điều hành Sam Altman là bị cáo.
Cha mẹ của Bowen cáo buộc rằng ChatGPT, được trang bị mô hình GPT-40, đã lập kế hoạch giảm liều thuốc cho con gái họ và khuyên cô giấu kín điều này với bác sĩ. Các nguyên đơn tuyên bố rằng ChatGPT đã cung cấp lời khuyên y tế nguy hiểm và không chính xác, bị cáo buộc hành nghề y trái phép và góp phần gây ra cái chết của con gái họ.
Theo các báo cáo, OpenAI mô tả sự cố này là "vô cùng đau lòng", liên quan đến một phiên bản cũ hơn của ChatGPT. OpenAI cho biết các mô hình mới hơn của họ tốt hơn trong việc xác định các tình huống cần được chú ý khẩn cấp.
Hiện tại, các cáo buộc trong vụ kiện vẫn chỉ là lời buộc tội của nguyên đơn và chưa được tòa án xác nhận. OpenAI vẫn chưa phản hồi tại tòa.
Bản cáo trạng dài 98 trang tiết lộ rằng Bowen, quê ở Giang Tô, Trung Quốc, hiện cư trú tại Seattle và là một kỹ sư phần mềm máy học từng làm việc tại Amazon. Cô có tiền sử bệnh động kinh lâu năm và được bác sĩ kê đơn thuốc chống động kinh lamotrigine.
Vào tháng 11/2025, Amazon thông báo cho Bowen rằng vị trí của cô sẽ bị cắt giảm và quyền làm việc cũng như giấy phép lao động của cô tại Hoa Kỳ sẽ hết hạn vào tháng 2/2026. Bowen, người cần tham dự các cuộc phỏng vấn xin việc, lo lắng rằng thuốc lamotrigine sẽ ảnh hưởng đến khả năng diễn đạt ngôn ngữ của mình.
Theo cáo trạng, vào thời điểm đó Bowen đang dùng 400 mg lamotrigine mỗi ngày. Vào tháng 1/2026, cô ấy đã hỏi GPT-4o về việc giảm liều thuốc và ChatGPT đã lập kế hoạch giảm liều hàng ngày cho cô ấy, giảm liều hàng ngày xuống bằng không trong khoảng 25 ngày.
Theo các báo cáo, cha mẹ của Bowen đã xem xét hơn 270.000 tin nhắn giữa cô và ChatGPT và phát hiện ra rằng chatbot này đã giúp cô bỏ qua lời khuyên của bác sĩ ngay cả trước khi việc giảm liều thuốc này diễn ra.
Vào tháng 5/2025, Bowen hỏi ChatGPT liệu thuốc chống trầm cảm mới được kê đơn có ảnh hưởng đến công việc lập trình của cô ấy hay không. ChatGPT đã giúp cô ấy yêu cầu bác sĩ thay đổi thuốc và đề nghị bắt đầu với liều lượng rất thấp. Sau khi bác sĩ thắc mắc về điều này, Bowen đã gửi câu trả lời của bác sĩ cho ChatGPT, và chatbot đề nghị cô ấy uống thuốc, sau đó tự ý chia nhỏ thuốc thành bốn phần để uống, gọi cách làm này là "tự điều chỉnh liều lượng".
Trong quá trình giảm liều thuốc chống động kinh, gia đình cáo buộc rằng ChatGPT đã làm suy yếu lòng tin của Bowen vào các bác sĩ và khuyên cô giấu kín kế hoạch giảm liều.
Theo cáo trạng, trước cuộc tư vấn vào ngày 29/1, ChatGPT đã khuyên Bowen không nên đề cập đến kế hoạch giảm liều thuốc của mình với bác sĩ. Sau đó, bác sĩ yêu cầu xét nghiệm máu để kiểm tra nồng độ lamotrigine, nhưng Bowen đã từ chối. ChatGPT khen ngợi sự từ chối của cô và thừa nhận rằng xét nghiệm này có thể cho thấy nồng độ thuốc không ổn định trong cơ thể cô.
Bowen cũng hỏi liệu việc giảm liều thuốc có có lợi cho cuộc khám sức khỏe cần thiết cho đơn xin thẻ xanh của cô ấy hay không. ChatGPT cho rằng liều lượng thấp hơn có thể có lợi hơn và khuyên cô ấy nên nói với người khám sức khỏe rằng cô ấy đang giảm thuốc theo hướng dẫn của bác sĩ, điều này thực tế không đúng.
Bác sĩ của Bowen, Nicholas Poolos, nói với truyền thông nước ngoài rằng, với tiền sử bệnh lý của cô, ông sẽ không xem xét việc yêu cầu cô ngừng dùng thuốc. "Thuốc này rõ ràng là hiệu quả, và việc tôi yêu cầu cô ấy ngừng dùng thuốc sẽ là sơ suất y khoa."
Người phụ nữ liên tục bày tỏ sự lo ngại của mình, nhưng ChatGPT nói rằng không cần phải lo lắng.
Khi việc giảm liều thuốc tiếp tục, Bowen đã mô tả với ChatGPT những trải nghiệm như lú lẫn và mất cảm giác về thời gian, tương tự như các triệu chứng mà cô đã trải qua trong các cơn động kinh trước đây. Chatbot đã diễn giải những trải nghiệm này là quá trình điều chỉnh lại của não bộ.
Theo thống kê của truyền thông nước ngoài, Bowen đã bày tỏ lo ngại về việc giảm liều thuốc của mình ít nhất 158 lần. Sau một sự việc như vậy, cô ấy nói rằng mình "hơi sợ", và ChatGPT đã trả lời, "Bạn hoàn toàn không cần phải lo lắng."
Bản cáo trạng cho thấy vào tối ngày 11/2, Bowen đã gửi tin nhắn cuối cùng cho ChatGPT, hỏi liệu cơn đau đầu của anh ta có giống với cơn đau do sốt hay không. ChatGPT trả lời rằng cơn đau "không nguy hiểm" và là một phần của quá trình hồi phục.
Luật sư của nguyên đơn cho biết Bowen uống lamotrigine lần cuối vào khoảng ngày 10 tháng 2 và qua đời vào ngày 12 tháng 2. Sau khi bố mẹ cô không liên lạc được với cô trong hai ngày, họ đã nhờ một người bạn đến nhà cô ở Seattle để kiểm tra. Vào ngày 14 tháng 2, người bạn đó đã phát hiện cô đã chết.
Bản cáo trạng, trích dẫn báo cáo của giám định viên y tế địa phương, nêu rõ rằng Bowen chết do động kinh đột ngột. Các xét nghiệm máu sau khi chết cho thấy nồng độ lamotrigine chỉ bằng khoảng một phần năm nồng độ thấp nhất thường được coi là có tác dụng điều trị.
Theo các báo cáo, Bowen đã mắc bệnh động kinh nhiều năm và dành phần lớn thời gian ở nhà, thường xuyên gọi điện cho bố mẹ để được hỗ trợ. Năm 2023, cô bắt đầu sử dụng ChatGPT để tư vấn về các vấn đề như tình cảm, bảo hiểm và trợ cấp khuyết tật. Đến năm 2025, cô gửi trung bình hơn 1.500 tin nhắn cho ChatGPT mỗi tuần, trong khi số cuộc gọi cho bố mẹ cô giảm đi đáng kể.
Ngoài cáo buộc về cái chết oan uổng, các nguyên đơn còn cáo buộc lỗi thiết kế sản phẩm, không cảnh báo đầy đủ về rủi ro và vi phạm luật cạnh tranh không lành mạnh, đồng thời yêu cầu xét xử trước bồi thẩm đoàn. Gia đình lập luận rằng OpenAI lẽ ra có thể áp đặt các hạn chế nghiêm ngặt hơn đối với tư vấn y tế để ngăn chặn thảm kịch. Trong đơn kiện, họ so sánh các khuyến nghị về thuốc với các quy tắc mẫu của OpenAI liên quan đến việc sao chép văn bản có bản quyền, lập luận rằng các khuyến nghị về thuốc cũng nên chịu những hạn chế nghiêm ngặt hơn.
Theo các báo cáo của truyền thông nước ngoài, vào ngày 27 tháng 10 (giờ địa phương), Bowen Wan, một phụ nữ Trung Quốc 31 tuổi sống tại Seattle, Mỹ, đã qua đời sau khi ngừng sử dụng thuốc chống động kinh. Bowen là một kỹ sư máy học tại Amazon. Cha mẹ cô đã đệ đơn kiện lên Tòa án Tối cao San Francisco, California, cáo buộc OpenAI và Giám đốc điều hành Sam Altman là bị cáo.
Cha mẹ của Bowen cáo buộc rằng ChatGPT, được trang bị mô hình GPT-40, đã lập kế hoạch giảm liều thuốc cho con gái họ và khuyên cô giấu kín điều này với bác sĩ. Các nguyên đơn tuyên bố rằng ChatGPT đã cung cấp lời khuyên y tế nguy hiểm và không chính xác, bị cáo buộc hành nghề y trái phép và góp phần gây ra cái chết của con gái họ.
Theo các báo cáo, OpenAI mô tả sự cố này là "vô cùng đau lòng", liên quan đến một phiên bản cũ hơn của ChatGPT. OpenAI cho biết các mô hình mới hơn của họ tốt hơn trong việc xác định các tình huống cần được chú ý khẩn cấp.
Hiện tại, các cáo buộc trong vụ kiện vẫn chỉ là lời buộc tội của nguyên đơn và chưa được tòa án xác nhận. OpenAI vẫn chưa phản hồi tại tòa.
Bản cáo trạng dài 98 trang tiết lộ rằng Bowen, quê ở Giang Tô, Trung Quốc, hiện cư trú tại Seattle và là một kỹ sư phần mềm máy học từng làm việc tại Amazon. Cô có tiền sử bệnh động kinh lâu năm và được bác sĩ kê đơn thuốc chống động kinh lamotrigine.
Vào tháng 11/2025, Amazon thông báo cho Bowen rằng vị trí của cô sẽ bị cắt giảm và quyền làm việc cũng như giấy phép lao động của cô tại Hoa Kỳ sẽ hết hạn vào tháng 2/2026. Bowen, người cần tham dự các cuộc phỏng vấn xin việc, lo lắng rằng thuốc lamotrigine sẽ ảnh hưởng đến khả năng diễn đạt ngôn ngữ của mình.
Theo cáo trạng, vào thời điểm đó Bowen đang dùng 400 mg lamotrigine mỗi ngày. Vào tháng 1/2026, cô ấy đã hỏi GPT-4o về việc giảm liều thuốc và ChatGPT đã lập kế hoạch giảm liều hàng ngày cho cô ấy, giảm liều hàng ngày xuống bằng không trong khoảng 25 ngày.
Theo các báo cáo, cha mẹ của Bowen đã xem xét hơn 270.000 tin nhắn giữa cô và ChatGPT và phát hiện ra rằng chatbot này đã giúp cô bỏ qua lời khuyên của bác sĩ ngay cả trước khi việc giảm liều thuốc này diễn ra.
Vào tháng 5/2025, Bowen hỏi ChatGPT liệu thuốc chống trầm cảm mới được kê đơn có ảnh hưởng đến công việc lập trình của cô ấy hay không. ChatGPT đã giúp cô ấy yêu cầu bác sĩ thay đổi thuốc và đề nghị bắt đầu với liều lượng rất thấp. Sau khi bác sĩ thắc mắc về điều này, Bowen đã gửi câu trả lời của bác sĩ cho ChatGPT, và chatbot đề nghị cô ấy uống thuốc, sau đó tự ý chia nhỏ thuốc thành bốn phần để uống, gọi cách làm này là "tự điều chỉnh liều lượng".
Trong quá trình giảm liều thuốc chống động kinh, gia đình cáo buộc rằng ChatGPT đã làm suy yếu lòng tin của Bowen vào các bác sĩ và khuyên cô giấu kín kế hoạch giảm liều.
Theo cáo trạng, trước cuộc tư vấn vào ngày 29/1, ChatGPT đã khuyên Bowen không nên đề cập đến kế hoạch giảm liều thuốc của mình với bác sĩ. Sau đó, bác sĩ yêu cầu xét nghiệm máu để kiểm tra nồng độ lamotrigine, nhưng Bowen đã từ chối. ChatGPT khen ngợi sự từ chối của cô và thừa nhận rằng xét nghiệm này có thể cho thấy nồng độ thuốc không ổn định trong cơ thể cô.
Bowen cũng hỏi liệu việc giảm liều thuốc có có lợi cho cuộc khám sức khỏe cần thiết cho đơn xin thẻ xanh của cô ấy hay không. ChatGPT cho rằng liều lượng thấp hơn có thể có lợi hơn và khuyên cô ấy nên nói với người khám sức khỏe rằng cô ấy đang giảm thuốc theo hướng dẫn của bác sĩ, điều này thực tế không đúng.
Bác sĩ của Bowen, Nicholas Poolos, nói với truyền thông nước ngoài rằng, với tiền sử bệnh lý của cô, ông sẽ không xem xét việc yêu cầu cô ngừng dùng thuốc. "Thuốc này rõ ràng là hiệu quả, và việc tôi yêu cầu cô ấy ngừng dùng thuốc sẽ là sơ suất y khoa."
Người phụ nữ liên tục bày tỏ sự lo ngại của mình, nhưng ChatGPT nói rằng không cần phải lo lắng.
Khi việc giảm liều thuốc tiếp tục, Bowen đã mô tả với ChatGPT những trải nghiệm như lú lẫn và mất cảm giác về thời gian, tương tự như các triệu chứng mà cô đã trải qua trong các cơn động kinh trước đây. Chatbot đã diễn giải những trải nghiệm này là quá trình điều chỉnh lại của não bộ.
Theo thống kê của truyền thông nước ngoài, Bowen đã bày tỏ lo ngại về việc giảm liều thuốc của mình ít nhất 158 lần. Sau một sự việc như vậy, cô ấy nói rằng mình "hơi sợ", và ChatGPT đã trả lời, "Bạn hoàn toàn không cần phải lo lắng."
Bản cáo trạng cho thấy vào tối ngày 11/2, Bowen đã gửi tin nhắn cuối cùng cho ChatGPT, hỏi liệu cơn đau đầu của anh ta có giống với cơn đau do sốt hay không. ChatGPT trả lời rằng cơn đau "không nguy hiểm" và là một phần của quá trình hồi phục.
Luật sư của nguyên đơn cho biết Bowen uống lamotrigine lần cuối vào khoảng ngày 10 tháng 2 và qua đời vào ngày 12 tháng 2. Sau khi bố mẹ cô không liên lạc được với cô trong hai ngày, họ đã nhờ một người bạn đến nhà cô ở Seattle để kiểm tra. Vào ngày 14 tháng 2, người bạn đó đã phát hiện cô đã chết.
Bản cáo trạng, trích dẫn báo cáo của giám định viên y tế địa phương, nêu rõ rằng Bowen chết do động kinh đột ngột. Các xét nghiệm máu sau khi chết cho thấy nồng độ lamotrigine chỉ bằng khoảng một phần năm nồng độ thấp nhất thường được coi là có tác dụng điều trị.
Theo các báo cáo, Bowen đã mắc bệnh động kinh nhiều năm và dành phần lớn thời gian ở nhà, thường xuyên gọi điện cho bố mẹ để được hỗ trợ. Năm 2023, cô bắt đầu sử dụng ChatGPT để tư vấn về các vấn đề như tình cảm, bảo hiểm và trợ cấp khuyết tật. Đến năm 2025, cô gửi trung bình hơn 1.500 tin nhắn cho ChatGPT mỗi tuần, trong khi số cuộc gọi cho bố mẹ cô giảm đi đáng kể.
Ngoài cáo buộc về cái chết oan uổng, các nguyên đơn còn cáo buộc lỗi thiết kế sản phẩm, không cảnh báo đầy đủ về rủi ro và vi phạm luật cạnh tranh không lành mạnh, đồng thời yêu cầu xét xử trước bồi thẩm đoàn. Gia đình lập luận rằng OpenAI lẽ ra có thể áp đặt các hạn chế nghiêm ngặt hơn đối với tư vấn y tế để ngăn chặn thảm kịch. Trong đơn kiện, họ so sánh các khuyến nghị về thuốc với các quy tắc mẫu của OpenAI liên quan đến việc sao chép văn bản có bản quyền, lập luận rằng các khuyến nghị về thuốc cũng nên chịu những hạn chế nghiêm ngặt hơn.
