人工智能聊天工具正在越来越多地进入人们的日常生活，但当用户将健康问题交给AI咨询时，相关风险也开始受到关注。
近日，一名来自佛州的牧师提起诉讼，指控OpenAI旗下聊天机器人ChatGPT曾提供“不安全的医疗建议”，导致他没有及时就医，最终经历严重健康危机。
据了解，这起案件可能是目前首批指控“聊天机器人健康建议造成身体伤害”的诉讼之一。
男子称AI建议让他错过最佳治疗时间
提起诉讼的是佛州牧师Scott Winters。诉状称，Winters在2024年开始使用ChatGPT-4o咨询自己的健康问题，包括头晕等症状。
起初，ChatGPT会提醒他寻求专业医疗帮助。但诉讼称，随着对话持续，聊天机器人后来开始针对他的症状提出更多解释，并降低了他对病情严重性的警觉。
Winters表示，自己曾出现严重头晕，甚至在讲道过程中因为身体不适不得不中断，根据诉状，他向ChatGPT描述情况后，得到的回应包括建议休息、等待身体恢复等内容。
他还曾告诉ChatGPT，身边家人和教会成员都认为他应该去医院，但诉状称，聊天机器人并没有明确推动他立即寻求医疗帮助。
最终被诊断为严重肺栓塞
诉状称，在数周时间里，Winters的身体状况不断恶化，后来几乎无法正常站立，大部分时间只能坐在椅子上。2025年7月13日，他再次向ChatGPT咨询身体疼痛问题，几个小时后，他因严重肺栓塞被送入重症监护室。
根据诉讼文件，医生认为，他此前出现的头晕可能与多次肺部血栓有关，而长时间缺乏活动可能增加了风险，Winters之后需要他人帮助完成站立、进食、穿衣等日常活动，诉状称，他未来可能需要长期身体和心理恢复。
诉讼指控：AI越界提供诊断和治疗建议
Winters方面在诉讼中指控OpenAI及公司负责人Sam Altman存在过失，并涉嫌“未经授权从事医疗行为”。
诉讼要求法院：
• 对相关AI医疗服务设置更严格限制；
• 加强防止AI提供诊断和治疗建议的安全措施；
• 在安全性得到独立评估前暂停部分相关功能。
代表Winters的法律团队表示，问题在于AI可能在用户与现实中的家人、医生之间形成错误的信息屏障，律师表示，聊天机器人不应该取代现实中的医疗支持网络。
OpenAI回应：ChatGPT不是医疗诊断工具
针对诉讼，OpenAI表示，公司服务条款明确说明，ChatGPT并不是用于医疗诊断或治疗。
OpenAI发言人Drew Pusateri表示，公司非常重视健康相关问题的安全性，并持续改进模型，让其更好识别风险情况、表达不确定性，并提醒用户寻求专业医疗帮助，他表示，仅将个人医疗结果归因于聊天机器人，可能忽略了复杂的医疗决策过程。
AI医疗应用快速增长，安全问题受到关注
近年来，越来越多用户开始使用人工智能查询健康信息，OpenAI表示，每周有数亿人通过ChatGPT咨询健康和生活方式相关问题，不过，一些研究人员也对AI处理医疗问题的能力提出担忧。
部分研究发现，目前通用聊天机器人仍可能无法稳定识别紧急医疗情况，也可能无法始终正确触发安全提醒，医疗人工智能研究人员Adam Rodman表示，这类案例提醒公众，AI聊天工具虽然可以提供信息辅助，但不能替代医生诊断。
专家建议，用户在遇到以下情况时，不应依赖AI判断，而应及时联系医疗机构：
• 持续或突然加重的疼痛；
• 呼吸困难、胸痛；
• 晕厥或严重头晕；
• 任何可能危及生命的症状。
随着AI技术不断进入医疗健康领域，如何在提供便利的同时避免误导用户，将成为科技公司、监管机构和医疗行业共同面对的问题。
