Google Health 的翻车,是在替 Apple 交学费
Google 把 Fitbit 换成 Google Health,又塞进一个 AI Coach。用户最先骂的是它把走路、叠衣服识别成游泳,把训练建议建立在错误的动作分类上。一个健康产品,为什么总想把猜测说成事实。
我这几天翻了一遍相关反馈和报道。实验室里模型错一次,最多是论文里多一个 bad case;消费级健康 app 错一次,用户可能真的会多跑三公里、少吃一顿、忽略异常信号。差别来自输出被谁采信。
Google 官方说明其实已经把边界写得很清楚,AI 回答可能不准确或不完整,产品不用于诊断。这个说法是对的。麻烦在体验把边界抹平了。Coach 这个名字天然暗示建议,Premium 又暗示专业度。用户不会把它当成带置信度的草稿,只会把它当成私人教练。
这几天调 Astra 推理档位,简单任务用 medium 更稳。健康建议也该默认低权限,先说明数据来源,再给可撤回建议,并提醒哪些情况必须看医生。AI 不该坐裁判席。
Apple Health 的优势是隐私、本地感、克制。它把数据整理得很安静,不急着替用户下结论。
现在加入 AI-powered wellness features,风险来自太会讲人话。模型能把睡眠、静息心率、活动量串成一句安慰人的建议,听起来像关心,实际只是相关性包装。
Google 的教训是识别错了,数据就错;数据错了,建议就离谱。Abbott Lingo 和 Google Health 合作做葡萄糖洞察,进入身体指标后,边界必须比运动识别更硬。Apple 如果要做 AI Coach,至少要让用户看见建议基于哪些数据,模型有多确定,哪些只是生活方式参考。
我也担心另一种翻车,为了安全,所有话都变成请咨询医生,产品只剩免责声明。折中点可能是把功能分成三档,纯记录、可解释建议、医疗警示。只有前两类让 AI 主动说话,第三类只负责提醒人去看医生。
Apple 的新 Health app 如果只学 Google 的 Coach,没学它的翻车,那就可惜。值得抄的是边界感,承认模型会错,承认健康数据有噪声,承认有些建议不该由 App 说出口。
如果 AI 给出的健康建议让人多跑了一公里、少睡了一小时,责任问题必须提前说清楚。
📌 本文编译自 TechRadar,原文:https://www.techradar.com/ai-platforms-assistants/apple-intelligence/google-health-is-a-grave-warning-for-apples-new-ai-powered-health-app
版权归原作者所有,本文为基于公开报道的编译与独立分析。
物界前沿