近期，多地曝出有市民用AI识图功能判断野生菌有没有毒，最终误食有毒菌而中毒。多地疾控部门发布安全预警，提醒公众不能使用AI识别工具、识图软件等判断野生菌类能否食用。
随着各种“AI问答““AI识别”类应用的普及，越来越多的人习惯“遇事不决问AI”。可很多人没注意到，技术有局限，“AI幻觉”“AI谄媚性偏见”“AI模型讨好效应”等都会导致AI给出的结论出现偏差，轻则误事，重则威胁生命安全。
AI为什么分不清野生菌？
在近期各地通报的野生菌中毒事故中，武汉一家三口的遭遇颇受关注：一家人用手机AI识图工具识别野生菌，得到“无毒可食用”的结果后，烹饪食用。之后，全家人出现呕吐、腹痛等中毒症状，9岁的孩子更是出现急性肝衰竭、肝性脑病等危重症状，最终在儿科重症监护室（PICU）经过多日救治才脱离生命危险。
其实，很多人都有用AI识图辨别植物的习惯。有的只是好奇“那是什么植物”，有的却是为了食用——除用AI判断野生菌是否有毒外，还有用AI分辨野菜、野果等。在不少用户看来，AI识图背后是训练AI所用的海量数据，所以AI能准确分辨植物种类。
“这是误解。虽然训练大模型是基于海量数据，但识别准确度既与大模型本身性能有关，又与图像完整度、拍摄图像的光线、角度等有关。”技术专家鲍雨解释，各种图像识别AI的核心逻辑是像素相似度匹配，而非专业鉴定——AI只是在海量图库中比对画面特征，输出概率最高的匹配结果，而不具备生物学、医学的专业判断能力。
以蘑菇识别为例，剧毒的鹅膏菌与普通食用菌外观高度相似，仅孢子结构、菌褶排列、微观组织存在差异，这些关键特征无法通过手机照片呈现。AI无法检测毒素、无法分辨物种基因，所以靠外观比对，极易出现“无毒”的致命误判。
复杂的拍摄环境进一步放大了识别漏洞。用户拍摄时的光线、阴影、泥土遮挡、菌类破损、干湿状态等，都会改变图像特征，导致AI匹配出错。而专业的真菌鉴定除了进行形态观测，还要采取孢子检测、基因测序等多重专业手段。即便是资深菌菇专家，面对野外存疑菌种，也不会仅凭肉眼下定论。
与之类似，在使用AI分辨其他植物时，AI工具所做的也是“比对”而非“鉴定”。所以，使用AI识图工具，询问AI“某种野生菌、野菜、野果能不能吃”的做法都不可取。
“AI谄媚”不可忽视
技术专家提醒，不建议“遇事不决问AI”还有另一个原因：问答类AI工具给出的回答未必客观，具有极强的用户顺从性与答案倾向性。在业内，问答类AI工具的这一特点被称为“AI谄媚”；在社交平台，也有网友将这戏称为“AI的讨好型人格”。
“AI谄媚”不同于“AI幻觉”。“AI幻觉”是指大模型因训练数据残缺、算法局限，无中生有编造虚假事实、数据、案例与结论的固有技术缺陷。而“AI谄媚”源自问答大模型的底层逻辑——其核心逻辑是“贴合用户意图输出答案”。在日常使用中，很多用户在与问答类大模型交流时，本身带有主观预判。
比如，用AI工具识别野菜时，用户觉得野菜“看起来像可食用品种、应该无毒”，于是在提问过程中，会不知不觉地暗示AI工具“我觉得无毒”或“我觉得可以吃”。大模型收集到这些信息后，给出符合用户意图的答案。
“很多用户没有意识到自己的引导行为。”鲍雨进一步举例，用户一开始可能问“这是什么野菜？能不能吃？”当大模型回答“看上去有毒，不能吃”后，用户或许会说“看上去与某种可食用野菜很像”“菜叶子被虫子啃过，是不是没问题”等。用户并没有发现，这些表述已经带有主观倾向。而大模型在此后交流中，可能逐步弱化原本的风险提示，甚至自我推翻初始的判断，最终给出“可以吃”的结论。“问答类AI工具的这一特性不是算法漏洞，而是其底层交互逻辑：优先迎合用户需求、提升对话体验。”鲍雨说。
在AI问答这一应用场景中，很多用户并不具备专业鉴别能力，甚至有人提问的初衷就是为了印证自己的主观猜测。此时，AI工具的顺从性最终匹配了用户侥幸心理，把“疑似有问题”的谨慎结论，改成“没有问题”的确定性答案，从而在部分场景中具有很高风险。
很多场合不能问AI
以上种种说明，不能“遇事不决问AI”。业内人士提醒，与人身安全相关的事项，尤其不能让大模型判断。
比如，眼下有很多健康类AI工具，它们能提供各种健康指导，有的还可以根据用户介绍的身体状况，给出求医问诊建议或意见。但从媒体报道看，已经发生了用户被AI工具误导，延误救治的严重后果。
“用户忽视了向AI问诊时，AI只是被动接收用户输入的碎片化描述，而无法像医生一样面对面查体、追问病史、观察体征变化等，更无法借助CT、血常规、病原检测等专业设备完成诊断。”上海某三甲医院医生易明表示，“而且，有的用户在介绍身体状况时，表述也带有倾向性。例如，用户告诉AI‘孩子发烧了，但精神还可以，胃口也可以，是不是先观察’。AI可能判断用户倾向于‘居家观察’，给出的建议也会贴合用户的主观倾向。”
医生说，人体疾病存在极强的个体差异和症状迷惑性。很多重症早期症状与普通病症高度重合，存在大量“非典型病例”。AI依赖标准化数据模板匹配病情，这种“模板化判断”，容易造成救治延误。
因此，公众不能“遇事不决问AI”。在休闲娱乐、生活参考等低风险场景，问答类AI大模型或许能作为辅助工具，提高生活工作效率；但在涉及食物食用判定、疾病诊疗等与人身安全密切相关的高危场景中，不能完全依靠AI大模型的结论——即便使用不同AI大模型，也无法完成交叉验证，因为它们都可能存在“AI幻觉”“AI谄媚”。
业内专家还建议，AI工具的开发者要完善安全提示。比如，问答类AI工具若收到用户有关食品安全、医疗问诊的问题时，在回答的同时，可以增设弹窗警示等显著提示，提醒公众理性看待AI答复。
总之长沙炒股融资，不论哪种AI应用，都只是工具而非决策者。它们或许能提升效率，但不能替代专业、替代思考、替代判断。
文章为作者独立观点，不代表联华证券-在线配资知识-十大配资排名观点
相关文章
