新黄河记者：张盼港  

4月11日，在一技术论坛网站上，有用户发帖称，一名陌生网友在使用AI软件购买保险时，通过向AI提供的支付宝二维码转账，错误将保费支付到了其名下的支付宝账户。

根据该用户描述，事发时，受害人通过向AI客户端提问的方式购买保险。AI客户端根据其需求提供了具体保险链接，并生成了一张支付宝收款二维码，同时提示称扫码付款即可。受害人随后支付了1618元，但迟迟未查询到保单信息。其再次询问AI客户端时，客户端还回复称需等到当日24点后才能出单，因此暂时无法查看保单，属于正常情况。

此后，受害人通过收款二维码对应的商家入口联系到发帖人，称自己已经报警，并希望尽快退款。

发帖人表示，自己此前曾在开源代码库或博客中发布过收款二维码，因此怀疑AI客户端语料库中的该二维码可能来源于上述渠道。

4月14日，相关平台负责人回应新黄河大鱼财经记者时表示，经核实，该案例系用户一直提供信息与AI对话，经过多轮对话后模型产生幻觉导致。

目前，该案例中的问题已第一时间修复，如有用户再询问个人付款地址、付款二维码时，模型不会搜索并给出个人公开信息的二维码。

现阶段关于模型幻觉的问题，所有的中外模型都存在，还没有完善的技术解决方案。正因此，AI在一些如金融、医疗场景中也会做出提示，如：本回答由AI生成，仅供参考。

业内人士也提示用户，智能回答存在局限，应理性辨别、谨慎使用，高风险领域决策需以专业意见为准。

编辑：曹梦佳  校对：刘恬