警惕！AI生成的虚假案例已经出现
中国法院网讯（郑吉喆 杨喆）人工智能技术正深刻改变法律行业工作生态，从专业回答、观点检索到文案润色，AI工具为法律从业者提供了高效助力。但技术红利背后，虚假信息入侵司法程序的风险也悄然浮现。近日，北京市通州区人民法院审结的一起案件，便暴露出AI生成的虚假案例对司法公正的现实威胁，亟需警惕。
近日，通州法院民一庭副庭长郑吉喆法官审理了一起由股权代持引发的商事纠纷案件。诉讼中，原告代理人为了进一步佐证其观点，庭后向法院提交了书面意见，其中援引了名为最高法院的某案例及上海一中院案件。从代理意见的描述来看，两案的事实细节、法律争议与裁判逻辑都与审理中的案件高度契合，完美佐证了原告代理人的主张观点，初看之下极具参考价值。
出于职业敏感性，承办法官经检索核实发现，这两个案号所对应的真实案件事实与代理人书面意见中的描述的情况完全不同。其中，案件其实是一起民间借贷纠纷，与书面意见中描述的事实完全不符，和本案所涉及的事实亦毫无关联，没有任何相似或者可以参照的情节。
在承办法官的质询下，原告代理人终于承认，参考案例是由其提炼本案的事实情节，后反复向某AI大模型软件提问，由该软件生成的参考案例，代理人未进一步核实，而是直接复制粘贴后即提交法院。最终，承办法官依据法律规定，结合案件事实对原告代理人的该部分代理意见未予采纳。
承办法官在判决书中明确对原告代理人的行为提出批评，要求原告代理人引以为戒，在向法院提交参考案例、法条时，应当进行检查和核验，确保内容的真实性和准确性，不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序。一审判决后，双方均未提出上诉，判决已经生效。
