2026年9月最高人民法院发布的《关于依法审理涉人工智能纠纷案件的意见》,不仅是司法裁判的指引,更是一份面向所有人工智能企业的“风险清单”。与一般公众关注的“换脸”“智驾”不同,企业经营者必须从更底层的合规视角审视这份文件。以下六大维度,关乎企业的生死存亡。
一、数据采集的合规红线:从“获取”到“使用”的全链条监管
《意见》虽未单独设立数据罪名,但其在民事侵权与刑事犯罪之间架起了桥梁。人工智能企业最致命的风险,往往始于数据采集环节。未经授权抓取网络数据、超范围收集用户个人信息、违规处理生物识别信息等行为,在《个人信息保护法》《数据安全法》下已属行政违法,但当数量达到一定程度或造成严重后果时,即可能构成侵犯公民个人信息罪或非法获取计算机信息系统数据罪。
(一)“告知同意”原则不可规避
实践中,部分企业通过“用户协议”笼统授权,或利用“默认同意”等方式收集数据,但在刑事司法中,这种模糊授权很难被认定为有效同意。最高人民法院在相关案例中已明确,收集个人信息必须遵循“单独同意”原则,尤其对于人脸、指纹等敏感信息,任何形式的捆绑授权或概括同意均属无效。企业若以此为基础训练模型或提供服务,一旦引发纠纷,不仅面临民事赔偿,更可能因“非法获取”而被追究刑事责任。
(二)数据跨境传输的刑事风险
人工智能训练往往需要大量数据,部分企业将服务器设在境外或向境外传输数据。根据《数据安全法》第三十六条,向境外提供重要数据须经安全评估,未经评估擅自传输,情节严重的,可构成拒不履行信息网络安全管理义务罪。企业应当建立数据分级分类制度,对涉及国家安全、经济命脉的数据严格管控,避免因“技术无国界”的认知而触碰刑事高压线。
二、算法透明度与责任归属:不能以“技术黑箱”对抗司法
《意见》多处强调对人工智能决策过程的审查。企业不能以“算法复杂”“模型黑箱”为由拒绝提供解释。在涉人工智能纠纷中,法院可能要求企业披露算法逻辑、训练数据来源、标注规则等。如果企业故意删除或篡改生成合成内容标识,或通过对抗性干扰等方式误导系统输出,不仅构成民事欺诈,还可能被认定为妨害司法或诈骗犯罪的工具。
(一)内容标识义务不是“形式合规”
《意见》明确要求对人工智能生成内容进行标识。企业若为追求用户体验而弱化或隐藏标识,致使他人误认生成内容为真实信息,并由此引发诽谤、诈骗等后果,企业及其负责人可能因“帮助行为”或“过失”承担刑事责任。上海某科技公司因未对生成文本添加显著标识,导致用户利用其生成虚假新闻并传播,公司负责人被以编造、故意传播虚假信息罪立案侦查,教训深刻。
(二)算法歧视也可能带来刑事风险
算法偏见不仅涉及民事侵权,若因歧视性推荐导致特定群体权益受损,或引发群体性事件,可能被认定为寻衅滋事罪或破坏生产经营罪。企业应当建立算法伦理审查机制,定期评估输出内容的公平性,并保留完整的测试记录,以备司法审查时证明自身已尽到合理注意义务。
三、知识产权与商业秘密:人工智能训练中的“隐形雷区”
《意见》对涉人工智能知识产权保护作出专门规定,但刑事层面同样值得警惕。企业在训练模型时,若未经许可使用受著作权保护的作品、商业数据库或竞争企业的源代码,可能构成侵犯著作权罪或侵犯商业秘密罪。
(一)爬虫技术不是“免罪金牌”
许多人工智能企业依赖网络爬虫获取训练数据,但突破反爬措施、绕开版权保护技术的行为,在《刑法》第二百一十七条、第二百一十九条之下均有明确入罪条款。即使数据本身非保密信息,但若采用非法手段获取,仍可能构成非法获取计算机信息系统数据罪。企业应当优先使用开源数据集或取得合法授权的数据,并保留授权协议备查。
(二)员工离职携带模型参数的风险
人工智能模型参数、训练策略、标注规范等往往构成企业的核心商业秘密。员工离职后将上述信息带入新企业,可能同时触犯侵犯商业秘密罪和竞业限制纠纷。企业应当与核心技术人员签订保密协议,并部署数据防泄漏系统,发生风险时及时向公安机关报案,以刑事手段维护自身权益。
四、产品责任与过失犯罪:当人工智能“出错”时谁负责
《意见》第二十条特别提及辅助驾驶中私自改装逃避监测的刑事责任,这背后反映的是人工智能产品责任的一般规则。企业若明知产品存在缺陷(如自动驾驶系统对障碍物识别率不足),却未向用户充分警示或召回,导致重大伤亡事故,企业负责人可能构成重大责任事故罪或过失致人死亡罪。
(一)安全测试不能走过场
司法机关将审查企业是否按照国家标准进行充分的安全测试,测试报告是否真实。若发现企业伪造测试数据、隐瞒系统漏洞,则可能被认定为“明知”存在安全隐患而放任发生,从而以间接故意犯罪论处。企业应当保留完整的测试日志、版本迭代记录,确保可追溯、可审计。
(二)用户误导性宣传的法律后果
部分车企在宣传中夸大“自动驾驶”能力,导致用户误解并发生事故。若宣传内容与产品实际性能严重不符,企业可能构成虚假广告罪,同时负责人可能因对危害结果具有预见可能性而承担过失责任。合规的市场部门应当严格审核对外宣传材料,使用准确的技术术语,避免使用“全自动驾驶”“无需接管”等绝对化表述。
五、内部监督与举报机制:企业刑事合规的“免疫系统”
《意见》虽未直接规定企业合规制度,但司法实践中,有效的合规体系将成为企业“出罪”或“从宽”的重要考量因素。企业应设立独立的合规委员会,赋予其查阅数据流、访问代码仓库的权限,并建立内部匿名举报渠道。
(一)及时切割个人责任与单位责任
当员工私自利用人工智能实施犯罪时,企业若能证明已建立完善制度并尽到监督义务,可主张不构成单位犯罪。反之,若管理层默许或纵容违法行为,则企业将面临罚金和负责人刑事责任的双重打击。定期开展刑事合规培训,将合规业绩纳入晋升考核,是防范风险的有效措施。
(二)主动披露与配合调查的减刑价值
根据《意见》体现的宽严相济精神,企业主动发现违法行为并及时向司法机关报告,积极赔偿损失,可能在量刑时获得从宽处理。但“主动”必须是在未被调查前,且必须全面配合,不得选择性披露。
六、结语:合规是人工智能企业的“生命线”
最高人民法院《人工智能意见》的出台,标志着我国人工智能治理进入“规则落地”阶段。对于企业而言,刑事风险不再是遥远的理论,而是悬在头顶的利剑。数据合规、算法透明、产品安全、知识产权、内部治理,每一环都可能成为刑事追诉的突破口。拒绝侥幸心理,建立全流程合规体系,将法律要求嵌入每一个产品迭代周期,才是人工智能企业行稳致远的根本之道。
技术没有原罪,但使用技术的人和组织必须承担责任。在法治框架下创新,在安全边界内发展,这不仅是对社会的承诺,更是企业自我保护的最优选择。