以案说法 II 一男子利用AI批量生成色情小说售卖牟利被判刑

随着人工智能（AI）技术的快速发展，其在文学创作、艺术设计等领域的应用日益广泛。然而，技术的进步也伴随着法律和伦理问题的凸显。

近期，湖北省大冶市人民法院审理了一起利用AI撰写色情小说牟利案，引发了社会对AI技术滥用法律边界的广泛关注。本文从法律角度分析此案，探讨相关法律问题及其启示。

一、基本案情

2022年11月至2023年3月期间，被告人柯某以牟利为目的，利用AI工具批量生成色情小说，并使用“翻墙”软件通过境外网站进行发布和售卖。短短五个月时间内，柯某累计发布色情小说数十篇，共计售卖760篇（次），每篇售价15至30元，总计非法获利2.28万元。经鉴定，送检的其中7篇小说被认定为淫秽物品。案发后，柯某家属代为退赃2万余元。

法院审理后认为：被告人柯某以牟利为目的，利用AI工具制作、贩卖、传播淫秽物品，非法获利2万余元，其行为严重违反了我国相关法律法规，对社会风气造成了不良影响，已构成制作、贩卖、传播淫秽物品牟利罪，公诉机关指控罪名成立。被告人柯某到案后能如实供述其犯罪事实、自愿认罪认罚、退缴违法所得，可依法从轻处罚、从宽处理。根据本案犯罪事实、量刑情节、公诉机关量刑建议，遂以制作、贩卖、传播淫秽物品牟利罪判处柯某有期徒刑十个月，并处罚金5000元，追缴全部违法所得?。该判决已生效。

二、法律分析

1.?传播淫秽物品牟利罪的构成要件?

根据《中华人民共和国刑法》第三百六十三条，传播淫秽物品牟利罪，是指以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的行为。根据该规定，制作、贩卖、传播淫秽物品牟利罪的主要构成要件包括：主观上以牟利为目的，客观上实施了制作、贩卖、传播行为，且物品性质为淫秽内容。

本案中，法院认定被告人柯某利用AI技术批量生成色情小说并通过网络传播，AI生成的内容属于“制作”范畴，AI技术仅为工具，不改变行为的违法性，符合该罪的客观要件。同时，其主观上具有牟利目的，因此构成该罪。

2.?AI技术生成内容的性质认定?

本案的核心争议点之一在于，AI生成的内容是否属于“制作”或“创作”的范畴。从法律角度看，虽然AI技术参与了内容的生成过程，但控制和操作AI的主体仍然是被告人柯某。因此，AI生成的内容，应视为被告人柯某行为的直接结果，其法律责任应由被告人柯某承担。

3.?网络平台的责任?

本案还涉及网络平台的管理责任。根据《网络安全法》和《互联网信息服务管理办法》，网络平台应当对发布的内容进行审核，防止传播违法信息。如果平台未尽到审核义务，可能面临行政处罚甚至刑事责任。

4.?技术中立原则的适用?

在审理此类案件时，法院需要平衡好技术中立原则与法律规制之间的关系。确实，技术本身并无善恶之分，但当某种技术已被用于违法犯罪活动时，行为人仍已属触犯法律，需承担相应法律责任。本案中法院明确指出，AI技术已被柯某用于违法犯罪活动，因此不能以技术中立为由，免除被告人柯某的法律责任。该判决强调了技术应用须遵守法律法规和社会公德?。

三、案件的特殊性和启示

1.?首例AI技术犯罪?

本案是国内首例因利用AI技术制作淫秽物品牟利被判刑的案件，具有重要的警示和借鉴意义。它揭示了AI技术滥用的法律风险，为类似案件的审理提供了参考?。AI技术的高效性和隐蔽性使其成为违法活动的“利器”。相较于传统创作，AI能以更低成本、更快速度生成违法内容，且通过境外平台传播更具隐蔽性。本案暴露了技术阴暗面，提醒社会警惕新兴技术的滥用?。

2.?完善法律法规，明确AI技术应用的边界?

随着AI技术的普及，相关法律法规也亟需完善。立法机关应明确AI技术在内容创作、数据使用等方面的法律边界，防止技术被滥用。本案判决呼吁加强对新技术的法律研究，借鉴国际经验，完善相关法律法规，确保法律法规与时俱进。

3.?加强技术伦理教育?

技术开发者和使用者都应重视加强伦理教育，树立正确的技术价值观。日常生活中，公众应提高对AI技术应用的认识和警惕，尤其需要强化法治观念?，避免将技术用于违法或不道德的目的，否则将被追究相应的法律责任，得不偿失。

4.?强化网络平台监管，?推动技术合规发展??

网络平台应建立健全技术监管机制，加强对用户发布内容的审核，利用技术手段识别和过滤违法信息，防止技术被用于非法目的，切实履行社会责任。政府和社会应鼓励AI技术的合规发展，支持其在教育、医疗、文化等领域的合法应用，同时严厉打击利用技术从事违法犯罪的行为。

四、结语

AI技术的快速发展为人类社会带来了巨大机遇，但也带来了新的法律和伦理挑战。本案为AI技术的法律规制提供了重要参考。只有在法律、伦理和技术发展的协同作用下，才能确保AI技术为人类社会带来更多福祉，而非危害。