张帆律师接受中国妇女报文字采访

下附全部采访内容

1.这个案件的判决依据有哪些？认定关键是？

目前这个案子我只是在新京报上看到了一审部分内容，说是2025年9月，上海市徐汇区人民法院一审判决两名被告人犯制作淫秽物品牟利罪，分别获刑四年、一年半。一审宣判后，两名被告人不服均提起上诉，目前二审还没出结果。

根据《刑法》的规定，制作淫秽物品牟利罪是指以牟利为目的，制作淫秽物品的行为。本法所称的淫秽物品，是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品。本案一审法院认为涉案AI聊天软件，注册用户11.6万人，付费用户2.4万人，截至案发，共收取会员充值费363万余元，且经公安抽样鉴定150个收费用户的12495段聊天中，有141个用户的3618段属于淫秽物品，社会影响比较大，达到构罪标准，所以一审法院认为二被告构成制作淫秽物品牟利罪。

2.该案的争议点有哪些？

本案最大的争议点是，涉案AI聊天软件生成淫秽色情内容，开发者到底有没有责任？

一审法院经审理查明，被告人“通过编写、修改系统提示词突破大语言模型的道德限制，实现了模型向用户连续输出淫秽内容的可能。”说白了，就是一审法院认为被告人通过编写、修改系统提示词，告诉大模型想要它做什么、怎么做，进而这个AI聊天软件实现了可以聊黄的功能，所以，一审法院认为，二被告人主观上积极追求色情淫秽聊天内容的产生，客观上通过编写、修改系统提示词等方式突破大语言模型的道德限制，将涉案软件训练成可持续对外输出色情淫秽内容的工具，且在明确知晓会员在交互聊天中产生大量淫秽内容的情况下，继续向用户提供运营和技术支持，对涉案色情淫秽聊天内容的产生具有决定性作用，最终一审法院认为开发者有责任。

3.AI开发者如何规避此类法律风险？

我个人认为企业合规还是比较重要的，尤其是新兴行业、领域。任何一个新兴行业，刚开始的时候都可能存在相关法律规定不完善的情况，但不完善只是暂时的，目前AI领域已出台了相关规定，例如《互联网信息服务算法推荐管理规定》、《生成式人工智能服务管理暂行办法》、《人工智能生成合成内容标识办法》等，以及正在征求意见的《人工智能拟人化互动服务管理暂行办法》，法律法规日趋完善，AI开发者还是要及时学习并做好企业合规。像这个案子，AI确实是新的领域，但涉黄不是新的问题，如果开发者明明能避免，但却任其发展，那我认为开发者要承担相应的责任。

4.该案的示范意义是？

本案是国内首起AI服务提供者涉黄获刑的案件，它明确了AI服务提供者在涉黄内容治理中的刑事责任边界。过去在实践中，AI平台往往以“技术中立”为抗辩事由，但本案通过判决明确表明，如果服务提供者明知其AI系统被用于大规模、持续性地生成淫秽内容，仍然提供技术支持、接口或算力保障，那就不再是单纯的技术中立，而可能构成违法犯罪。简单一点说就是，AI平台如果想要规避涉黄的问题，完全可以通过技术层面来实现，而不是他们口中的“用户生成内容不可控”，所以，不要总想着以技术之名掩犯罪之实。

同时，本案对AI产业具有合规和治理层面的警示意义，它明确传递了一个态度，AI相关企业不仅要关注技术创新和商业效率，同时也要兼顾内容审核与风险防控。否则，一旦技术被用于违法犯罪，企业和相关责任人可能都要承担相应的责任。

                                         张帆律师

                                         2026年1月23日