一段伪造视频、一条AI生成图文，可能在短时间内被包装成“新闻现场”或“亲友求助”。生成式人工智能降低内容生产门槛的同时，也让虚假信息、侵权诈骗和网络谣言治理面临新挑战。华东政法大学刑事法学院一支社会实践团队近日形成近8万字调研报告，提出应从刑法规制、平台责任和多方协同三个层面，完善深度伪造等全生成式AI技术滥用治理。
团队围绕文生图、AI视频、AI音频等技术形态，在上海、山东、河南、浙江、福建、甘肃以及新加坡等地开展调研，走访司法机关、网信部门、AI企业、平台和高校研究机构等，访谈司法、监管、企业、平台、科研一线人员，并结合采访、公开裁判文书和新闻报道梳理50余起AI滥用相关案件。
团队面向法律从业者、技术开发者和普通公众回收有效问卷359份。问卷统计显示，77.16%的受访者认为深度伪造技术滥用的首要危害是“传播虚假信息，扰乱社会秩序”；78.27%的受访者认为，“强化平台审查责任和技术拦截义务”是最有效的治理措施；62.95%的受访者认为，当前刑法规制存在“出入罪标准不明确”的问题。
团队统计，仅2026年上半年，公安机关侦办AI生成虚假信息、生成网络谣言案件170余起。两类样本颇为典型——一类是利用AI剪辑编造灾难、刑事案件场景，引发社会恐慌；另一类是通过AI“洗稿”批量生成“伪原创”文章，制造涉企网络谣言。团队发现，AI虚假信息滥用已不只停留在个人侵权层面，还可能牵涉公共秩序、企业商誉和网络黑灰产链条。
平台责任、电子证据互认、技术鉴定能力，成为案件办理和日常监管中的高频议题。在基层调研中，司法和监管人员反映的难点较为集中：虚假音视频与真实内容相似度高，案件往往需要专业机构鉴定；文生图场景中，虚拟形象与真实人物之间的“相似性”“同一性”界限不易判断；县域治理还面临技术手段不足、专业人才短缺、跨部门协调困难等问题。
基于调研，团队提出“政府—企业（平台）—社会”三维协同治理模型，以及覆盖“事前—事中—事后”的全生命周期治理机制。报告建议，在明确入罪标准、罪名界定和量刑规则的同时，将平台企业纳入治理主体，强化内容识别、风险拦截、证据留存和投诉处置责任。
目前，团队已将调研报告和《全生成式AI技术滥用治理建议书》提交至相关立法、司法机关，此外还围绕校园、社区、企业、平台等场景开展AIGC安全和反诈普法，已覆盖校园师生、社区居民和企业合规人员数千人次。
金御优配提示：文章来自网络，不代表本站观点。
