公共网络空间安全视域下AIGC虚假信息的法律规制
郑雨欣

上海政法学院，上海，201701；

摘要：生成式人工智能技术的民用化普及推动内容生产效率实现指数级提升，为数字产业发展与社会生产生活带来显著正向价值，但技术滥用催生的虚假信息传播乱象，也对公民合法权益、社会公共秩序与国家网络空间安全构成多层次风险，成为数字法治领域亟待破解的新型治理命题。我国现已形成覆盖民事、行政、刑事的多层级法律规范体系，配套专项行政执法整治与行业自律机制，初步搭建起生成式人工智能虚假信息的治理框架，欧盟《人工智能法案》的风险分级监管模式亦具备重要借鉴意义。受生成式AI自身技术特性、平台流量算法逻辑与监管机制短板的共同作用，现行规制体系在实践中暴露出监管尺度失衡、技术防控滞后、责任界定模糊、治理模式偏于事后惩戒等突出困境。本文在明确合法使用与违法滥用规制边界的基础上，系统剖析当前治理体系的运行障碍与成因，提出从完善分层立法规范、强化技术智能防控、构建全周期监管闭环、凝聚多元共治合力四个维度优化规制体系。研究表明，生成式AI虚假信息治理需坚持发展与安全统筹、创新与规范并重的原则，构建法律约束、技术支撑、全程监管、社会协同的综合治理格局，并将全民媒介素养培育作为长效基础工程，方能实现技术创新与公共网络空间安全的协同发展。

关键词：生成式人工智能；虚假信息；法律规制；网络空间安全

参考文献

[1]陆建平，党自强.AIGC时代虚假信息的制造传播与国家安全及公民权益的维护[J].浙江大学学报（人文社会科学版）,2024,(5):43-58.

[2]World Economic Forum. Global Risks Report 2026[R/OL]. Geneva: World Economic Forum, 2026-01-14[2026-06-14].

[3]皮勇，张明诚.总体国家安全观视域下人工智能安全风险治理研究[J].中国科技论坛，2023，(6):86-95.

[4]何宇华，李霞.生成式人工智能虚假信息治理的新挑战及应对策略[J].治理研究,2024,(4):142-160.

[5]郎平.数字时代国家安全困境与网络空间命运共同体构建[J].当代世界,2023,(10):34-39.

[6]王延川,赵靖.生成式人工智能诱发意识形态风险的逻辑机理[J].河南师范大学学报(哲学社会科学版),2023,(5):1-7.

[7]蒲清平,向往.生成式人工智能:ChatGPT的变革影响、风险挑战及应对策略[J].重庆大学学报(社会科学版),2023,(2):102-114.

[8]周妍,沈天健.生成式人工智能视域下虚假信息的层级化运作机理与治理[J].编辑之友,2024,(8):75-83.

[9]中央网信办、中央网信办部署开展“清朗 整治AI应用乱象”专项行动[EB/OL].北京:中国网信网,2026-04-30[2026-06-14].https://www.cac.gov.cn/2026-04/30/c_1779289298718765.htm.

[10]中央网信办举报中心.中央网信办举报中心开设“涉AI应用乱象举报专区”[EB/OL].北京:中国网信网,2026-06-12[2026-06-14]. https://www.cac.gov.cn/2026-06/12/c_1782660002371256.htm.

[11]林雨佳.生成式人工智能对信息治理的挑战[J].苏州大学学报(哲学社会科学版),2025,(4):104-115.

[12]Vosoughi S, Roy D. The spread of true and false news online[J]. Science, 2018, 359: 1146-1151.

[13]Dahl M. Large language model legal hallucinations[J]. Journal of Legal Analysis, 2024, 16: 64-93.

[14]张璐.通用人工智能风险治理与监管初探——ChatGPT引发的问题与挑战[J].电子政务,2023, (9): 14-24. DOI:10.16582/j.cnki.dzzw.2023.09.002.

[15]苏颖, 汪燕妮. 生成式人工智能时代的政治传播走向——基于ChatGPT的讨论[J]. 党政研究, 2023, (3): 34-41+124.

[16]国家市场监督管理总局,国家标准化管理委员会.网络安全技术人工智能生成合成内容标识方法:GB 45438—2025[S]. 北京:中国标准出版社,2025-02-28.

[17]Xu D, Fan S, Kankanhalli M. Combating Misinformation in the Era of Generative AI Models[C]//Proceedings of the 31st ACM International Conference on Multimedia. New York: ACM, 2023-10-26.