宣传通讯 | 傅昕源：网络空间AIGC虚假信息治理亟须进一步加强

近期，在西藏日喀则市定日县地震及美国加利福尼亚州洛杉矶县山火发生后，不少AIGC（编者注：AI-Generated Content，是一种利用AI技术自动生成内容的新型生产方式）生成的图片及视频被当作事实呈现，误导民众，引发人们对网络空间AIGC虚假信息的担忧。现阶段，AIGC虚假信息尚可肉眼辨识，但随着AI技术的进步，肉眼分辨的难度将越来越高。网络空间AIGC虚假信息的治理亟待加强，需要从法治、自治、德治、技治、智治等多维度推进，强化法律法规、自律约束、伦理道德、技术手段、媒介素养等系统治理，提升治理的科学性、协同性、实效性。

进一步完善法律法规体系以强化依法治理

通过细化和完善针对网络空间AIGC虚假信息的法律法规，明确虚假信息的界定标准、传播责任、处罚措施等，提高违法成本，形成法律威慑。通过建立健全专门的监管机构或部门，加强对AIGC服务提供者的监管，定期对AIGC平台进行检查和评估，及时发现和处理虚假信息传播问题，并加强协同合作，形成监管合力，共同打击利用AIGC传播虚假信息的违法犯罪行为。通过推动国际合作与立法协调，加强国家间的合作与交流，共同制定国际规则和标准，构建全球性的AIGC虚假信息治理体系。

进一步优化平台自律约束以提升自治效力

督促新闻资讯和社交类平台建立严格的内容审核制度，配备专业的审核团队和先进的技术手段，实现机器初筛与人工复审相结合，提高审核效率和准确性，及时发现并删除虚假信息。建立用户信用体系，对平台用户进行信用评估和管理，给予相应的信用等级，对于频繁发布虚假信息的用户，可降低其信用等级，并采取限制发布权限、封禁账号等措施；对于信用良好的用户，给予激励和奖励。加强AIGC平台自律与行业规范，优化行业标准体系，制定行业自律准则，加强行业内部的监督和管理，共同维护网络空间信息的真实性。

进一步加强相关伦理建设以崇尚诚实守信

AIGC平台和相关行业要制定严格的伦理规范和准则，将伦理规范融入AIGC技术全周期管理中，包括算法设计、数据采集与标注、模型训练到内容生成与发布等各个环节。加强对AIGC从业者的职业道德教育和培训，提高其道德素养和社会责任感，自觉遵守行业伦理规范，为网络空间提供高质量的AIGC内容。在AIGC技术研发和应用机构中建立伦理审查委员会或伦理审查机制，对AIGC重大项目和创新应用进行伦理审查，通过评估确保技术发展符合社会伦理道德要求，防止虚假信息传播等不良后果的产生。

进一步提升技术治理水平以促进技术向善

优化算法与模型，使生成的内容更加符合真实世界的规律，从源头减少虚假信息的生成。同时，加强对模型训练过程中的监控和调整，及时发现并纠正可能导致虚假信息产生的参数设置或训练偏差。及时发现并处理虚假信息，利用自然语言处理、图像识别、机器学习等技术，分析文本中的语义矛盾、逻辑漏洞，以及识别图片和视频中的合成破绽等，对疑似虚假信息进行标记和预警。优化数据标注与质量控制，建立严格的数据标注规范和质量控制体系，对数据进行细致的筛选、标注，剔除其中虚假、错误或有偏见的信息，优先选用权威、可信的数据源，从数据层面降低虚假信息生成的风险。

进一步提升公众媒介素养以增强信息甄别能力

通过媒体普及、学校教育、社区宣传等多种渠道，加强对公众的媒介素养培育，培养公众的信息甄别能力，提高公众对网络空间AIGC虚假信息的识别能力和防范意识，使公众成为抵制虚假信息传播的重要力量。健全监督举报机制，鼓励公众积极参与对网络空间AIGC虚假信息的监督和举报，形成全社会共同参与治理的良好氛围。广泛开展科普宣传教育，从“灌输式”向“赋能式”转变，弥合AIGC数字鸿沟，消除公众对新技术的误解和恐慌，展示虚假信息的危害和治理成果，增强大家对治理网络空间AIGC虚假信息的信心和支持度。

链接地址：https://mp.weixin.qq.com/s/nwpKk7qDMh0ncBC2JCjXHQ