近日，中央广播电视总台中国之声报道了一则关于生成式人工智能技术的新闻。这项技术为数字经济的发展提供了强大的推动力。然而，由于AI生成合成内容未进行明确标识，公众难以区分这些内容与人类创作的内容，导致利用AI实施诈骗、侵权等违法犯罪行为频发。为此，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布了《人工智能生成合成内容标识办法》，该办法将于今年9月1日起正式施行。
《人工智能生成合成内容标识办法》明确要求用户在发布AI生成合成内容时，必须主动声明并进行标识。这一规定旨在规范生成合成内容的传播活动，保障公众的知情权，并减少利用AI进行违法犯罪的可能性。
在北京互联网法院近期审理的一起网络服务合同纠纷案中，涉及到了AI生成合成内容的标识问题。原告在被告运营的网络平台上发表了一段言论，却被平台判定为“包含AI生成内容但未标识”的违规情况，导致内容被隐藏，账号被禁言一天。原告起诉称，这些言论并未使用AI创作，平台的行为构成了违约。
在庭审过程中，被告平台强调，他们有权依据双方的网络服务合同审核认定用户的违规行为，并采取必要的治理措施。平台指出，原告发布的内容经机器识别为“包含人工智能生成”，并经过人工复核，认定该内容缺乏明显的人类情感特征。然而，原告无法提供创作底稿、原件等证明人类创作属性的初步证据。
法院在审理此案时认为，平台在社区公告中明确规定了创作者在发布包含AI生成内容时应主动使用标识，并对未标识的内容采取流通限制和添加相关标识的措施。这一公告属于平台服务协议的组成部分，因此平台有权依据合同约定对涉案内容是否属于AI生成合成内容进行审查和处理。
然而，法院也指出，平台作为算法工具的掌控方和结果判断方，应对判断依据和结果作出合理解释。虽然平台在本案中提供了算法的备案信息，但备案信息显示该算法功能为识别有安全风险的回答，无法认定它是对AI生成合成识别判断的技术。因此，法院认为平台未对涉案内容属于AI生成合成的判断依据和结果作出合理解释，应承担违约责任。
中国人民大学法学院副教授黄尹旭认为，此案是对AI生成合成内容标识、平台识别和治理在司法审查规则方面的有益探索。他表示，法院既肯定了网络内容服务平台利用算法工具对AI生成合成内容进行审查和处理的积极作用，又认定了平台在即时性创作文本场景下对算法自动化决策结果承担适度说明义务。这一判决为司法审查阶段的算法解释说明程度确立了一定的标准，既保障了网络用户的合法权益，又能有效推动算法公开透明，规范算法应用行为。
黄尹旭还强调，算法治理需要在保障技术透明度与激发产业创新活力之间寻求动态平衡。司法审查应本着包容审慎的态度，在算法信息适当公开与算法商业秘密适度保护之间达成平衡。在此案中，法院合理分配了网络内容服务平台和用户的举证责任，既保障了用户的权益，又避免了平台泄露技术细节、源代码或原始数据的风险。
