第五章 · 4.8 千字 · 约 12 分钟
第五章 治理与规范:构建可信AI信息生态
A/B/C/D 四级信源分级的逻辑与应用,从内容生产到 AI 引用的全链路追溯,以及平台与监管的分工。
第四章讨论了激励机制如何让“做对的事”获得回报。但激励机制的有效运转,需要一个前提:存在一套被广泛认可的规则,明确什么是“对的事”,什么是“错的事”。
如果没有规则,激励机制就无法判断“该奖励什么”。如果规则模糊,评分和声誉就可能被操纵。治理与规范的作用,就是为整个生态系统提供一套清晰的、可执行的、可验证的规则体系。
本章讨论四个层面的治理框架:行业标准确立规则,信源分级与三区分治将规则转化为工程实现,平台责任与监管提供外部约束,多方共治确保规则能够被持续维护和迭代。
5.1 从“野蛮生长”到“有章可循”
GEO行业的治理需求,源于一个结构性矛盾:GEO技术本身是价值中立的,但它的使用方式可能创造完全相反的外部性。同一个优化技术,用于让真实内容被AI正确引用是良性的,用于让虚构产品“成为事实”是恶性的。
2026年4月,中央网信办启动“清朗·整治AI应用乱象”专项行动,明确将“通过篡改训练语料、伪造权威数据、使用GEO技术恶意营销等方式实施AI数据投毒”列为重点整治对象。这是国家层面首次将GEO技术滥用与AI数据投毒明确关联,标志着GEO治理从行业自律上升为监管议题。
与此同时,行业标准的建设也在加速。2026年8月12日,国内首部GEO可信传播团体标准《生成式引擎优化(GEO)可信信息传播与信息生态治理规范》(T/CAPT 026—2026)正式实施。该标准由中国新闻技术工作者联合会归口,新华网融媒体未来研究院、新华社国家重点实验室等机构参与起草,围绕项目受理、内容审核、语料接入、优化实施、传播控制、监测追溯、风险处置、高风险场景和组织能力九个方面,对GEO服务提供方提出了系统性要求。
中国广告协会也在2026年3月全面启动了GEO标准化建设,重点聚焦GEO行业全链路合规标准建设,围绕技术能力、服务流程、效果评估、商业道德和合规管理等多个维度制定行业自律标准与操作指引。
这些制度建设的共同方向,是推动GEO从“流量驱动”转向“信任驱动”。标准的核心目标不是限制GEO技术本身,而是划定技术使用的边界,让合规者获得竞争优势,让违规者承担代价。
5.2 信源分级:A/B/C/D四级体系
信源分级是GEO治理的基础设施。没有一套清晰的信源等级标准,AI系统就无法判断“哪些来源更值得信任”,激励机制也就失去了评分的基准。
T/CAPT 026—2026建立的A/B/C/D四级来源可信度分级体系,是目前最系统的信源分级框架。
A级为政府部门、司法机关、监管机构等具有法定职责的主体在职责范围内依法发布的信息。这类信源的核心特征是:信息发布有法定程序和问责机制,可验证性最高。在气象、地震、公共卫生等专业领域,A级信源的信息具有不可替代的权威性。
B级为学术论文、行业白皮书和主流媒体的原创报道。这类信源经过了一定程度的同行评议或编辑审核,具备可追溯的来源和明确的作者身份,可信度较高但低于法定职责主体。
C级为企业官网、产品手册和普通媒体的报道。这类信源的可信度取决于品牌自身的诚信记录和内容的可验证程度。C级信源并非不可使用,但核心事实主张需要结合A级来源或多源交叉核验。
D级为匿名来源、低质内容和不可追溯的信息。这类信源在AI引用中会被系统降权或跳过。
信源分级的意义在于,它将“可信度”从一个模糊的直觉判断,转化为一个可操作的工程参数。当一个品牌的核心事实主张绑定了A级来源和完整的证据链时,它在AI引用中的初始权重就会显著高于那些来源模糊、无法追溯的内容。等级越高,被AI引用概率越大——这是“信源引用率”指标的直接工程杠杆。
5.3 三区分治:从源头切断“以营销替代事实”
信源分级解决了“哪些来源可信”的问题,但还有一个更隐蔽的问题:同一个来源内部,事实、观点和营销表达可能混杂在一起,让AI在引用时无法区分。
T/CAPT 026—2026提出的“三区分治”要求,正是为了解决这个问题。标准要求品牌知识库按事实库(可验证的客观事实)、观点库(判断与立场)、营销表达库(推广与广告)分区存储和使用,且营销表达中的事实主张须以事实库版本为准。
这个制度设计的工程含义是:品牌内容需要“分库存储+标识”。当AI系统检索到一个品牌关于自身产品的描述时,它能够清楚地识别:哪些是经过验证的客观事实(如“产品通过了某项认证”),哪些是品牌的主观判断(如“行业领先”),哪些是营销推广(如“立即购买”)。
三区分治的核心价值在于,它从内容生产环节就切断了“以营销包装替代事实依据”的路径。在传统营销中,品牌可以在一篇宣传文案中混合事实和夸张表述,因为人类读者有能力自行判断。但在AI搜索中,AI系统如果无法区分事实和营销表达,就可能将营销话术当作“事实”引用给用户。
标准还要求对内容进行语义重复度控制和防提示词注入控制。语义重复度控制的目的是防止品牌通过批量生成相似内容来“刷存在感”——当AI系统检测到多个来源的内容高度相似时,会判定其为低质重复内容并降权。防提示词注入控制的目的是防止品牌在内容中嵌入隐藏指令,试图操纵AI的生成行为。
5.4 全链路追溯:让每一次引用都可回溯
信源分级和三区分治解决了“内容进入AI之前”的问题。全链路追溯解决的是“内容被AI引用之后”的问题。
全链路追溯机制的核心要求是:对内容从生成到被AI引用的全过程进行记录,使每一次引用都可以回溯到原始信源,每一个环节都可以被审计和验证。
标准中的“链路追踪标识”(Trace ID)是实现全链路追溯的技术手段。每一篇内容在发布时被赋予唯一的标识符,记录其来源、版本、审核记录、发布渠道和后续被AI引用的情况。当AI系统引用一条内容时,可以通过这个标识符追踪到内容的完整生产链路。
在实际工程中,这一机制已经有具体实现。GEO-Trace引擎为每篇内容赋予唯一“数字身份证”,实现全链路可追踪。监测系统通过“提问—回答—提及—来源”的关系表,追踪内容被哪些AI平台引用、在什么语境下被引用、引用时是否正确表达了原始信息。
全链路追溯的价值不仅在于“事后追责”,更在于“事中防控”。当品牌知道自己的每一篇内容都会被记录和审计时,投机的动机就会被抑制。当AI平台知道每一条被引用的内容都可以被追溯到原始信源时,信源选择的谨慎程度就会提高。
5.5 风险处置:异常熔断与纠偏响应
再完善的预防机制也无法完全消除风险。当风险发生时,需要有快速的处置能力。T/CAPT 026—2026建立了异常熔断机制,要求GEO服务提供方在监测到异常时,能够暂停高风险操作、启动修复流程并向管理层升级汇报。
异常熔断机制的设计逻辑类似于金融市场的“熔断”制度:当系统检测到异常信号时,先暂停,再诊断,确认无虞后再恢复。在GEO场景中,需要触发熔断的异常包括:品牌核心信息在AI答案中出现错误、竞品内容出现异常高频的虚假引用、跨平台出现大面积信息不一致等。
纠偏响应机制是熔断之后的修复流程。当异常被确认后,需要执行三步操作:固证(保存异常发生时的AI答案截图和引用来源)、补强正确信源(在高权重渠道发布纠正内容)、向平台反馈纠错(通过AI平台的反馈渠道要求修正错误引用)。修复完成后,需要在多个AI平台进行复测,确认异常是否消除。
标准还要求GEO服务提供方建立L1基础能力、L2专业能力、L3综合治理能力的服务能力分级。这意味着,治理能力本身正在成为GEO服务商的竞争维度。一个只能提供基础优化的服务商,与一个具备完整风险处置和合规治理能力的服务商,在市场上的定位和价值是不同的。
5.6 平台责任:AI搜索的“守门人”角色
行业标准规范的是GEO服务提供方的行为,但AI搜索平台本身也是治理体系中的关键角色。平台决定“什么内容被引用、以什么方式引用、用户看到什么标识”,这些决定直接影响GEO行为的外部性。
2026年6月,英国竞争与市场管理局(CMA)裁定谷歌必须在其AI生成的搜索功能中,对出版商内容提供更清晰的来源标注与链接,同时必须为出版商提供退出AI搜索功能的选项,且不得因出版商选择退出而对其在常规搜索结果中的排名进行降权。CMA明确表示,这是“全球首例,出版商将获得有效工具,可阻止其内容被用于驱动搜索中的AI功能”。
这一裁定的核心逻辑是:AI搜索平台在信息分发中具有“战略性市场地位”,因此需要承担相应的治理责任。平台不能只享受AI生成答案带来的用户增长,而不承担标注来源、保护出版商权益的义务。
在中国,平台责任的方向同样清晰。中央网信办的“清朗”专项行动明确要求AI平台对引用信源进行交叉验证和风险提示,标注引用信息链接。Google也已在Search Console中测试控制功能,允许网站管理员管理其内容在AI搜索中的展示方式,并向网站所有者提供曝光指标和页面出现在AI回答中的情况。
平台责任的另一个关键维度是标注的清晰度。CMA在裁定中指出,部分“利益相关方反映,搜索生成式AI功能中存在标注不准确的情况,且标注清晰度有待提升”。标注不准确包括:引用了错误来源、标注的链接与AI答案内容不匹配、多个来源被混合引用但没有区分等。这些问题的存在说明,仅仅“有标注”是不够的,标注必须清晰、准确、可验证。
5.7 多方共治:治理体系的可持续性
治理不是一次性任务,而是一个持续的过程。技术会迭代,风险会演化,规则需要随之更新。因此,治理体系本身必须具备可持续性。
多方共治的核心思想是:没有任何单一主体能够独立完成治理。政府提供法律框架和监管底线,行业组织制定标准和自律规范,平台企业实施技术治理,GEO服务商和品牌方承担合规责任,用户和媒体发挥监督作用。各方的角色不同,但缺一不可。
在当前的治理实践中,多方共治已经形成了几个清晰的层次。
监管层,中央网信办的“清朗”专项行动提供了执法框架,明确了AI数据投毒和GEO恶意营销的法律边界。这一行动的意义在于,它让“什么不能做”从行业共识变成了法律要求。当违规行为可能面临行政处罚时,投机的成本就不再是“道德风险”,而是“法律风险”。
标准层,T/CAPT 026—2026提供了行业标准,中国广告协会的GEO标准化建设提供了自律规范,财经领域的GEO标准《人工智能大模型财经信息源分级与采信优化规范》则提供了垂直领域的操作指引。这些标准共同构成了一个多层次的规则体系:通用标准提供底线,垂直标准提供行业适配,自律规范提供高于底线的行为准则。
平台层,AI搜索平台通过算法设计和产品功能实施治理。信源分级算法决定引用权重,标注功能让用户能够识别来源,退出机制让出版商能够控制内容的使用范围。平台的治理能力直接决定了标准能否落地。
服务层,GEO服务商的L1/L2/L3能力分级和行业自律倡议,将治理要求转化为可执行的服务标准。中国GEO行业发展倡议提出的透明性、可追溯性、公平性等原则,正在成为服务商准入和评估的参考依据。
四个层次的关系是:监管层划定底线,标准层提供操作规范,平台层实施技术治理,服务层承担执行责任。当四个层次协同运作时,治理体系就从“运动式整治”转变为“常态化运行”。
5.8 治理的目标:让“良币驱逐劣币”成为现实
治理体系的最终目标不是“惩罚违规者”,而是改变市场的激励结构,让合规者获得竞争优势,让违规者承担代价。
中国广告协会会长张国华在GEO标准化建设启动时表示:“生成式AI时代,广告不应通过违规投机来博取短视曝光,而必须回归‘真实可信’的基石。建立GEO领域的相关标准,正是要从源头标本兼治,明确行业经营的合规边界与行为准则,推动行业形成‘良币驱逐劣币’的健康发展格局。”
这句话揭示了治理的本质逻辑。“良币驱逐劣币”不是自然发生的,它需要规则来保障。当规则缺失时,劣币(低质内容、投毒操作)因为成本更低、见效更快,会自然驱逐良币(高质量内容、合规优化)。只有通过标准建立清晰的边界,通过平台实施有效的技术治理,通过监管提高违规成本,良币才能获得应有的回报。
对于GEO从业者和品牌方而言,理解治理框架的意义不在于“知道什么不能做”,而在于知道规则正在朝着什么方向变化。当信源分级成为AI引用的基础权重,当三区分治成为内容存储的标准要求,当全链路追溯成为效果评估的前提条件时,提前完成合规布局的品牌和服务商,将在规则变化中获得结构性的竞争优势。
治理不是限制,而是筛选。它筛选出那些愿意在长期主义框架下竞争的主体,为整个生态的良性发展奠定基础。
本章要点
- 行业标准确立规则。T/CAPT 026—2026围绕项目受理、内容审核、语料接入、优化实施、传播控制、监测追溯、风险处置等九个方面,为GEO服务提供方建立了系统性要求。中国广告协会同步推进GEO标准化建设。
- 信源分级是治理的基础设施。A/B/C/D四级体系以“可验证性”为核心标准,为不同来源赋予不同的初始信任权重。核心事实主张须绑定来源等级与证据链。
- 三区分治从源头切断“以营销替代事实” 。事实库、观点库、营销表达库分区存储,营销表达中的事实主张须以事实库版本为准。语义重复度控制和防提示词注入控制进一步保障内容质量。
- 全链路追溯让每一次引用都可回溯。链路追踪标识(Trace ID)为每篇内容赋予唯一标识,记录从生产到被引用的全过程,使“事后追责”转变为“事中防控”。
- 异常熔断与纠偏响应提供风险处置能力。监测到异常时暂停高风险操作、启动修复流程、完成多平台复测。服务能力分级(L1/L2/L3)将治理能力纳入服务商评估维度。
- 平台责任是治理的关键环节。英国CMA裁定要求谷歌清晰标注来源并为出版商提供退出选项,中国“清朗”专项行动要求AI平台对引用信源进行交叉验证和标注。标注必须清晰、准确、可验证。
- 多方共治是治理体系的可持续保障。监管层划定底线,标准层提供规范,平台层实施技术治理,服务层承担执行责任。治理的最终目标是让“良币驱逐劣币”从愿望变为现实。