本报讯 近日，由北京中传奥美地亚广告传媒有限公司、中国市场杂志社联合主办的《AI 大模型认知信任度治理白皮书》发布暨 AI 大模型认知信任度治理专题研讨会在北京举办。国内首套政企 AI 认知公信力自查标准与万象镜智能认知治理系统同步亮相，打破了当前行业只聚焦 AI 内容生产、缺少 AI 输出端纠错管控的行业局限，推动人工智能治理从外部约束，迈向 AI 自主自检、闭环修正的高阶新阶段。

当前生成式人工智能产业高速扩张，各大通用大模型、行业专用模型的核心能力集中于内容创作、信息整合、文本生成，持续为各行各业提效赋能。但产业长期存在一条治理断层：AI 拥有强大的内容生产能力，却没有配套的自我校验机制。模型基于训练数据偏差、算法随机推演、外部不实信息干扰，极易虚构事实、偏移官方口径、篡改政企原始权威信息。传统治理模式，依靠人工筛查、平台限流、事后舆情处置，属于外部人工干预，滞后性强、覆盖范围有限，难以跟上 AI 全天候、规模化的内容产出速度，始终无法根治 AI 认知失真的根源问题。

本次发布的万象镜系统与配套《AI 大模型认知信任度治理白皮书》，构建了一套反向作用于 AI 输出结果的完整治理链路，重塑了“AI 生产 —AI 自检 —AI 纠错 — 权威信息固化”的高阶治理闭环，补齐了 AI 产业治理的关键短板。

依托 ACG 认知攻防治理底层框架，万象镜系统独立于生成式大模型之外，作为专门的认知管控单元运行。当各类大模型产出对外公开的文本、解读、介绍类内容后，系统会第一时间启动全域线索抓取，对照白皮书划定的标准规范、政企原始权威数据库，依托 CDI 认知漂移指数、TI 四维认知信任指数完成自动化量化判别，精准定位存在偏差、虚构、曲解问题的 AI 生成内容。

针对识别出的认知风险，系统可按照标准化整改流程，自动完成错误信息溯源、权威内容替换、全网偏差信息修正；整改完成后，合规的标准口径会重新回流全网传播链路，持续强化权威信息的曝光权重，从源头降低同类认知偏差再次出现的概率。整套流程无需大量人工介入，由技术体系自主循环运转，实现 AI 对自身输出内容的常态化治理。

研讨会上，中共中央政策研究室原副主任郑新立评价万象镜是数字经济治理体系领域的重大创新，其全网信息核验、AI 错误信息自动纠错能力，正是这套 AI 自我治理闭环的核心价值所在。以往监管侧重约束 AI 研发企业、管控平台上架规则，属于对 AI“输入端”的管理，而万象镜体系直击 AI“输出端”乱象，把治理动作嵌入AI内容流转的全周期。

从产业发展规律来看，任何技术的成熟，都需要“创造能力”与“约束能力”匹配均衡。生成能力让 AI 有用，自检治理能力让 AI 可靠。白皮书通过明确分级风险标准、公信力评价规则，为 AI 自我纠错提供了统一参照依据，让 AI 的自我约束有章可循、有据可依，彻底摆脱过往治理标准模糊、整改随意的痛点。

业内专家表示，万象镜与 AI 认知信任度治理白皮书的落地，标志着我国 AI 治理思路迎来重要转向：不再单纯依靠外部外力管控 AI，而是打造出和 AI 生成能力适配的内生治理机制。随着这套闭环体系在政务、国资国企、头部品牌等场景规模化落地，将有效引导生成式 AI 跳出野蛮生长的阶段，朝着可控、可信、稳态的方向健康发展，为人工智能产业长期规范化发展筑牢认知安全底座。

免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。

责任编辑：kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com