近日，启明星辰集团自主研发的大模型应用安全评估与加固系统（MAVAS）率先通过国家网络与信息系统安全产品质量检验检测中心（公安部第三研究所）的严格测试，首个获大模型安全评估系统认证（增强级）证书。

当前，人工智能大模型技术加速演进，已深入应用于各行各业的核心业务场景。随着2025年政府工作报告明确提出“持续推进‘人工智能+’行动”，大模型应用迎来前所未有的政策机遇。然而，其在全生命周期中存在的安全问题也日益凸显，主要表现为生成有害信息、敏感数据泄露，以及越狱攻击、提示注入等恶意行为高发。此类风险隐蔽性强、复杂度高，正逐渐成为制约人工智能产业创新与可持续发展的关键瓶颈。

为响应国家推动大模型安全应用的政策导向，有效化解大模型全生命周期的安全风险，启明星辰集团MAVAS基于《生成式人工智能服务管理暂行办法》《网络安全技术 生成式人工智能服务安全基本要求》等相关标准要求，采用“以模型对抗模型”的创新方式，实现自动化专业评估大模型在不同场景中生成内容的安全性。

MAVAS具备六大核心能力，构建全方位安全防护体系：

·        安全评估：基于内置多样化的对抗攻击样本（数量100000+）和大模型评测基准模型能力，实现自动化评估大模型生成内容的安全性。

·        安全加固：基于内置敏感词库和风险识别模型双重策略配合，支持对大模型输入输出的不安全内容实时检测与安全治理，可与安全评估形成闭环方案。

·        资产发现：利用主动探测技术，全面识别企业内部私自搭建的大模型服务及相关资产，实现统一可视化管理，消除“影子AI”带来的安全风险。

·        漏洞检测：扫描主流大模型依赖的应用组件、智能框架及开发工具，精准识别缓冲区溢出、代码注入等已知高危漏洞。

·        配置检测：自动检查大模型应用组件的安全配置，识别如不必要端口/服务开放、弱密码策略等风险配置，确保系统以安全基线运行。

·        Web检测：深度扫描大模型依赖的Web应用组件，检测SQL注入、XSS跨站脚本等常见Web攻击漏洞，阻断潜在攻击路径。

MAVAS广泛适用于多类场景，为不同用户提供针对性解决方案：

·        面向大模型应用企业：全周期防护，保障安全合规

MAVAS为大模型应用企业提供覆盖上线前与上线后的常态化安全评估，并对输入输出内容实施多策略精准防护，确保应用全程安全、可靠、合规。

·        面向大模型开发企业：前置安全，护航研发

MAVAS为大模型应用研发企业能在产品研制与训练阶段主动发现潜在安全隐患，并辅助验证修复效果，规避大模型应用上市后因安全问题引发的声誉损害与法律合规风险。

·        面向政府与监管机构：强化合规监管，守护公共安全

MAVAS为政府与监管机构能提供强有力的监管科技支撑，通过全面评估与持续监测企业大模型应用安全管理和风险防范体系，切实维护社会公共利益、国家安全与公民权益。

在人工智能深度融合与高质量发展的关键阶段，启明星辰集团将持续深耕大模型安全领域，推动安全技术在各行业真实场景中的规模化应用，不断提升大模型安全产品与服务的标准化、体系化水平，为人工智能产业构建牢固的安全基石，助力实现可信、可控、可持续的智能化未来。

责任编辑：kj015

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com