联系人:王经理
手机:13928851055
电话:13928851055
邮箱:sgbwre@163.com
地址:广州市天河南一街14-16号华信大夏四楼
启明星辰发布《大模型应用安全 深度应用安全基座》系列白皮书守护DeepSeek智能深水区
让每一句人机对话都安全可信,让每一次智能交互都风险可控——这是属于AI时代的安全承诺。
随着大模型技术从“快速应用”向“深度应用”演进,企业面临的业务场景复杂度显著提升:多业务系统对接、跨域数据流动、动态权限管理、分立知识库与工具集等挑战,使得简单的大模型应用安全单品很难充分解决安全难题。
2025年2月25日,启明星辰002439)正式发布《大模型深度应用安全基座》系列白皮书。第一批发布了三个白皮书:
第一全是全客户。大模型深度应用必然逐步全面覆盖客户所有组织,包括业务部门、管理部门、创新研发部门等。也就意味着大模型深度应用的主体结构非常复杂,且带来权限管理的超级复杂性。
第二全是全网络。大模型深度应用覆盖企业IT的全空间,网络环境比较复杂,分域分路径,甚至涉及跨企业边界的“云网边地端”的复杂环境。
第三全是全数据。大模型深度应用是基于机构数据统合的应用模式。大模型深度应用必然涉及机构自身私域数据、私域知识库。大模型深度应用要求客户建立起业务数据通层、拉通管理数据、鼓励开放开源研发数据,在这样的驱使下,数据安全的挑战比传统应用模式要严峻得多。
第四全是全流程。大模型深度应用必然会贯穿每一个业务活动、每一个管理活动的全生命周期。大模型和智能体要调用的工具集,必然根据组织和业务进行划分;私域工具集的调用权限,会让安全问题从模型里走向业务,甚至走向物理世界,安全风险和影响即可扩大了。
第五全是全场景。大模型深度应用也必然是多智能体、多模型协同的智能互动机制。企业的所有业务都会先后向大模型靠拢、融入、赋能、蜕变。这种应用的深度变化,会连带着应用的多维场景产生变化,场景的各个要素都会因变化和交互影响而使VUCA程度加剧,安全挑战变大。
五全理念(全客户、全网络、全数据、全流程、全场景)是中国移动600941)何飚总经理提出并倡导的安全理念。这个五全理念也同样适用于分析大模型深度应用的五个深维度。
场景复杂化:智能应用已渗透到多系统联动的业务闭环中,涉及跨网络域、跨组织的复杂交互场景。
数据流动风险倍增:知识库调用、多模态数据融合等场景下,数据泄露风险呈指数级增长。
动态权限管理挑战:智能体自主决策引发的权限边界模糊,传统RBAC模型难以适应实时授权需求。
模型安全威胁升级:对抗样本攻击、提示注入等新型攻击手段威胁模型决策可靠性。
合规压力叠加:数据跨境流动、生成内容可追溯性等要求催生新型合规框架需求。
在“五全”——全客户、全网络、全数据、全流程、全场景——为特征的大模型深度应用环境下,为了缓解其复杂性,一个结构性解决办法就是将一些共性的、重要的安全能力提炼为“安全基座”,供全机构应用。甚至,这些安全基座还可以向外部寻求专业运营服务。
启明星辰发布的《AI-R-IAM:AI就绪的大模型身份与访问管理AI-Ready IAM》,阐述了旨在从身份可信、认证可信、权限可信、行为可信、数据可信多个维度,构建大模型访问、模型调用、RAGKaiyun开云查询、模型训练、模型推理等多场景的一体化的全程可信能力,提升大模型深度应用场景中的安全保护能力,为企业数智化转型提供关键支撑。
· 保障大模型安全应用:为大规模人工智能模型深度应用提供身份安全、访问控制、数据安全、模型安全等基础支撑,从多维度构建一体化全程可信能力,有效应对大模型应用中身份与访问控制、数据安全等诸多安全挑战,保障大模型在训练、部署和使用过程的安全性,防止数据泄露、滥用及模型被攻击等风险。满足数据安全合规要求,降低安全风险,提升企业运营效率和竞争力,推动企业数字化、智能化转型。
· 三元共生身份治理:突破传统身份管理边界,提出 “人-AI-NHI 三元共生”的身份治理体系,将不同类型身份纳入统一管理,实现身份全生命周期治理。采用先进身份认证机制,结合中国移动号卡实名认证能力,提升身份认证的安全性和可信度,构建数字世界秩序的底层支撑,促进数字经济的健康、可持续发展。
· 大模型数据权限革新:提供多场景精细化权限管理功能,综合运用RBAC、ABAC和PBAC等技术,依据用户角色、职责、实体属性及业务流程动态调整权限。在RAG权限隔离方面,实现文档级、向量索引级和实时内容过滤的精细控制,还通过Token动态调配实现资源弹性访问调控。
· 全流程数据安全保护:实现大模型数据全流程安全保护,构建端到端的数据可信管理体系,覆盖大模型多场景数据输入输出、训练、调用等全流程数据管控,全方位保障大模型应用数据安全与合规。
· 战略意义:AI-R-IAM为大规模人模型深度应用构建一体化全程可信能力,从身份、访问、行为、数据等维度保障安全,推动大模型安全从“单点可控”迈向“一体化全程可信”,是“新质生产力”安全支撑,为未来AI技术安全发展奠定基础,助力企业实现数智化转型,降低安全风险,提升合规性。同时,在身份欺诈、数据安全等领域发挥关键作用,通过构建精准身份行为模型和主动防御网络攻击,保障数字环境安全。
· 实践验证:其基于AI-R-IAM在多场景的应用实践,如运营商、电力、能源等行业用户访问大模型、应用访问大模型、用户-AI智能体交互等场景,有效解决了身份认证、权限管理、数据安全、行为审计等方面的安全问题,切实保障了系统的安全性和稳定性,为其战略意义提供了有力的实践支撑。
· 企业倡议:企业应高度重视大模型应用中的身份与数据安全问题,尤其是身份与访问控制、数据安全等方面的风险。积极采用AI-R-IAM等安全解决方案,加强对多维度身份的治理和管理,遵循大模型访问最小权限原则进行权限分配,严格管控数据全流程安全,加强对业务行为和用户操作的审计监管,确保大模型应用的安全合规。
· 未来方向:AI-R-IAM将持续创新,深化与大模型的融合应用,进一步提升在身份欺诈识别和防范方面的能力,构建更精准的身份行为模型以实时感知异常。此外,积极与量子计算、5G/6G等新兴技术融合,提升加密强度、实现高效安全数据传输与实时监测,不断适应新的安全挑战,为大模型广泛应用和数字经济发展提供坚实安全保障。
启明星辰发布的《AI就绪的安全数据通层(AI-R-SDLayer)白皮书》,系统阐述了其面向智能化、数据驱动和全域协同的新型安全数据基础设施。该平台以元数据驱动治理为核心,构建统一的安全数据底座,整合多源异构数据,打破数据孤岛,实现跨业务、跨平台的数据共享与威胁情报协同,为企业数字化转型提供关键支撑。
· 全域数据整合与治理:通过数据编织、数联网理念及分布式向量数据库技术,实现多源数据高效联通与语义一致性管理,提升AI模型训练质量与安全分析精度。
· 智能安全运营提效:结合DeepSeek大模型的语义解析与RAG技术,赋能威胁检测、攻击溯源及策略优化,构建私有化智能知识库,支持实时响应与自动化防御。
· 云原生架构适配:采用存算分离、多云资源调度等技术,提供弹性扩展能力,适配复杂业务场景,降低运维成本。
· 应对行业挑战:解决数据分散、复杂攻击检测难、AI数据瓶颈等痛点,支撑中国移动BASIC6战略落地,助力企业实现数据要素价值释放。
· 典型案例:在一体化云原生安全平台、运营商安全数据中心等场景中,验证平台在数据治理、跨域协同及智能化分析中的效能,提升安全运营效率40%以上。
白皮书提出十大战略倡议,包括构建高弹性数据架构、推动安全与业务深度融合、优化AI训练数据质量、强化隐私Kaiyun开云合规等,为企业提供从技术部署到管理升级的全方位指导,助力其在数据安全基础上实现智能化跃迁,抢占数字经济时代制高点。
AI-R-SDLayer不仅是技术架构的革新,更是安全运营范式的升级,通过数据驱动与AI融合,推动企业从被动防御转向智能协同,为复杂网络环境下的安全挑战提供坚实保障。
启明星辰发布的《AI-R-SOCC AI就绪的安全合成管理中心白皮书》阐述了AI-R-SOCC(AI就绪的安全融合管理中心)作为企业级大模型应用的集中化安全治理以及智能化安全运营保障的中枢基座,融合大模型应用安全、数据安全和网络安全,构建“监测-分析-处置-优化”智能闭环能力框架。通过纳管并有机融合MAF、MASB、MAVAS等大模型安全的管控手段,实现大模型应用的全局可视、风险可管、处置可溯,为AI应用的使用就绪做好安全准备。
AI-R-SOCC以泰合安全大模型为底座,满足AI时代下企业大量应用DeepSeek等AI大模型能力带来的大模型安全可控以及安全运营智能化的新需求,并具备以下核心能力:
· 安星智能体:基于自然语言处理技术,打造安全事件协同、指令下发和剧本执行的智能交互体系,提高安全事件处理效率。
· 大模型资产管理:融合多种适配器及主被动资产发现技术,对大模型资产全生命周期闭环管理与风险评估,助力掌握资产状况。
· 大模型安全分析:运用多种先进技术,实时监测传统与大模型场景安全威胁,构建全维度分析体系,提升安全防护能力。
· 大模型风险监测管控:利用全景式风险感知技术,构建多维度监测体系,实现风险可视、处置精准和治理智能的全链路闭环。
· 大模型安全态势呈现:采用多源数据融合与可视化技术,整合数据形成态势大屏,帮助快速掌握大模型安全态势及关键风险。
· 应用场景:AI-R-SOCC深度聚焦大模型于训练、推理、部署等全生命周期的繁杂安全需求,全面覆盖大模型应用上线前的严苛准入把关、运行中的实时风险管控、模型自身防护加固,乃至隐匿影子大模型的监测与治理等多元应用场景,为大模型的平稳、安全、高效运行保驾护航。
1. 体系化设计:三大基座覆盖“身份-数据-运营”全链条,解决深度应用场景碎片化安全痛点。
2. 敏捷交付:支持模块化部署,既可独立服务于特定业务域,也可协同构建企业级安全中台。
· 高知识产权敏感度的科技型公司的全机构DeepSeek应用(类似启明星辰的机构)
DeepSeek极大地加速了全行业全社会智能化飞轮的旋转速度。大模型深度应用将是所有大中型机构智能化路径的必然方向。
越大的机构,越深越复杂的应用,就有更多的安全需要。一个更加宽阔更加强大的智能化发展翅膀,当然也需要另一个同样宽阔同样坚韧的大模型安全翅膀。
一体之两翼,同频共振翅。让我们乘着DeepSeek激起的风,起飞,翱翔。
-
2025-03-14乘着时代大潮奋楫前行
-
2025-03-14零跑NEW B 一场工程师主义的胜利之战
-
2025-03-14分布式KVM坐席系统厂家
-
2025-03-14531新政后TOPCon组件为何成为分布式最优解?
-
2025-03-14华为智选 小豚当家室外摄像头4G免费版重磅升级!终身免流开启智能安防新纪元
-
2025-03-14光储充如何构建能源生态闭环?
-
2025-03-14华为云发布容灾备份连续性解决方案BCC让企业放心上云、安心用云
-
2025-03-142025年智能电网行业现状与发展趋势分析