点击右上角
微信好友
朋友圈

请使用浏览器分享功能进行分享

近日,在世界互联网大会乌镇峰会上,360数字安全集团正式发布《大模型安全白皮书》(以下简称“白皮书”)。该白皮书系统性阐释了大模型运行时的五大风险,提出“外筑‘以模治模’动态屏障,内固‘平台原生’安全底座”的理念。并源于实战,提供了安全解决方案,助力推动人工智能行业向“安全、向善、可信、可控”方向稳健发展。
白皮书以2025年国内外多起典型大模型安全事件为切入点,系统性归纳了威胁大模型安全的五大关键风险:基础设施安全风险、内容安全风险、数据与知识库安全风险、智能体安全风险、用户端安全风险。
这些风险相互交织,形成传统安全方案难以应对的复杂威胁矩阵,严重威胁个人权益、企业发展乃至国家安全。
面对上述复杂挑战,白皮书基于实战经验,给出了“外挂式安全+平台原生安全”双轨治理策略。
外挂式安全侧重模型外部防护,通过“以模治模”实现对算力主机、软件生态、输入输出内容及模型幻觉的主动监测与防御。平台原生安全则聚焦大模型数据、知识库、智能体及客户端等环节,将安全能力嵌入核心组件,强化配套组件安全与全流程合规管控。二者协同,从外至内构筑大模型的安全防线。通过这一体系,360实现了主动发现、动态演进的安全检测能力,有效应对复杂多变的大模型安全威胁。
基于 “外防风险、内固架构”的大模型安全核心理念,360给出一份覆盖大模型安全全链路解决方案。该方案通过七大核心产品能力,共同组成“外挂式”与“平台原生”相结合的纵深防御体系,有效应对复杂多变的大模型安全威胁。
目前,360已将这一能力落地政务、金融、制造等各行业,未来,还将联合产学研各界,共同推动安全标准建设与技术共享,携手共建安全、可信的AI生态。(斯语)
