RESEARCH & INDUSTRY PARTNERS
携手学术机构与行业伙伴,共建可信 AI 生态
























AI 系统无比强大
但失控之后,它们是巨大隐患
大语言模型会产生幻觉、泄露数据,并默默执行对抗性指令。
自主智能体超越权限行动,缺乏审计追踪和紧急终止机制。
AI 供应链引入隐藏依赖——被污染的模型、受损的插件和未审查的第三方工具。
研究驱动 全链路覆盖的
AI 安全防护核心技术
Agent Runtime 安全
为不同 Agent、不同任务、不同工具调用建立独立身份与权限边界,通过 Agent 身份标识、任务级授权、工具级权限控制、最小权限策略等机制,避免 Agent 无限制访问敏感资源。
采集和分析 Agent 在执行过程中的关键行为轨迹,包括文件读写、网络访问、进程执行、命令调用、工具调用、浏览器操作等系统层副作用,还原完整 Agent 轨迹,为威胁建模提供数据支撑。
在 Agent 执行动作前或工具调用前进行低时延安全检测,时延约 8ms 级别,识别高风险操作、越权调用、危险工具链组合等行为,并根据策略进行放行、告警、阻断或降级处理。
面向工具描述、调用接口、权限声明、代码逻辑、外部依赖等进行分析,识别隐蔽指令、过度权限、危险系统调用等风险,在工具接入前降低恶意 Skill 或 MCP Server 造成破坏的可能性。
作为上层治理智能体,观察各类 Agent 的运行状态、任务目标、权限边界和工具调用行为,支持任务分配协调、权限协调、风险告警与跨 Agent 行为审计。
大模型安全评测
面向前沿大模型开展系统化安全测试与人工对抗验证,覆盖网络安全、生化安全、失控风险、模型欺骗、智能体行为等前沿安全维度,识别模型在复杂高风险场景下的潜在安全漏洞与能力边界。
通过多智能体协同对最新模型发起复杂、多阶段攻击,挖掘单点测试难以发现的深层漏洞;同时联动攻击策略、风险分析与防御机制,形成「攻—防—评」闭环。
自动生成攻击用例并持续执行规模化红队对抗测试,支持多类风险场景覆盖、测试任务编排、结果复现、风险归因与评测报告输出,提升模型安全评测的效率、覆盖度与可持续性。
构建 AI 与人类之间的信任
多层安全架构,全方位保护 AI 交互的每一个维度





