让前沿 AI 可评估、可防护、可治理

方寸跃迁是由清华大学人工智能学院与交叉信息研究院联合孵化的人工智能安全公司。

我们评估模型在能力与行为上的前沿风险,提供缓释 AI 系统的防护能力,并参与相关的规则治理。

我们的工作

评估

自研评估方法与工具,对前沿模型的风险进行持续追踪与评估。

防护

通过自研模型、观测平台与防护套件,保护模型调用、智能体部署的安全。

治理

参与人工智能与智能体安全标准的制定及国际对话,将评估证据带入规则。

Fangcun Observer

面向智能体运行的安全平台,支持运行观测、风险分析与行为追溯。

Fangcun Observer 控制台:展示当前运行的 Agent、风险态势和调用趋势。
Fangcun Observer 智能体运行详情:Agent 列表、任务安全评分、运行历史与工具调用记录。

安全模型

直觉安全模型

Intuitive safety model

安全推理模型

Safety reasoning model

多模态安全模型

Multimodal safety model

我们参与多项人工智能与智能体安全标准的制定。创始团队参与国际 AI 安全对话,并参与撰写多份 AI 安全治理共识。

全国网络安全标准化技术委员会字标

成员单位

全国网络安全标准化技术委员会
WG8/SWG-ETS

中国人工智能产业发展联盟字标

成员单位

中国人工智能产业发展联盟

中国人工智能发展与安全研究网络字标

成员单位

中国人工智能发展与安全研究网络

清智人工智能安全枢纽字标

首批入驻

清智人工智能安全枢纽

探索人工智能的安全边界

围绕模型风险、安全防护与可信应用,公开我们的研究方法与成果。

告诉我们你的模型、智能体或使用场景,
或者你想解决的问题。

info@fangcunleap.com