研究人工智能的安全边界

我们研究前沿模型的失控、欺骗与有害操纵风险,以及模型和智能体的安全防护方法。

我们怎样做评估

自建闭源评估方法

我们致力于开发闭源测试,以确保评估的质量、独立性并更好地克服评估意识带来的可靠性挑战。

分析结论与局限

评估的过程与结果同样重要,我们关注评估过程中产生的现象,并承认每个评估自身存在的局限性。

独立与负责任披露

每份报告注明是受委托的合作评估还是我们自发的独立评估。被评估方可以核对事实,不能修改结论。

更早的研究

论文与基准

即将公开