核心信息

Anthropic CEO Dario Amodei发表新文章《We Must Pace the Frontier》，呼吁AI行业放慢脚步，并提出三部分计划。Anthropic立即承诺落实第一步：向第三方评估人员提供永久、员工级的系统访问权限。

要点

  • 第三方评估人员将可持续访问系统，以核实安全措施、报告事故，并在训练过程中评估模型的对齐情况。
  • 这项公告既是Anthropic在透明度上的具体承诺，也是对整个行业加强外部监督的呼吁。