核心信息

Anthropic承诺向第三方评估人员提供永久性的员工级系统访问权限，这是其“为前沿减速”三部分计划的第一步。Cline对此表示支持，但认为开放权重模型更进一步——任何人都可以检查、评估并对模型进行红队测试。

要点

  • Anthropic将允许第三方评估人员验证安全措施、报告事件，并在训练期间评估模型的对齐情况。
  • Cline称这一承诺“令人难以置信”，但认为开放权重能更进一步：任何人都可以检查、评估并对模型进行红队测试。
  • Cline希望看到更多开放合作，共同构建这项强大技术。