核心信息

萨姆·奥尔特曼表示，AI发展必须避免两种不可接受的结果：人类对未来失去控制，以及权力过度集中。他欢迎联邦层面为前沿AI设定统一安全要求，并认为实验室不应等待立法才开始建立信任。

要点

  • 奥尔特曼强调，对齐与安全技术必须领先于模型能力的快速提升。
  • 他警告，由个人或单一公司掌控极其强大的AI，可能导致危险的权力集中。
  • 他支持为前沿AI建立一致的联邦安全规则，同时敦促实验室立即负起责任。
  • 他重申“人类阵营”立场——AI必须始终服务于人。