核心信息

一种在部分AI实验室员工中流传的说法是：他们正在建造可能带来灾难性后果的AI，因为“这件事总得由负责任的人来做”，而企业销售和IPO只是为了给这项事业筹钱。但员工股权的存在让这套叙事显得矛盾——股权意味着员工能从公司成功中获得直接的经济利益。

要点

  • 这套说法包含几点：真心担忧AI可能毁灭人类；因为“该由负责任的人来做”而继续研发；商业化只是为研发筹集资金。
  • 批评指出，员工股权与“纯粹为了安全”的叙事不太吻合，因为它让员工在公司成功时获得财务回报。
  • 讨论的核心是AI实验室的激励结构和叙事逻辑，而非技术本身。