核心信息

Hugging Face 正在介绍 🤗 Kernels 功能:开发者可以为受支持的模型层选择要运行的内核,并用优化后的 forward() 实现替换原有实现,无需重写模型。

要点

  • 🤗 Kernels 允许你为受支持的层选择更快的内核,而不是改动模型代码。
  • 该功能用优化实现替换层的 forward(),模型其余部分保持不变。
  • 该串推文(1/5)承诺提供一步步的使用指南。