官方文档英文
pytorch-operator-registration-2025
Operator Registration — PyTorch accelerator documentation
算子集合、Dispatch Key、注册方式、支持状态查询与故障排查段落；没有逐个核对全部注册 API 或后端实现。
用于核对框架层操作、后端 dispatch 与设备 kernel 实现的区别；文档称新加速器集成的一项基础工作是支持高性能算子。
打开原始来源一题一页 · 运行机制 · 也叫 operator、op
算子是什么？为什么换一块芯片会先卡在它上面？
大模型的计算被拆成一个个基本动作：矩阵相乘、求和、归一化、注意力。每个动作叫一个算子，芯片上必须有对应实现才能跑。
先看懂
运行机制
算子（Operator）
模型里一个具体的数学动作
不是模型，是搭出模型的零件
此刻在看：静态解释，这一页的 5 个部分都是这一种。
主张依据 3 类：官方文档、本站实验、编辑解释。
核实状态：这一页没有需要核实的结论，所以这一维是空的。
三个维度分别看：演示方式、主张依据、核实状态
演示方式
表示此刻展示方式，不是准确性等级。
- 顶部三秒卡 静态解释
- 举例与能／不能三栏 静态解释
- 别和这几个搞混 静态解释
- 主张与依据 静态解释
- 展开后的正文与关系说明 静态解释
主张依据
可多选，每种都有实际引用；「本站实验」需有记录。
- 官方文档 Operator Registration — PyTorch accelerator documentation 这一条转述 PyTorch 新加速器算子注册文档的开篇、Dispatch Key 与支持状态查询段落；没有逐个核对全部后端实现。
- 本站实验 仓库内记录 docs/execution/KV_ACCOUNTS.md本站条目 demos/kv-cache-hands-on 正文里 6,507,520 次乘加那个数出自本站第 3 级那个 KV 缓存脚本，账 B 口径，分母写在那一页上。
- 编辑解释 本站自己写的，没有外部引用。「模型里一个具体的数学动作」与「是搭出模型的零件」是本站为三秒卡写的说法。矩阵相乘那个例子与「它能」「它不能」五条，是本站按这个词的通行用法写的界定，没有引任何一份材料。与 CANN 的那条区别（零件对整层软件）是本站写的对照。「为什么算子这个词天天出现」「两种不同的没有」两段与 part_of 关系说明是本站的解释。
核实状态
附范围、时间及必要原因，不等于全页绝对正确。
这一页没有需要核实的结论，所以这一维是空的——不会因为它挂着论文就替它标一个「已核对」。
举个例子
「矩阵相乘」就是一个算子，模型每过一层都要做好几次。芯片上没有它的实现，这个模型就跑不起来。
它能
- 把庞大的模型计算拆成有限种可复用的基本动作
- 针对某块芯片单独优化，同一个算子可以有很多种写法
它不能 / 不是
- 一个算子在 A 芯片上有，不代表在 B 芯片上也有
- 有实现不代表快。慢多少取决于这个算子在整次计算里占多大比例，占得越大拖得越狠
- 算子不决定模型的能力，只决定它能不能跑、跑多快
想看细节再点开
为什么「算子」这个词天天出现
因为它是芯片和模型之间的最小单位。谈「某块国产芯片支持不支持某个模型」，具体到工程上，就是在问：这个模型用到的算子，这块芯片的软件层里有没有、快不快。
数量级可以自己量一下。本站第 3 级那个 KV 缓存脚本只有 2 层、维度 32，跑 40 个位置就要 6,507,520 次乘加（分母写在那一页，只数 Q/K/V 投影与注意力这四项）。真实模型是几十层、上千维，这些乘加全都要落到某个算子的实现上。
两种不同的「没有」
一种是真的没实现，跑起来直接报错说这个算子不支持。这种问题明确，补上就行。
另一种更麻烦：有实现，但很慢。模型能跑通，速度只有预期的几分之一。这时候你看不到任何报错，只能靠逐层测时间去找是哪个算子拖后腿。
它和其他概念的关系
- 是……的组成部分国产芯片适配适配工作里最花人力的部分，就是补算子和调算子
看它发生
这一场戏的规范阅读地址在别的题下 为什么大模型换一块国产芯片，就不能直接跑了？ 「有几个算子没有对应实现」是那个场景里最卡人的一屏；规范阅读地址在 chip-adaptation，这里嵌入复用查证据
主张与依据
- PyTorch 的新加速器集成文档把高性能算子支持称为一项重要且基础的工作，并说明后端通过 Dispatch Key 注册实现、查询具体算子的支持状态。 [ pytorch-operator-registration-2025 ]
档案目录
核对程度：相关段落逐字核对 访问结果：正常取到