ASCEND A2 / A3 · TRITON-ASCEND · EVOLUTIONARY SEARCH

ASCEND-OK
让搜索理解约束,
让NPU测量决定进化。

面向昇腾平台的 Triton Kernel 自动优化系统。大模型提出候选,约束门禁守住语义,真实 NPU 反馈驱动下一代。

ASCEND 910B3CANN 8.350 KERNELSTOP-5 OUTPUT
SEARCH TOPOLOGY / LIVE NPU CONNECTED
KERNELsource + tests
EVOLVEcandidate pool
GATEScompile + truth
910Bprofile + latency
ACTIVE GENERATIONG / 07fitness feedback circulating
passrepairlineage
SCROLL TO TRACE
01 / RESEARCH PROBLEM

WHY ASCEND-OK

Kernel 优化不是寻找一个更快的数字,
而是在多重约束中寻找可交付程序。

同一处变换可能改善连续访存,却破坏尾块语义;可能通过一个 shape,却在隐藏边界失败;也可能正确但无法被 profiler 稳定观测。ASCEND-OK 将这些冲突显式建模为搜索过程的一部分。

01语义压力

量化、padding、mask、可选参数与数值误差共同定义正确性边界。

02预算压力

每个 Kernel 的 wall-clock、模型调用与最多五个候选限制搜索宽度。

03硬件压力

访存、规约、流水、同步和编译行为共同决定 910B 上的真实收益。

04泛化压力

50 个异构 Kernel 横跨 elementwise、reduction、scan、attention 与 indexing。

02 / CLOSED LOOP

CONSTRAINT-AWARE EVOLUTION

一次优化,是一条可回流、可修复、可追溯的候选生命周期。

生成模型只负责提出假设。候选必须依次通过静态约束、编译、正确性与真实 NPU 测量;失败原因会压缩为下一代可以执行的反馈。

TASK CONTRACT

建立不可变的优化边界

读取 Kernel、测试入口、平台能力与候选上限。不同任务的状态相互隔离,输出路径保持确定。

03 / SYSTEM ARCHITECTURE

CONTROL PLANE × NPU DATA PLANE

让生成、验证和测量各自只承担可被验证的职责。

ASCEND-OK 约束感知进化与 NPU 诊断闭环示意图
控制面维护候选谱系、预算和失败记忆;NPU 数据面提供编译、正确性与性能事实。图为报告中的系统闭环示意。
M01

约束感知候选生成

大模型变异、保守程序变换与 directed repair 在同一候选表示中协同。

GENERATE
M02

正确性优先门禁

语法、编译、公开 Case、差分边界回归逐级阻断错误候选。

GUARD
M03

NPU 诊断反馈

把运行错误、延迟和 profiler 现象转成可执行的下一轮搜索方向。

MEASURE
M04

谱系与可恢复执行

源码指纹、lineage、checkpoint 与事件日志支撑去重、回退和中断恢复。

TRACE
PYTHON 3.10TORCH 2.6TRITON 3.4 DEVCANN 8.3 RC1ASCEND 910B3
04 / VERIFIED EVIDENCE

FINAL ROUND · 50-KERNEL CONTRACT

同一决赛合同下,覆盖 49 个 Kernel,并完成 342 个候选任务。

主结果对应决赛 v311 的 50-Kernel 评测合同。初赛 21-Kernel 成绩在下方独立标注,不与决赛结果合并计算。

FINAL OFFICIAL SCORE55v311 · official portal
KERNEL COVERAGE49/5098% program coverage
SUCCESSFUL TASKS342/39387.0% candidate tasks
AVERAGE SCORE55.24same finals contract
CONTRACT MAPSEPARATE DENOMINATORS
决赛主合同v311 · 50 Kernels
49 / 5055
初赛稳健合同v255 · 21 Kernels
20 / 2170

131候选任务

393评测任务

342成功任务

49覆盖 Kernel

两个阶段的数据集、Case 数与候选组合不同;本图只并列展示合同规模,不据此推导跨阶段性能退化。

完整实验包含什么?

最终报告给出版本链、失败类型、Kernel 分类、运行环境和结构化事实源;所有定量图表均由同一份 JSON 自动生成。

查看 40 页最终报告 ↗
05 / ASCEND EXECUTION

FROM SOURCE TO DEVICE FACTS

在 910B 上,以失败为信号,以测量为裁决。

候选通过编译、正确性与 NPU 性能门禁的示意图
错误候选在靠前阶段退出;通过全部语义门禁的候选才消耗性能测量预算。

DIAGNOSTIC ROUTING

COMPILE修复 Triton 语法、dtype 与 launch contract
ACCURACY回归 mask、padding、optional input 与数值路径
RUNTIME定位 shape、memory access 与 backend limitation
PROFILER区分真实慢路径、无数据与 timeout
PASS进入 fitness、diversity 与 Top-5 选择
06 / VIDEO DEMO

WATCH ASCEND-OK EVOLVE

Triton 算子,如何在昇腾上完成一次自主进化?

从约束感知候选生成、正确性门禁,到 910B 上的真实测量与反馈回流,短片完整呈现 ASCEND-OK 的核心工作方式。

BILIBILI / PROJECT DEMO

《Triton算子竟然可以自己在昇腾上进化了?》

用一个完整闭环解释 ASCEND-OK 如何把大模型生成、程序分析、约束修复与 NPU 测量组织为自动优化系统。

在 B 站观看 ↗

READ · REPRODUCE · INSPECT

从系统设计,到一条可复现的优化批次。