你现在的位置是:当前位置: 首页 >


写CUDA到底难在哪?

更新时间:2025-06-23 11:50:18

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?

案例推荐

case recommendation
  • 慈禧为什么要反对戊戌变法?

    查看案例

  • 三只羊是不是被人做局了?

    查看案例

  • PHP初学者,我能不能使用PHP来开发桌面应用?

    查看案例

  • 日本AV对中国人的毒害有多大?

    查看案例

  • 你知道哪些不为人知的历史照片?

    查看案例

  • 如何评价腾讯元宝桌面端使用 Rust 的 Tauri 框架?

    查看案例

  • 请问群晖的docker还能装些什么?

    查看案例

  • 为什么我觉得 AI 写代码纯属添乱?

    查看案例