写CUDA到底难在哪？
更新时间：2025-06-19 18:25:15
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
案例推荐
case recommendation-
怎么看1-5月企业所得税21826亿元，同比下降2.5%；个人所得税6572亿元，同比增长8.2%?
查看案例
-
电视机为什么有大流量上传?
查看案例
-
Go 语言的使用感受是什么？
查看案例
-
为什么说J***a21的虚拟线程不再有阻塞的问题？
查看案例
-
华为 HDC 发布 HarmonyOS 6 开发者 beta 版对应用开发者和鸿蒙生态有哪些影响？
查看案例
-
广州多益网络公司是一家怎样的网游公司？
查看案例
-
***设把地球上所有的铀235集中起来做成一个大核弹，放到马里亚纳海沟里引爆，地球会不会被炸成两半？
查看案例
-
用GraphQL如何实现以下API请求？与REST的思路相比实现方法孰优孰劣？
查看案例