写CUDA到底难在哪？
来源：
编辑：
时间：2025-06-21 12:00:11
对GPU进行性能优化时，cudagraph是绕不开的话题。
不仅是GPU，大部分的xpu都会提供类似graph mode的优化，相比于每次分别由CPU进行kernel launch的eager mode，graph mode通常都会有较大性能提升，然而也经常容易出现各种各样的奇怪问题。
NVIDIA有一个简单的 博客 介绍，其中只使用了stream capture的形式来构造cudagraph，而且本质上就是多个kernel前后提交，根本无法展示cudagraph的复杂性。
本文尝试从底层原理出发，根据文档 和 …。
-
{dede:pagebreak/}
网友评论：
{dede:include file='ajaxfeedback.htm' /}
栏目分类
最新文章
- arxiv国内有镜像网站吗？
- 有哪些好用却不为人知的国产软件 ？
- 为什么 Linux 软件安装包会有依赖关系，而 Windows 软件安装包不需要？
- 做客孩子临走时带走几只玩具，我的孩子抗拒并一直哭，要怎么开导？
- 055一打一能不能打过阿利伯克？
- 如何看待伊朗国家电视台发文：“今晚,将会发生一件大事,让世界铭记几个世纪。”？
- Swift 和同时代的其他语言比起来怎么样？
- 手机的运行内存真的有必要上16GB吗？
- 男朋友因为打游戏骗我去睡觉被我识破，然后我提了分手，他同意了，问问男孩子们他怎么想的？
- Gemini 2.5 Flash 和Pro稳定版上线，和之前版本相比，在性能和应用场景上有哪些提升？
热门文章