你现在的位置是:当前位置: 首页 >


写CUDA到底难在哪?

更新时间:2025-06-20 14:05:19

对GPU进行性能优化时,cudagraph是绕不开的话题。

不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

本文尝试从底层原理出发,根据文档 和 …。

写CUDA到底难在哪?

案例推荐

case recommendation
  • 皮肤太白是种怎样的体验?

    查看案例

  • 央行行长潘功胜首次在公开场合谈及稳定币,稳定币是什么?有何深意?

    查看案例

  • 我国的军工能力可以实现一天5000枚火箭弹连着炸三个月吗?

    查看案例

  • 印度为什么一定要和中国作对?

    查看案例

  • 广州拟全面取消房地产限购、限售、限价并降低贷款首付比例和利率,拟推动***运动消费发展,将产生哪些影响?

    查看案例

  • 为什么中国农村房子那么丑?

    查看案例

  • 想学编程,该不该买MacBook?

    查看案例

  • 萝莉年纪大了或者老了会长什么样?

    查看案例