CUDA真是NVIDIA绝对牢不可破的生态吗?

2025-06-24 12:20:13

有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。

没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。

比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。

CUDA已经被各种开源AI框…。

CUDA真是NVIDIA绝对牢不可破的生态吗?
广告位810*200
相关阅读
Steam上有哪些优秀的即时战略(RTS)游戏?

Steam上有哪些优秀的即时战略(RTS)游戏?

前言:这是一篇收集并整理了近三个月的回答,考虑到文章的时间跨...

2025-06-23
应该如何看待群晖在DSM 7.2.2-72803更新中去掉了Video Station?

应该如何看待群晖在DSM 7.2.2-72803更新中去掉了Video Station?

1.说明群晖意识到了nas是干嘛的:安全,稳定,低功耗的网络...

2025-06-23
哪张照片让你觉得刘亦菲美得不可方物?

哪张照片让你觉得刘亦菲美得不可方物?

那自然是刘亦菲打枪图: 这颜值,这发量,这腰身,这曲...

2025-06-23
如何评价 Zed 编辑器?

如何评价 Zed 编辑器?

看很多回答都是一年前的(现在2025.5),目前更新非常频繁...

2025-06-23
家长该不该把自己家财务真正情况告诉孩子?

家长该不该把自己家财务真正情况告诉孩子?

幼儿园小班时有个话题,问孩子们自己爸爸妈妈的职业。 我女儿...

2025-06-23