英伟达自己说， V100 快十年了还在跑客户业务

[zx94438011]

英伟达 9 月 30 日的官方博客里，副总裁 Ian Buck 提到：CoreWeave 的 V100 在 Volta 架构发布近十年后，仍在运行客户的工作负载。同一家 CoreWeave ，也已经把最新的 Vera Rubin NVL72 机柜投入生产。

（图源：英伟达官方博客）

我们做过保设备的维保，见得最多的就是这种情况：设备早过了折旧年限，业务还离不开。能不能继续跑，一看有没有备件，二看有没有人会修。

新旧搭配着用才是常态：最新的柜子跑最重的活，老卡跑轻一些的。

[dianso]

这有啥稀奇的
去年采购的叫号机
杂牌的，还是用的 xp 系统，跑的 mysql
ddr3 的内存
外观精美漂亮，开机直接到 UI ，不进桌面维护根本不知道有多老旧。

[zx94438011]

@dianso 哈哈确实，叫号机、收银机这类最能扛，XP 加 DDR3 跑到现在的不少。麻烦的是哪天主板或电源坏了，同型号的备件越来越难找。

[ntedshen]

12 纳米制程 210 亿晶体管，20 系一代的。。。
和现在市面上的低配机其实只差一代。。。

[zx94438011]

@ntedshen 是的，12nm 、约 211 亿晶体管，和 20 系差不多同期，放在消费级不算老。但数据中心里 GPU 一般按四到六年折旧，快十年了还在接客户的活，算超期服役了。

[ntedshen]

@zx94438011 这个主要是资产处理的问题吧，又不是什么刚性需求。。。
隔壁 backblaze 也是一堆硬盘盘均几百个月，用到坏才扔的。。。
这两年反正也都是按算力定价，能效差异不大，算力等于售价，那可不，不如不换。。。

[zx94438011]

@ntedshen 同意，说到底是账怎么算。折旧提完了，只要还有人按算力买单，多跑一天就多赚一天，Backblaze 的硬盘是同一个道理。区别在于硬盘坏了换一块就行，老 GPU 服务器跑到后面卡的是备件，电源、风扇、主板停产之后就不好找了。

[nlzy]

Volta / Turing 有什么硬件特性，能跑什么算子，程序员应该是最了解的群体。

现在建数据中心不是 AI 厂家自己建设，而是成立 SPV ，AI 厂提供照付不议的担保，用硬件作为抵押进行融资。所以 GPU 硬件的使用年限和折旧到底怎么算，是一个很重要很重要的问题，根本性地决定了折旧计提打穿劣后级的概率，劣后级打穿了，损失就该到数据中心的投资人承担了。

所以现在 AI 厂提供劣后级资本和照付不议的担保都不够，连硬件厂都要拉来提供残值担保，不然没有高利率或超额回报的话，投资人根本就不会出资投资 SPV 。为了能让数据中心的投资人出钱买卡，为了降低大家对硬件厂表外担保的质疑，吹嘘 GPU 折旧时间长是近年来日常的金融工作，不用当真，本质安抚投资人而已。

[cowcomic]

V100 32G 版本私有化部署场景下性价比很高
特别是部署 50B 以内的量化模型

[qazwsxkevin]

你们是在说生产场合，
我觉得对于 homelab 及研究极客，“也不是不能用”的情况下，V100 不合适，至少 2~4 块吧，费用和受益，好像还真不如一张 5090 。。。

[zx94438011]

@nlzy 这个角度我没想到，学习了。英伟达自己出来说老卡还在跑，确实是有立场的。我觉得可以分开看：账面上按几年折旧是融资和会计的事，卡在物理上能不能跑十年是另一回事。V100 这个例子只能证明后者，证明不了六年折旧就合理，能跑和跑得赚钱不是一回事。

[zx94438011]

@cowcomic 32G 显存放到现在也不算小。你们是单卡跑还是多卡一起上？另外我印象里英伟达说过 580 是最后一个支持 Volta 的驱动分支，后面新版 CUDA 不一定带，这块有遇到问题吗？

[zx94438011]

@qazwsxkevin 同意，个人玩新卡省心：一张卡、有保修，功耗和噪音都好控制。V100 是被动散热的数据中心卡，放家里还得自己解决风道。老卡的优势主要在已经买了、已经上架的场合。