Quick Navigation
“DeepSeek chips”这个说法其实有点误导。DeepSeek并没有自己制造芯片。他们用的是NVIDIA的GPU。但为什么大家都在讨论“DeepSeek chips”?因为这跟股票市场、AI成本、甚至美国出口管制都扯上了关系。我试过在本地跑DeepSeek-R1,也跟进过他们训练用的硬件,所以想把这个话题彻底聊清楚。
What Exactly Are “DeepSeek Chips”?
“DeepSeek chips”不是官方术语,而是市场对“运行DeepSeek模型所需的硬件”的简称。很多人误以为DeepSeek像苹果一样自研了芯片,但真相是:他们用的是现成的NVIDIA GPU,主要是H800和A100。为什么会被叫做“DeepSeek chips”?这还得从美国出口限制说起。
2022年,美国禁止向中国出售A100和H100等顶级芯片。作为妥协,NVIDIA专门为中国市场推出了性能缩水的H800——砍掉了NVLink速度,但显存和核心规模几乎一样。DeepSeek就是靠这种“阉割版”芯片训练出了震惊世界的模型。于是,“DeepSeek chips”这个词在社交媒体上流行开来,用来指代这种“低成本高性能”的芯片组合。
简单来说,它不是一款芯片,而是一个标签,标签背后是地缘政治、成本焦虑和技术突破。
Which Chips Does DeepSeek Actually Use?
我研究了很多公开资料,也跟行业里的人聊过。目前比较可靠的结论是:DeepSeek的训练集群用了大量NVIDIA H800 GPU,数量估计在10,000张左右。H800是H100的“中国特供版”,显存同为80GB HBM3,但NVLink带宽从900GB/s降到400GB/s,这会影响多卡互联,但对单卡训练影响不大。
在推理阶段,他们可能使用混合部署,包括A100、H800,甚至云端的RTX 4090(针对轻量任务)。但具体配置属于商业机密,外界只能猜。
这里有一个我整理的表格:
| Chip | Memory | DeepSeek Usage |
|---|---|---|
| NVIDIA H800 | 80GB HBM3 | Training clusters (reported) |
| NVIDIA H100 | 80GB HBM3 | Not used due to export controls |
| NVIDIA A100 | 40/80GB | Inference in some setups |
| NVIDIA RTX 4090 | 24GB GDDR6X | Consumer inference (for hobbyists) |
有趣的是,我最近看到一份开发者的博客,说他们用H800训练时,发现DeepSeek的代码是经过高度优化的,很少出现显存瓶颈。这暗示他们可能采用了像FlashAttention这样的技术来减少显存占用。
如果你自己部署DeepSeek,其实不需要非得用数据中心级GPU。我用RTX 3070跑过7B模型,虽然慢,但不是不能跑。关键看你需要什么。在Linux下运行 nvidia-smi 就能看到型号和显存。在Windows上,任务管理器也能看到GPU名称。我还发现,用 torch.cuda.get_device_name(0) 可以快速在PyTorch中确认。
Why DeepSeek Chip Costs Matter for Investors
如果你持有英伟达、AMD或任何数据中心相关的股票,你可能刚经历了一次过山车。2025年1月,DeepSeek-R1发布后,NVIDIA股价单日下跌约17%,市值蒸发近6000亿美元。市场的逻辑很简单:训练成本这么低,以后大家不再需要堆那么多卡了。
这种担忧并非空穴来风。根据路透社的报道,DeepSeek的训练成本约为560万美元,而OpenAI训练GPT-4据传花费超过1亿美元。如果这个数字属实,那么芯片需求的“平民化”可能会让GPU市场的增长曲线变平。
但我个人认为,市场有点反应过度了。原因有三:
第一,DeepSeek的成功不代表所有公司都能做到,它需要顶尖的算法团队和工程技术,不是有钱就行。第二,训练成本降低后,推理成本也会跟着降,这反而可能刺激更多AI应用落地,最终增加对芯片的总需求。第三,英伟达的护城河不仅仅是硬件,还有CUDA软件生态。想换到AMD或谷歌TPU没那么容易。
不过,从长期看,芯片行业的“暴利”时代可能真的在结束。当AI算力从稀缺品变成必需品,价格自然会向边际成本靠拢。这对消费者是好事,但对短期炒芯片股的人,风险不小。我朋友之前重仓了NVIDIA,最近一直在问我怎么办。我的建议是:拿住别慌,但设好止损位。
How to Choose Chips for Running DeepSeek Models Yourself
我理解,读完上文你可能也想先跑一跑。别急,以下是基于我自己的血泪经验和一些社区反馈整理的选择指南。
Local Inference: The Minimum You Need
DeepSeek模型有很多尺寸:1.5B、7B、8B、14B、32B、70B,以及134B的R1。显存大小直接决定你能跑哪个版本。我自己的经验是:
- 8GB显存(如RTX 3060、4060):可以跑1.5B和7B的量化版(4-bit)。7B模型勉强流畅,但生成速度可能只有每秒5-8个token。
- 12GB显存(如RTX 3060 12G):稍微好一点,但跑14B模型仍然吃力。
- 24GB显存(如RTX 3090/4090):可以跑14B和32B的4-bit量化,速度尚可。70B模型需要2张24GB卡或更大显存。
- 48GB以上(如A6000、双卡、A100):才能跑134B的R1,单卡基本没戏。
如果你只有一张游戏显卡,我建议直接用Ollama或llama.cpp,下载GGUF格式的量化模型。别试Float32,肯定爆显存。
Cloud GPU: A Practical Alternative
别急着买卡。我先租云GPU跑,成本低得多。像Lambda Labs、RunPod、Vast.ai这些平台,按小时租A100或H100,价格从几美元到十几美元不等。比如,一个A100 80G的实例,大概每小时2-3美元。用完后随开随停,非常灵活。
我最开始想跑32B模型,买卡要花1000多美元,租云GPU才花了不到50美元,跑了一整晚。所以除非你要持续提供服务,否则云GPU是最划算的选择。
Cost Check: Buy vs Rent
如果长期运行,比如跑一个聊天机器人给朋友用,那买卡或租用固定实例更合适。我算过一笔账:假设你每天跑8小时,一个月240小时,用A100云实例约720美元,一年约8640美元。而一张二手A100 80GB现价大概8000-9000美元,加上电费和维护,一年约1万美元,差不了多少。但自购硬件的好处是一次性投入,之后无月费。
我个人建议,如果你是学生或开发爱好者,先租云GPU;如果是公司项目,再考虑采购专用AI卡。
The Geopolitical Angle: Export Controls and DeepSeek Chips
“DeepSeek chips”这个词本身就是地缘政治的产物。如果没有美国2022年10月的芯片出口管制,中国AI公司本来可以轻松买到A100和H100,也就不会有所谓的“低成本训练”故事。
管制之后,NVIDIA为中国推出了H800。但2023年10月,美国又进一步限制H800和A800的出口。现在,中国公司连RTX 4090都很难买到。DeepSeek之所以还能训练,多亏了它在管制生效前囤了一批H800。
这种遏制策略有一个副作用:加速了中国本土芯片的发展。华为昇腾(Ascend)910B和910C是主要替代方案。虽然它的软件生态(CANN)不如CUDA,但算力已经在逼近A100。根据《金融时报》的报道,DeepSeek已经在测试昇腾芯片的适配。如果成功,这将是一个标志性事件。
从投资角度看,这意味着美国芯片公司的“中国收入”会继续缩水。NVIDIA已经被迫多次降价销售特供芯片,利润受影响。而中国本土芯片公司,如寒武纪、海光信息,则可能会受到资本追捧。
What’s Next for DeepSeek and the Chip Industry?
我不想用“未来已来”这种陈词滥调,但变化确实在加速。我认为有四个关键趋势:
1. 推理需求将超过训练需求。 DeepSeek证明了训练可以省钱,但一旦用起来,推理成本才是大头。未来的AI芯片会更强调低功耗、高吞吐,而不是单纯堆算力。英伟达已经在推GH200、GB200这样的超级芯片,就是冲着推理和AI智能体去的。
2. 专用ASIC可能崛起。 谷歌TPU已经证明了ASIC在特定任务上的性价比。如果AI算法趋于稳定,大厂自研芯片的可能性会越来越高。DeepSeek如果不造芯,至少也会深度定制。不过,造芯是烧钱的无底洞,短期没人敢做。
3. 开源硬件生态会更重要。 微软、谷歌都在往RISC-V方向走。DeepSeek模型的成功,也让更多人开始关注开放的软件栈,比如PyTorch、JAX,这些都能在非NVIDIA硬件上跑。
4. 国产品牌将迎来窗口期。 华为昇腾、寒武纪的芯片可能无法在性能上超过NVIDIA,但在“够用”的区间内,加上政策支持,它们会在中国AI基础建设中占据重要位置。
如果你问我该如何准备,我的建议是:关注能效比,别盲目拼算力;多学一点硬件的基础知识,因为以后你会越来越频繁地和芯片打交道。
Frequently Asked Questions
Fact-check: This article is based on verified public reports and hands-on experiments. It does not constitute investment advice.
Comments
0