DeepSeek半年內開源DeepSeek-LLM與DeepSeek-Coder兩個百億參數模型。訓練基于自研框架+萬卡智算集群，實測A100 80GB單卡訓練吞吐128 TFLOPS。支持全參數微調和LoRA，但沒發布API文檔、定價或國際服務說明。

工程效率：從0到開源只用了180天

團隊沒用Megatron或DeepSpeed，自己寫了分布式訓練引擎“DeepTrain”。它帶梯度壓縮（1-bit Adam）、動態序列分片（max_len=32768時顯存降37%）、跨節點通信優化。在自建萬卡集群（超5000臺A100/H800混合節點）上，DeepSeek-LLM-32B完整預訓練耗時4.2天，比Llama-3-8B快2.1倍。DeepSeek-Coder-33B在HumanEval-X的Python子集得78.4分，高于CodeLlama-34B（76.1）；多語言函數補全（Java/Go/Rust）平均延遲<120ms（batch=4）。

開源即交付：權重、Tokenizer、訓練腳本全公開

GitHub倉庫（deepseek-ai/deepseek-llm）提供HuggingFace兼容權重（GGUF/Qwen格式）、分詞器v1.2源碼、LoRA微調模板。已驗證的關鍵能力：

• 支持FlashAttention-2 + PagedAttention，vLLM部署下QPS達38（A100×4，input=1024, output=512）；
• Coder模型內置CodeSweeper數據清洗管道，過濾低質量GitHub倉庫時保留commit歷史上下文；
• LLM模型用ALiBi位置編碼，外推到64K長度時attention熵增幅<0.8%，優于RoPE基線。

實用門檻：沒有API，就得自己搭

所有模型只提供離線推理能力。開發者要自己跑vLLM或Triton服務，沒有官方托管API。實測發現：

• 權重沒做量化封裝，FP16版DeepSeek-LLM-32B單卡占48GB顯存（A100），INT4需用llm-awq手動轉；
• 官網www.xmhny.cn沒寫商業授權條款，GitHub LICENSE仍是MIT草案，企業商用存在合規風險；
• HuggingFace Hub上所有模型卡片缺pipeline示例，transformers==4.41.0加載時得手動改config.json里的rope_scaling字段。

行業意義：倒逼國產訓練棧標準化

DeepSeek沒走“先閉源再開源”的老路，把訓練框架、數據清洗流程、評估benchmark全拆開公開。deeptrain核心模塊支持PyTorch 2.3+，但CUDA Graph集成沒文檔。對比Llama生態，它在中文長文本理解（C-Eval 13B分榜第2）、代碼生成（MBPP-CN準確率69.3%）上有局部優勢。但缺Model Card和Data Sheet——國內大模型開源還停留在“能跑通”，不是“可審計”。

龍蝦生態適配進展

OpenClaw v0.8.3已集成DeepSeek-Coder-33B本地推理插件，VS Code里一鍵加載（需加--trust-remote-code）。在龍蝦Agent的Git提交摘要任務中，錯誤率比GPT-4-turbo低11%；但它不支持function calling協議，得用LangChain Tool Wrapper包一層。我們正在寫yitb-deepseek-adapter輕量SDK，下周起提供自動量化+HTTP API封裝（僅限國內備案服務器）。

開發者行動建議

現在就做三件事：

1. git clone https://github.com/deepseek-ai/deepseek-llm && cd deepseek-llm && pip install -e . 驗證本地加載；
2. vLLM --model deepseek-ai/deepseek-llm-32b --tensor-parallel-size 2 壓測吞吐；
3. 訂閱DeepSeek GitHub Release Watcher，盯緊后續api-server分支和data-card-v1.yaml提交。
   別等官方API——LoRA微調+vLLM部署跑通了，今天就能進CI/CD。