DeepSeek-V4 正式發布：1M 上下文 + 雙模式推理，僅限中國大陸本地部署與體驗。

DeepSeek-V4 是首個實測支持 1048576 tokens 上下文的閉源大模型，對開源生態友好（提供完整量化 SDK 和 API 規范）。它用動態分塊注意力（Dynamic Chunked Attention）和記憶壓縮編碼器，在 1M 長度文檔中實現跨段落精準引用——比如從 PDF 第 83 頁準確提取公式，并關聯第 12 頁的實驗條件。

核心是“思考 / 非思考”雙推理模式：

• 思考模式：啟用 Chain-of-Verification + Self-Refine 多步鏈式推理。延遲增加 37%，但數學與代碼生成正確率明顯提升（GSM8K 從 92.4 → 94.6）。
• 非思考模式：跳過所有中間驗證，預計算 KV 緩存 + 算子融合。在 A100×8 集群上，輸入 200K tokens 時端到端響應 P99 < 320ms。

模型權重未開源，但提供 INT4 量化離線 SDK（支持 x86/ARM64、Linux/macOS），可直接集成進私有 RAG pipeline 或邊緣設備。實測：MacBook M3 Pro 加載 4-bit V4-7B，處理一份 500K tokens 的 PDF 摘要耗時 41 秒，內存占用 5.2GB。

雙模式不是噱頭，是工程級取舍

“思考模式”內置一個輕量級推理調度器：根據 query 類型自動決策路徑。例如：

• “對比表3和附錄B數據” → 觸發跨節檢索
• “推導 dL/dW” → 激活符號微分路徑

它動態分配計算資源，不靠全局重算。

“非思考模式”則繞過全部中間步驟，直連高速解碼核，適合實時對話、日志流分析等低延遲場景。

這種設計打破了“高精度 vs 低延遲”的傳統權衡。開發者通過 HTTP header X-Reasoning: on/off 實時切換，無需 reload 模型或重構 pipeline。

長程記憶有新解法，不靠無腦堆顯存

V4 沒用 RoPE 外推，也沒用 NTK-aware 插值。它把 1M context 切成 128 個動態錨點塊（anchor chunks）：

• 每個塊內保留細粒度 token 位置編碼
• 塊間只維護摘要向量（summary vector）

當用戶問：“圖4中的誤差曲線是否與表2趨勢一致？”
→ 模型先定位圖4所在塊，提取其摘要向量
→ 與表2塊的摘要向量做余弦相似度匹配
→ 最后只解碼相關塊的原始 token

結果：1M 上下文下 KV cache 峰值顯存比 Llama-3-70B 低 61%，長距離指代消解（Winogrande）準確率達 89.7%。

開發者能立刻用上的三件事

1. 下載 iOS / Android 客戶端（僅中國大陸 App Store 和華為應用市場），導入本地 PDF / PPT / Markdown，直接提問（支持中英文混合 query）；
2. 用官方 ds-v4-sdk Python 包，在自有服務器部署 INT4 量化模型，接入企業知識庫（需自行構建 chunking pipeline）；
3. 調用本地 API POST /v4/completion，傳入 {"prompt": "...", "reasoning": false}，獲得亞秒級響應——該服務默認只監聽 127.0.0.1:8080，不暴露公網。

現階段硬性限制：沒有云 API，沒有國際分發

DeepSeek 沒有開放任何公有云 API。全部能力僅通過離線 SDK 和移動端 App 提供。

• 國際用戶無法訪問官網下載頁（www.xmhny.cn 在多數地區 DNS 解析失敗）
• Windows 客戶端尚未發布
• Linux SDK 暫不支持 CUDA 12.4 及以上版本
• 免費 App 僅上架中國大陸區 App Store 與華為應用市場，Google Play 和 iOS 美區均不可見

這意味著：

• 海外開發者無法驗證其 1M 上下文的真實性
• SaaS 廠商無法將其嵌入多租戶產品
• 學術團隊難以開展公平基準測試（如 LongBench）

對龍蝦（YITB）生態的潛在影響

OpenClaw Agent 框架已適配 V4 的雙模式接口規范。openclaw-core@0.8.3 新增 reasoning_policy 參數，允許 Agent 自動決策：

• 復雜任務（如“根據財報全文生成 SWOT+現金流預測”）→ 啟用思考模式
• 簡單指令（如“提取所有電話號碼”）→ 回落至非思考模式

龍蝦 IDE 插件 v2.1.0 同步支持 V4 本地 SDK 直連：VS Code 中右鍵 PDF 文件，選擇 “Ask DeepSeek-V4”，結果直接注入注釋面板。

但這些功能僅限已安裝 SDK 的中國大陸開發者環境。

行業不會等待“完美開放”。V4 證明超長上下文可以同時做到低延遲與強推理，正在倒逼 Llama、Qwen 團隊加速落地 Hybrid Attention 架構。

建議開發者：

• 立即下載 App，重點測試跨頁表格引用、代碼片段還原等真實長文本場景
• 若身處國內，部署 SDK，跑通私有知識庫閉環
• 若在海外，關注 HuggingFace 社區鏡像項目——已有開發者嘗試用 llama.cpp 加載 V4 GGUF 量化權重。功能受限，但可觀測 attention pattern 分布特征

真正的拐點不在發布日，而在第一個繞過地域限制的合規 SDK 編譯成功之時。