@liu.string: DeepSeek V4 于 2026 年 4 月 24 日发布，包含 V4-Pro（1.6T 总参数 / 49B 激活）与 V4-Flash（284B 总参数 / 13B 激活）双版本，均支持 100 万 Token 超长上下文。模型权重与技术报告同步开源，无功能阉割，并完成 vLLM、LangChain 等框架的 Day 0 适配，INT4 量化后可于单张 RTX 5090 运行。 核心技术创新有三： 一、混合注意力架构（CSA + HCA）。压缩稀疏注意力（CSA）沿序列维度压缩 KV 缓存后执行稀疏注意力；重度压缩注意力（HCA）则更激进压缩但保留密集机制。此设计使 1M Token 场景下，V4-Pro 的单 Token 推理 FLOPs 仅为前代 V3.2 的 27%，KV 缓存占用仅 10%，突破长序列的二次计算瓶颈。 二、流形约束超连接（mHC）。将超连接约束在流形空间内，显著提升万亿参数 MoE 模型的训练稳定性，防止梯度爆炸与专家负载失衡，同时保留模型表达能力。 三、Muon 优化器。取代传统优化器，实现更快的收敛速度与更稳定的训练过程，为大规模预训练奠定基础。 增效机制方面，训练采用 TileLang DSL 灵活开发算子，设计单一融合内核使 MoE 模块的计算、通信与内存访问完全重叠，并引入 FP4 量化感知训练降低内存占用。推理端则透过异构 KV 缓存与磁盘存储策略实现前缀复用，稀疏 FP8 解码对 70% Token 加速，推理速度提升 1.8 倍，精度损失低于 0.5%。 应用层面，V4 原生支持文本、图像、视频、音频的统一编码器-解码器架构，可进行跨模态推理。内部评测显示其 Agentic Coding 交付质量接近 Claude Opus 4.6，优于 Sonnet 4.5，可执行整仓库级 Bug 修复与跨文件代码生成。定价上 Pro 版输入 1–12 元 / 百万 Token，输出 24 元，显著低于同级闭源模型。 简言之，DeepSeek V4 以架构创新换取效率飞跃，让百万级长上下文成为标配，同时维持开源、高性价比与低部署门槛的优势。 #deepseek#華為#升騰950#mHC

L.String🇨🇳

Open In TikTok:

Region: TW

Saturday 25 April 2026 03:55:21 GMT