Tracked topic
Agentic AI / Generative AI Build with DeepSeek V4 Using NVIDIA Blackwell and GPU-Accelerated Endpoints Apr 24, 2026 By Anu Srivastava and Eduardo Alvarez Discuss 0 Discuss 0 L T F R E DeepSeek just launched its fourth generation of flagship models with DeepSeek-V4-Pro and DeepSeek-V4-Flash , both t… …
… DeepSeek-V3 671B Figure 2 compares DeepSeek-V3 671B throughput across activation placement policies. …
… DeepSeek-V3 671B에서 이러한 최적화가 누적되어 동일한 인프라에서 약 6배 높은 실제 성능을 달성했습니다. JAX도 동일한 궤적을 따릅니다. 6개월에 걸쳐 NVIDIA JAX 최적화 는 256개 GPU 규모에서 DeepSeek-V3 671B의 성능을 거의 10배 향상시켰으며, 이 모두가 소프트웨어 최적화에서 비롯된 것입니다. 최신 소프트웨어 버전은 1,025 TFLOPS/GPU라는 뛰어난 처리량에 도달했으며, 소프트웨어 최적화는 계속해서 발전하고 있습니다. …
… On a pre-training workload the size of DeepSeek-v3 671B, those gains compound. …
… NVIDIA는 작년 MLPerf Inference에 이 벤치마크가 처음 등장했을 때 DeepSeek-R1 결과를 제출한 최초이자 유일한 플랫폼이었습니다. 이번 라운드에서 NVIDIA는 기존 DeepSeek-R1 시나리오의 성능을 높였을 뿐만 아니라, 새롭게 추가된 Interactive 시나리오에서도 다시 한번 유일하게 결과를 제출했습니다. 또한, 출시된 지 거의 2년이 지난 초대형 고밀도 LLM인 Llama 3.1 405B에서도 GB300 NVL72의 성능은 Server 시나리오 기준 1.5배 향상되었습니다. …
… This round of MLPerf Inference added several new tests, including: DeepSeek-R1 Interactive: Following the addition of DeepSeek-R1 reasoning LLM based on a sparse mixture-of-experts MoE architecture in MLPerf Inference v5.1, MLCommons added a new Interactive scenario with 5x faster minimum token rat… …
… MLCommons introduced new pretraining benchmarks in this round designed to reflect the latest trends in AI models, including DeepSeek-V3, a massive 671B-parameter Mixture of Experts MoE model that also serves as the base for the popular DeepSeek-R1 reasoning model, and GPT-OSS-20B, a small-but-capab… …
… This included DeepSeek-R1, Llama 3.1 8B and 405B, and Llama 2 70B. …
… This allowed quick support for models like Llama, Qwen, and DeepSeek. …
… In DeepSeek-V3, communication time may account for more than 50% of overall training time without optimization. …