跳到正文
开源官方

Lightseek公布Qwen3.8-Flash-Next推理优化成果

Congrats to @lightseekorg on the impressive TokenSpeed results! 🚀 Great to see Qwen3.8-Flash-Next reaching 685 output tokens/s per user ...

Lightseek公布TokenSpeed在Qwen3.8-Flash-Next上的推理优化结果:在4块NVIDIA GB300、NVFP4配置下,每用户输出速度达685 tokens/s,并公开内核与服务优化细节及GitHub仓库。Qwen官方转发祝贺,称期待社区进一步释放Qwen推理潜力。

QQwen (@Alibaba_Qwen)阅读原文(英文)

相关阅读

开源·Hugging Face Blog
llama.cpp 与 ggml 发布 v1.0.0 库版本
开源·NVIDIA Blog
NVIDIA 将 OpenShell 贡献给 CNCF 并发布 DSX AI Factory 新组件
开源·DeepSeek (@deepseek_ai)
DeepSeek 开源自研推理框架 DeepInfer