vLLM 0.33.0 อัปเดต เพิ่มประสิทธิภาพ รองรับ Qwen3.8-Flash-Next และปรับปรุง Multi-GPU บน CUDA และ ROCm

โดย ลุงจุ้ยคุยเรื่องคอม · 3 พ.ย. 2026

โปรเจกต์ vLLM เผยแพร่เวอร์ชัน 0.33.0 เมื่อวันที่ 2 พฤศจิกายน 2026 โดยเป็นการอัปเดตครั้งสำคัญที่มีการเปลี่ยนแปลงมากกว่า 900 Commits จากผู้ร่วมพัฒนา 389 คน ครอบคลุมตั้งแต่การรองรับโมเดลภาษาขนาดใหญ่รุ่นใหม่ การปรับปรุงระบบ Inference ไปจนถึงการจัดการหน่วยความจำ GPU และการประมวลผลแบบ Multi-GPU

สิ่งที่น่าสนใจในเวอร์ชันนี้คือการพัฒนา Speculative Decoding ให้ทำงานได้มีประสิทธิภาพมากขึ้น การเพิ่มทางเลือกสำหรับ KV Cache แบบ Low Precision และการปรับปรุง Backend สำหรับทั้ง NVIDIA CUDA และ AMD ROCm ซึ่งมีความสำคัญต่อระบบ AI Infrastructure ที่ต้องรองรับโมเดลขนาดใหญ่และการให้บริการหลายคำขอพร้อมกัน

vLLM 0.33.0 เพิ่มการรองรับโมเดล AI รุ่นใหม่

หนึ่งในการเปลี่ยนแปลงสำคัญคือการเพิ่ม Model Support ให้กับโมเดลรุ่นใหม่หลายรายการ เช่น

Reflection Beam-1.0 โมเดลขนาด 501B Parameters แบบ MoE มี Active Parameters 23B พร้อมรองรับ DFlash2 สำหรับ Speculative Decoding
Yandex AliceAI-Foundation-80B-A3B โมเดล MoE ที่มี Active Parameters 3B
Recursive Flint โมเดล MoE ขนาด 40B มี Active Parameters 2.5B
Muse Spark Open
Step-5 Preview
NVIDIA Alpamayo 2 Super
Nemotron-Labs Dory1.0-4B
Nemotron Parse 3.5
MiniCPM-OCR 1.0
Domyn Edge

นอกจากนี้ยังเพิ่ม ColUltraVBERT ซึ่งเป็น Visual Document Retriever และ LFM2.5-Embedding-350M สำหรับงาน Embedding

การเพิ่มโมเดลเหล่านี้ช่วยให้ vLLM สามารถนำไปใช้กับงานที่หลากหลายขึ้น ไม่ได้จำกัดอยู่เฉพาะการสร้างข้อความ แต่ครอบคลุมงาน Multimodal, Document Processing และระบบ Retrieval ด้วย

ปรับปรุง Speculative Decoding เพิ่มความเร็วในการสร้าง Token

Speculative Decoding เป็นเทคนิคที่ช่วยเพิ่มความเร็วในการสร้างข้อความ โดยใช้โมเดล Draft ช่วยคาดการณ์ Token ล่วงหน้า ก่อนให้โมเดลหลักตรวจสอบและยอมรับผลลัพธ์ที่ถูกต้อง

ใน vLLM 0.33.0 มีการปรับปรุงหลายส่วนที่น่าสนใจ ได้แก่

XPress Refiner

เพิ่ม XPress Refiner สำหรับ Block-Diffusion Drafters เช่น DFlash และ DSpark เพื่อปรับปรุงกระบวนการตรวจสอบผลลัพธ์จากโมเดล Draft

FLy Lossy Verification

เพิ่มตัวเลือก FLy ซึ่งเป็น Verification Policy ที่ยอมรับการตรวจสอบแบบ Lossy ได้ โดยต้องเปิดใช้งานเอง (Opt-in) ผลการทดสอบใน Pull Request ระบุว่าช่วยเพิ่ม Decode Throughput ได้ประมาณ 1.04-1.31 เท่า บน AMD MI355X และ NVIDIA B300

ลดข้อจำกัด Draft Token Budget

ปรับให้ DFlash และ DSpark ไม่ต้องจองพื้นที่ Draft Slots ไว้ใน Token Budget อีกต่อไป ทำให้สามารถใช้ทรัพยากรได้มีประสิทธิภาพขึ้น

ตัวอย่างผลทดสอบที่โครงการระบุคือ DeepSeek-V4.1-Flash ร่วมกับ DSpark บน GB300 เพิ่ม Output Throughput จาก 1,373 เป็น 3,390 Tokens/s

Quantized Draft LM Head

เพิ่มการรองรับ Quantization สำหรับ Draft LM Head ผ่านพารามิเตอร์ draft_lm_head_quantization โดยผลทดสอบใน Pull Request รายงานว่า Decode Performance เพิ่มขึ้นประมาณ 18% ที่ Concurrency 1

การปรับปรุงเหล่านี้มีความสำคัญต่อระบบที่ต้องการลดเวลาในการสร้าง Token โดยเฉพาะการให้บริการโมเดลขนาดใหญ่ที่มีต้นทุนด้านการประมวลผลสูง

อย่างไรก็ตาม ตัวเลขประสิทธิภาพที่กล่าวถึงเป็นผลทดสอบเฉพาะฮาร์ดแวร์และ Configuration ที่ระบุในแต่ละ Pull Request ไม่ใช่ผลการทดสอบที่รับประกันว่าจะได้ประสิทธิภาพเพิ่มขึ้นในทุกระบบ

ปรับปรุง Inference บน NVIDIA และ Blackwell

vLLM 0.33.0 มีการปรับปรุง Kernel และ Decode Optimization สำหรับ NVIDIA GPU หลายรายการ โดยเฉพาะสถาปัตยกรรม Blackwell

ตัวอย่างที่น่าสนใจ ได้แก่

Kimi-K3 ได้รับ Latency-Specialized Decode บน GB300 โดยผลทดสอบรายงานประสิทธิภาพเพิ่มขึ้นประมาณ 1.5-2 เท่า เมื่อใช้ Tensor Parallelism ระดับ TP8 และ TP16
DeepSeek-V4.1-Flash มี Decode Step เร็วขึ้น 18.3% ที่ Batch Size 1 บน GB300
DeepSeek-V4 และ V4.1 สามารถใช้ MXFP4 Experts ผ่าน Block FP8 บน Hopper โดยผลทดสอบบน H200 จำนวน 4 ตัวพบว่า Decode Performance เพิ่มขึ้นประมาณ 9-21%
เพิ่ม FA4 Sparse MLA Decode บน Blackwell
ปรับปรุง FlashInfer DCP Prefill บน trtllm-gen โดยผลทดสอบบน B200 จำนวน 8 ตัวพบว่า Mean Time to First Token ลดลง 39-48% เมื่อประมวลผล Input ขนาด 100K Tokens

การปรับปรุงเหล่านี้แสดงให้เห็นว่า vLLM ให้ความสำคัญกับการเพิ่มประสิทธิภาพทั้ง Prefill และ Decode โดยเฉพาะระบบ Multi-GPU ที่ต้องจัดการ Context ขนาดใหญ่และคำขอจำนวนมาก

AMD ROCm เพิ่มประสิทธิภาพ KV Cache และ Decode

สำหรับ AMD GPU เวอร์ชันนี้มีการเปลี่ยนแปลงที่สำคัญเช่นกัน โดย Default ROCm Wheels และ Docker Images เปลี่ยนมาใช้ ROCm 10.0 ส่วน ROCm 7.2 ยังคงมีให้เลือกใช้งานผ่านแพ็กเกจแยก

การเปลี่ยนแปลงที่น่าสนใจประกอบด้วย

MonoKernel Decode

เพิ่มตัวเลือก --monokernel สำหรับ DeepSeek-V4.1-Flash บน MI300X และ MI325X โดยผลทดสอบระบุว่า P50 Interactivity เพิ่มขึ้น 2.32 เท่า ที่ Concurrency 1

นอกจากนี้ยังมีการปรับปรุงสำหรับ MI355X ทั้ง DeepSeek-V4.1-Flash และ MiniMax-M3-MXFP4

ROCM_OCTAVE KV Cache

เพิ่ม KV Cache แบบ 3-4 Bit ผ่าน ROCM_OCTAVE ซึ่งมีผลทดสอบระบุว่าสามารถจัดเก็บ KV Tokens ได้มากกว่า FP16 ถึง 4.6 เท่า บน Radeon RX 7900 XTX

ประเด็นนี้มีความสำคัญต่อระบบที่ต้องจัดการ Context Window ขนาดใหญ่ เพราะ KV Cache เป็นหนึ่งในส่วนที่ใช้ VRAM เพิ่มขึ้นตามปริมาณ Context และจำนวนคำขอที่ประมวลผลพร้อมกัน

เพิ่มการรองรับ gfx1250

มีการเพิ่มการรองรับสถาปัตยกรรม gfx1250 สำหรับโมเดล gpt-oss-120b, DeepSeek-R1, DeepSeek-V4-Flash และ MiniMax-M3

นี่เป็นอีกหนึ่งความเคลื่อนไหวที่น่าติดตามสำหรับระบบ AMD GPU แต่ควรตรวจสอบ Model, Kernel และ Hardware Compatibility ของแต่ละ Configuration ก่อนนำไปใช้งานจริง

Qwen3.8-Flash-Next ได้รับการปรับปรุง KV Cache

สำหรับผู้ที่ติดตามการรันโมเดลขนาดใหญ่ในระบบ Local AI การเปลี่ยนแปลงที่น่าสนใจคือการปรับปรุง Qwen3.8-Flash-Next

vLLM เพิ่ม FP8 QSA KV Cache สำหรับ Qwen3.8-Flash-Next บน NVIDIA Ampere รวมถึงการปรับปรุง PLE Embeddings ด้วย NVFP4 Packing ซึ่งช่วยให้ Qwen3.8-Flash-Next-NVFP4 สามารถรันบน NVIDIA DGX Spark เครื่องเดียวได้ตาม Configuration ที่โครงการรองรับ

นอกจากนี้ยังมี PLE Short-Conv Prefill Checkpoints เพื่อปรับปรุงการประมวลผลในส่วน Prefill

การเปลี่ยนแปลงนี้มีความสำคัญเพราะโมเดลขนาดใหญ่ไม่ได้ต้องการเพียงหน่วยความจำสำหรับเก็บ Model Weights เท่านั้น แต่ยังต้องจัดสรรพื้นที่สำหรับ KV Cache และส่วนประกอบอื่น ๆ ของระบบ Inference ด้วย

การลดขนาด KV Cache และการปรับปรุงการจัดเก็บ Embeddings จึงเป็นอีกแนวทางที่ช่วยให้สามารถใช้ฮาร์ดแวร์ที่มีหน่วยความจำจำกัดได้มีประสิทธิภาพมากขึ้น

ปรับปรุง API และระบบ Serving

vLLM 0.33.0 ยังเพิ่มความสามารถสำหรับการนำโมเดลไปให้บริการผ่าน API โดยมีการเปลี่ยนแปลงที่น่าสนใจ ได้แก่

เพิ่ม OpenAI-compatible /v1/decisions Endpoint สำหรับโมเดลที่รองรับ
เพิ่ม Token Embeddings พร้อมตัวเลือก Late Chunking ผ่าน /v1/embeddings
ปรับปรุง Rust Frontend ให้มีความสามารถใกล้เคียงกับ Python Frontend มากขึ้น
ปรับปรุงการเริ่มต้น Worker พร้อมกันเมื่อใช้ Tensor Parallelism มากกว่า 1
เพิ่ม Watchdog สำหรับตรวจสอบ Engine และ Worker ที่หยุดตอบสนอง พร้อมเก็บ Stack Trace เพื่อช่วยวิเคราะห์ปัญหา

นอกจากนี้ยังปรับปรุงการทำงานของ API Workers ในระบบที่ใช้ --api-server-count มากกว่า 1 โดยกระจาย Connection ไปยัง Worker ที่มีภาระงานน้อยที่สุด

ผลทดสอบใน Pull Request ระบุว่า Throughput เพิ่มขึ้น 43-85% สำหรับงานคำขอสั้น โดยใช้ Qwen3-0.6B ในการทดสอบ

PyTorch 2.14 และการเปลี่ยนแปลง CUDA

vLLM 0.33.0 อัปเกรดไปใช้ PyTorch 2.14.0 พร้อม torchvision 0.29.0 และ Triton 3.8.0

อีกหนึ่งประเด็นที่ผู้ใช้งาน NVIDIA ต้องให้ความสำคัญคือการยุติการเผยแพร่ CUDA 12.9 Wheels และ Docker Images ใน Release นี้ โดยเปลี่ยนมาใช้ CUDA 13.0 เป็นหลัก

สำหรับผู้ใช้งาน AMD จะมี Default ROCm 10.0 และยังสามารถเลือก ROCm 7.2 ได้

แพ็กเกจที่เผยแพร่ยังครอบคลุม Intel XPU และ CPU ด้วย ทำให้ผู้ใช้งานสามารถเลือกติดตั้งตามแพลตฟอร์มที่ต้องการได้

สิ่งที่ต้องตรวจสอบก่อนอัปเกรด

แม้ vLLM 0.33.0 จะเพิ่มประสิทธิภาพและความสามารถหลายด้าน แต่ก็มี Breaking Changes ที่ควรตรวจสอบก่อนอัปเกรดระบบเดิม

ยกเลิกการรองรับ Python 3.10 โดยต้องใช้ Python เวอร์ชันใหม่ตามข้อกำหนดของ Release
ยกเลิก Medusa และ MLP Speculator
ยกเลิก Legacy Ray Compiled-Graph Executor
--mamba-cache-mode ถูกประกาศเลิกใช้
NIXL Connector ต้องใช้ NIXL 1.5 หรือใหม่กว่า
LM Format Enforcer และ --ir-op-priority ถูกประกาศเลิกใช้
ปรับข้อกำหนด CORS ให้จำกัด Origins มากขึ้น

ผู้ที่ใช้งานระบบ Production หรือมี Custom Configuration ควรตรวจสอบ Migration และ Compatibility ก่อนเปลี่ยนเวอร์ชัน โดยเฉพาะระบบที่ใช้ Speculative Decoding, Ray และ NIXL

วิธีติดตั้ง vLLM 0.33.0

สำหรับผู้ที่ต้องการทดลองใช้งาน สามารถเลือกติดตั้งตามแพลตฟอร์มได้ดังนี้

NVIDIA CUDA 13.0

pip install vllm

หรือใช้ uv

uv pip install vllm --torch-backend=auto

AMD ROCm 10.0

pip install vllm --extra-index-url https://wheels.vllm.ai/rocm/0.33.0/rocm100

AMD ROCm 7.2

pip install vllm --extra-index-url https://wheels.vllm.ai/rocm/0.33.0/rocm72

Docker สำหรับ NVIDIA

docker pull vllm/vllm-openai:v0.33.0

Docker สำหรับ AMD ROCm 10.0

docker pull vllm/vllm-openai-rocm:v0.33.0

Docker สำหรับ CPU

docker pull vllm/vllm-openai-cpu:v0.33.0

Docker สำหรับ Intel XPU

docker pull vllm/vllm-openai-xpu:v0.33.0

ควรตรวจสอบรายละเอียดการติดตั้งและข้อกำหนดของแต่ละแพลตฟอร์มจากเอกสารทางการก่อนใช้งาน

บทสรุป: vLLM กำลังพัฒนาไปสู่ระบบ Inference ที่รองรับโมเดลขนาดใหญ่และฮาร์ดแวร์หลากหลาย

vLLM 0.33.0 ไม่ใช่เพียงการเพิ่ม Model Support แต่เป็นการปรับปรุงโครงสร้าง Inference Engine ในหลายระดับ ตั้งแต่ Speculative Decoding, KV Cache, Kernel Optimization ไปจนถึง API Serving

สิ่งที่น่าจับตามองคือการพัฒนาควบคู่กันระหว่าง NVIDIA CUDA และ AMD ROCm โดยเฉพาะการเพิ่ม Low-Precision KV Cache และการปรับปรุง Decode สำหรับโมเดลขนาดใหญ่

สำหรับผู้ที่กำลังพัฒนาระบบ Local AI, Multi-GPU Inference หรือ AI Server การอัปเดตครั้งนี้มีหลายส่วนที่ควรนำไปทดสอบ โดยเฉพาะ Qwen3.8-Flash-Next, Speculative Decoding และการจัดการ KV Cache

อย่างไรก็ตาม ประสิทธิภาพที่เพิ่มขึ้นยังขึ้นอยู่กับรุ่น GPU, Memory Bandwidth, VRAM, Driver, Kernel และ Configuration ที่ใช้จริง การอัปเดต vLLM เพียงอย่างเดียวไม่ได้หมายความว่าทุกระบบจะทำงานได้เร็วขึ้นในระดับเดียวกับตัวเลข Benchmark ของโครงการ

ดาวน์โหลดและตรวจสอบรายละเอียดเพิ่มเติม

GitHub Releases: https://github.com/vllm-project/vllm/releases
vLLM Documentation: https://docs.vllm.ai/
GitHub Repository: https://github.com/vllm-project/vllm