ข้ามไปยังเนื้อหา

โหมด

ชุดสี

Strata 0.2.11 อัปเดต รองรับ Qwen3.8-Flash-Next รุ่นใหม่จาก Unsloth เพิ่มประสิทธิภาพ Multi-GPU และเร่งความเร็ว Prompt Processing

Strata เปิดตัวเวอร์ชัน 0.2.11 เมื่อวันที่ 5 พฤศจิกายน 2026 โดยเป็นการอัปเดตที่มีความสำคัญสำหรับผู้ใช้งาน Local AI โดยเฉพาะผู้ที่ต้องการรันโมเดลภาษาขนาดใหญ่บนเครื่องคอมพิวเตอร์ส่วนตัวที่มี GPU หลายตัว หรือมีหน่วยความจำ VRAM จำกัด

ไฮไลต์สำคัญคือการรองรับไฟล์โมเดล Qwen3.8-Flash-Next GGUF ชุดใหม่จาก Unsloth ในรูปแบบ Dynamic v3.1 จำนวน 7 รูปแบบ พร้อมปรับปรุงประสิทธิภาพการประมวลผล Prompt บน NVIDIA และ AMD Radeon เพิ่มความสามารถในการกระจายโมเดลไปยัง GPU หลายตัว และปรับระบบจัดการหน่วยความจำให้สามารถเริ่มต้นโมเดลบนฮาร์ดแวร์ที่มี VRAM จำกัดได้ดีขึ้น

นอกจากนี้ยังมีการปรับปรุงระบบบันทึกบทสนทนา การทำงานของ Agent และแก้ไขปัญหาด้านความปลอดภัยและความเสถียรหลายรายการ

การเปลี่ยนแปลงที่น่าสนใจที่สุดคือ Strata สามารถดาวน์โหลด เตรียมไฟล์ และรัน Qwen3.8-Flash-Next GGUF ชุดใหม่ที่ Unsloth อัปโหลดเมื่อวันที่ 4 พฤศจิกายนได้โดยตรง

โมเดลชุดนี้ใช้แนวทาง Dynamic v3.1 ซึ่งแบ่งไฟล์โมเดลออกเป็นหลายส่วน และใช้รูปแบบการจัดเก็บน้ำหนักโมเดลที่แตกต่างกันตามระดับ Quantization

Strata รองรับทั้งหมด 7 รูปแบบ ได้แก่

Quantization ขนาดไฟล์ดาวน์โหลด จำนวนไฟล์
UD-IQ1_M 68.0 GB 3
UD-Q2_0 70.6 GB 3
UD-IQ2_XS 75.8 GB 3
UD-Q2_K_XL 79.6 GB 4
UD-IQ3_XXS 83.6 GB 4
UD-Q3_K_XL 89.5 GB 4
UD-IQ4_XS-v31 93.7 GB 4

จุดที่ควรทำความเข้าใจคือขนาดไฟล์เหล่านี้ไม่ได้หมายความว่า GPU ต้องมี VRAM เท่ากับขนาดโมเดลทั้งหมด เพราะ Strata สามารถจัดการ Expert Weights ที่ไม่อยู่ใน GPU ผ่าน System RAM หรือพื้นที่จัดเก็บข้อมูลได้

สำหรับโมเดลชุดนี้ ไฟล์สุดท้ายของแต่ละชุดเป็นตารางขนาด 28.8 GB ที่โมเดลต้องอ่านระหว่างประมวลผล โดยบาง Quantization สามารถใช้ไฟล์ตารางร่วมกันได้

อีกประเด็นหนึ่งคือ Strata เพิ่มการรองรับ Expert Format Q5_0 ซึ่งพบในไฟล์ UD-IQ4_XS-v31 จำนวน 33 Layers, UD-Q3_K_XL จำนวน 20 Layers และบาง Layers ของ UD-IQ2_XS กับ UD-Q2_K_XL

ทีมพัฒนาปรับวิธีคำนวณ Format นี้ให้ใกล้เคียงค่าจริงมากขึ้น โดยความคลาดเคลื่อนจากผลคำนวณที่แม่นยำลดจากประมาณ 2.6–3.0% เหลือ 1.2–1.3%

ผู้ใช้สามารถเลือกโมเดลได้จากหน้าแอปพลิเคชัน ใช้งานผ่าน Terminal หรือเลือกไฟล์ GGUF ที่ดาวน์โหลดมาไว้แล้วก็ได้ โดยมีการตรวจสอบขนาดไฟล์และ SHA-256 เทียบกับ Unsloth Revision d9620119

Strata เผยแพร่ผลทดสอบจากการรันไฟล์โมเดลจริง โดยมีตัวเลขที่น่าสนใจดังนี้

GPU / Platform Quantization Decode Speed
NVIDIA DGX Spark (GB10) UD-IQ1_M 43–45 tokens/s
1–2 x RTX A6000 UD-IQ1_M 101–114 tokens/s
AMD Radeon AI PRO R9700 UD-IQ1_M 100–130 tokens/s
Intel Arc A750 8GB UD-IQ1_M 5–6 tokens/s
RTX 3060 12GB UD-IQ1_M 31–37 tokens/s
1–2 x RTX A6000 UD-IQ2_XS 86–114 tokens/s
AMD Strix Halo UD-IQ2_XS 54–75 tokens/s
AMD Strix Halo UD-IQ3_XXS 55–73 tokens/s
2 x RTX A6000 UD-IQ4_XS-v31 96–118 tokens/s

ตัวเลขเหล่านี้เป็น Decode Speed จากการทดสอบบน Prompt สั้น ไม่ใช่ความเร็วในการอ่าน Prompt หรือ Prefill และแต่ละการทดสอบใช้ฮาร์ดแวร์และ Quantization ต่างกัน จึงไม่ควรนำมาเปรียบเทียบเป็นประสิทธิภาพของ GPU เพียงอย่างเดียว

อย่างไรก็ตาม ผลทดสอบบน RTX 3060 12GB และ Intel Arc A750 8GB แสดงให้เห็นว่า Strata สามารถจัดการโมเดลที่มีขนาดไฟล์ใหญ่กว่าหน่วยความจำ GPU ได้ โดยอาศัยการจัดการ Expert Weights ผ่านหน่วยความจำส่วนอื่นของระบบ

สำหรับ Intel Arc A750 ตัวโมเดล UD-IQ1_M ต้องอ่านข้อมูลผ่าน GPU 8GB และ System RAM 62GB ทำให้ความเร็วอยู่ที่ 5–6 tokens/s ซึ่งสะท้อนให้เห็นว่าการรันโมเดลได้ไม่ได้หมายความว่าจะได้ความเร็วในระดับเดียวกับ GPU ที่มีหน่วยความจำเพียงพอสำหรับเก็บข้อมูลไว้บนการ์ดทั้งหมด

Strata 0.2.11 ให้ความสำคัญกับการทำงานแบบ Multi-GPU โดยเฉพาะการใช้ All-Cards Split Engine ที่กระจายการประมวลผลของโมเดลไปยัง GPU หลายตัว

แนวทางนี้แตกต่างจาก Layer Split ทั่วไป

  • Layer Split: แบ่ง Layers ของโมเดลไปให้ GPU แต่ละตัวรับผิดชอบ
  • All-Cards Split: GPU แต่ละตัวมีส่วนร่วมในการประมวลผล Layers ของโมเดล ไม่ใช่เพียงรับผิดชอบ Layers ที่แยกกัน

ในการอัปเดตครั้งนี้ Strata ปรับปรุงการส่งผ่านข้อมูลระหว่าง GPU และลดงานที่ซ้ำซ้อนในขั้นตอน Prompt Processing

ผลทดสอบบน AMD Radeon AI PRO R9700 จำนวน 4 ตัว ด้วย UD-Q4_K_XL พบว่า

การทดสอบ Strata 0.2.10 Strata 0.2.11
1 User 161.8 tokens/s 173.2 tokens/s
8 Users พร้อมกัน 276.3 tokens/s 358.4 tokens/s

คิดเป็นการเพิ่มขึ้นประมาณ 6.9% สำหรับการใช้งานหนึ่งผู้ใช้ และ 32.7% เมื่อมีผู้ใช้ 8 รายพร้อมกัน

นอกจากนี้ยังปรับปรุง IQ3_S บน GPU 4 ตัว โดยระบบสามารถเลือกใช้ Split Engine ได้อัตโนมัติ ซึ่งผลทดสอบแบบ 1 User เพิ่มจาก 104.2 tokens/s ใน Layer Split เป็น 186.8 tokens/s ใน Split Engine รุ่นใหม่

อีกหนึ่งจุดสำคัญคือระบบ Auto สามารถเลือกใช้ All-Cards Split Engine บน Radeon AI PRO R9700 จำนวน 4 ตัวได้แล้ว แม้จะใช้ไฟล์โมเดลประเภท IQ3_S ก็ตาม

อย่างไรก็ตาม การเปิดใช้งานอัตโนมัติในครั้งนี้ครอบคลุมการ์ด R9700 จำนวน 4 ตัว ส่วนการใช้ 2 และ 3 ตัวไม่ได้มีการเปลี่ยนแปลงเงื่อนไขจากเวอร์ชันก่อนหน้า

Strata ปรับปรุง Kernel สำหรับการประมวลผล Prompt โดยเฉพาะโมเดลที่ใช้ Quantization แบบ K-Quant

ฝั่ง NVIDIA

การ์ดที่ใช้ Compute Capability 8.0 ขึ้นไป จะเปิดใช้ K-Quant Prompt Kernels เป็นค่าเริ่มต้นสำหรับโมเดล Unsloth UD-Q4_K_XL, UD-Q5_K_XL และ UD-Q6_K_XL

ตัวอย่างผลทดสอบบน RTX PRO 6000 พบว่าความเร็ว Prompt Processing เพิ่มขึ้นดังนี้

  • Prompt 4K: เพิ่มขึ้น 37.7%
  • Prompt 8K: เพิ่มขึ้น 25.8%
  • Prompt 20K: เพิ่มขึ้น 34.3%
  • Prompt 32K: เพิ่มขึ้น 32.6%

ส่วน RTX A6000 มีความเร็วเพิ่มขึ้น 1.7–11.2% ตามขนาด Prompt

นอกจากนี้ยังปรับค่าเริ่มต้นของ --prefill auto ให้รองรับ Prompt Chunk สูงสุด 32,768 Tokens จากเดิม 8,192 Tokens สำหรับ GPU ที่เข้าเงื่อนไข โดยระบบยังสามารถลดขนาด Chunk อัตโนมัติได้เมื่อหน่วยความจำไม่เพียงพอ

ฝั่ง AMD Radeon

สำหรับ Linux Radeon ที่ใช้สถาปัตยกรรม gfx12 เช่น Radeon AI PRO R9700 และ RX 9000 Series มีการเปิดใช้งาน K-Quant Prompt Kernels พร้อมปรับ Prompt Chunk สูงสุดเป็น 32,768 Tokens เช่นกัน

นอกจากนี้ยังเพิ่ม Prompt Staging Ring เพื่อปรับปรุงการจัดการข้อมูลระหว่างประมวลผล

ผลทดสอบบน Radeon AI PRO R9700 พบว่า K-Quant Kernels เพิ่มความเร็ว Prompt Processing ได้ประมาณ 10.3–16.8% ตามขนาด Prompt

ส่วนการปรับปรุง Route-Tail Skip สำหรับ Unsloth Models ช่วยเพิ่ม Decode Speed เฉลี่ยทางเรขาคณิต 6.18% ในชุดทดสอบที่ใช้ UD-Q4_K_XL และเพิ่มค่ามัธยฐาน Decode Speed ในชุดทดสอบ 61 งานประมาณ 15.6%

ข้อควรทราบคือการปรับปรุงเหล่านี้มีผลแตกต่างกันตาม GPU, Quantization และลักษณะงาน ไม่ได้หมายความว่า GPU ทุกรุ่นจะได้รับความเร็วเพิ่มขึ้นเท่ากัน

4. จัดการ VRAM ได้ดีขึ้น รองรับ Multi-GPU ที่มีหน่วยความจำจำกัด

หัวข้อที่มีชื่อว่า “4. จัดการ VRAM ได้ดีขึ้น รองรับ Multi-GPU ที่มีหน่วยความจำจำกัด”

อีกหนึ่งการเปลี่ยนแปลงที่น่าสนใจคือ Strata ปรับปรุงระบบ Layer Split ให้สามารถลดการใช้หน่วยความจำเมื่อ GPU แต่ละตัวมี VRAM เหลือไม่เพียงพอ

ระบบสามารถปรับลด Dense Weights, ลด KV Window, ปิด Drafter บน GPU ที่มีหน่วยความจำจำกัด และย้าย Output Head ไปยัง Pinned Host Memory ในบางกรณี

นอกจากนี้ยังปรับระบบ Auto ให้พิจารณาจาก VRAM ที่เหลืออยู่จริง ไม่ใช่ดูจากความจุ VRAM ทั้งหมดของการ์ด

ตัวอย่างผลทดสอบบน NVIDIA RTX PRO 6000 สองตัว โดยจำกัด VRAM ที่เหลือให้แต่ละการ์ดมีเพียง 8GB

  • Strata 0.2.10 ไม่สามารถเริ่มโมเดลได้ โดยหยุดทำงานหลังจากพยายามเริ่มประมาณ 71 วินาที
  • Strata 0.2.11 สามารถเริ่มโมเดลและสร้างคำตอบได้ โดยมี Decode Speed ประมาณ 110.5 tokens/s

การทดสอบนี้ใช้ Qwen3.8 IQ3_S, Context 128K และ Int8 KV Cache

นอกจากนี้ยังทดสอบการใช้งานที่มี VRAM เหลือ 12GB และ 16GB ต่อการ์ด โดยเวอร์ชันใหม่สามารถเริ่มต้นและตอบคำถามได้ในกรณีที่เวอร์ชันก่อนหน้ามีปัญหา Out of Memory

อย่างไรก็ตาม การใช้ VRAM น้อยไม่ได้หมายความว่าจะได้ประสิทธิภาพเท่ากับการ์ดที่มีหน่วยความจำเหลือมากกว่า โดยเฉพาะการประมวลผล Prompt ขนาดใหญ่ ซึ่งยังมีข้อจำกัดด้านการกระจายงานระหว่าง GPU

สำหรับผู้ที่ใช้งานหลาย Request พร้อมกันบน NVIDIA Linux Strata เพิ่ม FP16 Weight Cache เพื่อช่วยปรับปรุงประสิทธิภาพการประมวลผล

ผลทดสอบบน RTX PRO 5000 ด้วย IQ3_S และ Context 32K พบว่า Throughput รวมเพิ่มขึ้นตามจำนวน Request

  • 1 Request: เพิ่มขึ้นประมาณ 3.8%
  • 2 Requests: เพิ่มขึ้นประมาณ 5.0%
  • 4 Requests: เพิ่มขึ้นประมาณ 5.7%
  • 8 Requests: เพิ่มขึ้นประมาณ 6.6%

ระบบจะสำรอง VRAM ไว้ประมาณ 3GB เพื่อใช้กับ Cache ดังกล่าว

ส่วน Speculative Decoding มีการปรับปรุงการทำงานของ DFlash2 และ MTP โดยผู้ใช้สามารถเลือก DFlash2 พร้อมกำหนดจำนวน Request ที่ต้องการได้ และระบบจะจัดสรร Drafter แยกตาม Request

สำหรับการใช้งานแบบ Auto ระบบยังเลือก MTP เมื่อมีหลาย Request ทำงานพร้อมกันในบางรูปแบบตามผลการทดสอบของทีมพัฒนา

นอกเหนือจากประสิทธิภาพการประมวลผลแล้ว Strata 0.2.11 ยังปรับปรุงระบบจัดเก็บข้อมูลสนทนาอย่างมีนัยสำคัญ

เดิม Chat ถูกเก็บไว้ใน Browser Storage แต่เวอร์ชันใหม่เปลี่ยนมาใช้ไฟล์ภายใน Data Folder ของ Strata โดยจัดเก็บเป็นไฟล์ JSON พร้อม Index แยกต่างหาก

ข้อดีของแนวทางนี้ ได้แก่

  • ไม่มีข้อจำกัดขนาด 5MB ต่อ Chat แบบระบบเดิม
  • บันทึกข้อความตามข้อมูลจริงโดยไม่ตัดทอน
  • ใช้ Temporary File ก่อนเปลี่ยนชื่อเป็นไฟล์จริง เพื่อลดความเสี่ยงข้อมูลเสียหายระหว่างบันทึก
  • รองรับการเปิดหลายหน้าต่างและซิงก์การเปลี่ยนแปลงของ Chat
  • หากบันทึกไม่สำเร็จ ระบบจะเก็บข้อมูลไว้ในหน่วยความจำและแจ้งให้ผู้ใช้สามารถคัดลอกข้อมูลที่ยังไม่ได้บันทึกได้

อีกหนึ่งการปรับปรุงคือการทำงานของ Agent เมื่อผู้ใช้ Reload หรือปิดหน้าเว็บขณะที่ Agent กำลังทำงาน

เมื่อเปิดกลับมา Strata จะตรวจสอบงานเดิมและแสดงคำตอบที่กำลังสร้างต่อได้ พร้อมปุ่ม Stop แทนที่จะขึ้นข้อความ Network Error เหมือนเวอร์ชันก่อน

นอกจากนี้ยังแก้ไขปัญหาการส่งคำตอบผิด Request ในกรณีที่มีการรันโมเดลเดียวกันหลาย Instance พร้อมกัน ซึ่งถือเป็นการแก้ไขที่สำคัญทั้งในด้านความถูกต้องและความเป็นส่วนตัวของข้อมูล

การอัปเดตครั้งนี้ยังครอบคลุมการใช้งานทั่วไปหลายส่วน เช่น

  • แก้ไขปัญหา Desktop App แสดงหน้าจอสีขาวเมื่อ WebView2 Renderer หยุดทำงาน
  • ปรับปรุงตำแหน่ง Menu และ Dropdown ให้รองรับขนาด Interface ที่แตกต่างกัน
  • ลดจำนวนการเรียกใช้ PowerShell และ nvidia-smi ซ้ำ ๆ บน Windows ทำให้การสร้าง Launch Plan ใช้เวลาลดลง
  • แก้ไขปัญหา Markdown Renderer ใช้หน่วยความจำเพิ่มขึ้นผิดปกติเมื่ออ่านไฟล์ที่ใช้ Windows CRLF
  • ปรับปรุงการเชื่อมต่อ Stream โดยส่ง Heartbeat ทุก 15 วินาทีในช่วงที่ไม่มีข้อมูลใหม่
  • ปรับปรุงการจัดการ Process เมื่อหยุด Agent หรือคำสั่งที่มี Child Process ทำงานอยู่

ด้านความปลอดภัยมีการอัปเดต Pillow เป็นเวอร์ชัน 13.0.0 สำหรับ Python 3.11 ขึ้นไป เพื่อแก้ไขช่องโหว่ที่เกี่ยวข้องกับ JPEG 2000 Decoder

นอกจากนี้ยังปรับการส่ง Prompt สำหรับ Image Tool ไม่ให้ส่งผ่าน Command Line โดยตรง แต่เปลี่ยนไปใช้ไฟล์ที่จำกัดสิทธิ์การเข้าถึงแทน

Strata 0.2.11 มีแพ็กเกจสำหรับ Windows, Linux, macOS และ NVIDIA DGX Spark

Platform รองรับ
Windows x64 Desktop App และ Terminal
Linux x86_64 AppImage และ Terminal
macOS ARM64 DMG และ Terminal
NVIDIA DGX Spark Linux ARM64

สำหรับ Qwen Engine มีแพ็กเกจแยกตามแพลตฟอร์มและ GPU ดังนี้

  • NVIDIA CUDA 12 และ CUDA 13
  • AMD Radeon RX 9070 Series
  • AMD Radeon RX 7900 Series
  • AMD Strix Halo
  • AMD Radeon RX 6000 Series บน Linux
  • Intel Arc ผ่าน SYCL บน Linux
  • Apple Metal บน macOS

ข้อควรระวังคือการมีแพ็กเกจรองรับไม่ได้หมายความว่าทุกฟีเจอร์ผ่านการทดสอบบนฮาร์ดแวร์ทุกชุดแล้ว โดยเฉพาะ Multi-GPU Split Engine บนแอป Desktop สำหรับเครื่องที่ใช้ GPU สองตัว ซึ่งทีมพัฒนายังไม่ได้ทดสอบกับแอปเวอร์ชันที่เผยแพร่จริงใน Release นี้

ผู้ใช้งาน Strata เวอร์ชันเดิมสามารถอัปเดตได้โดยไม่จำเป็นต้องติดตั้งใหม่ทั้งหมด

Desktop App

สามารถตรวจสอบการอัปเดตผ่านระบบ In-App Update หรือดาวน์โหลดตัวติดตั้งใหม่จากหน้า Release

Terminal

ใช้คำสั่ง

Terminal window
strata update

ระบบจะอัปเดต Control และ Engine เป็นเวอร์ชัน 0.1.57 โดยเก็บ Engine เวอร์ชันก่อนหน้าไว้สำหรับ Rollback

ตรวจสอบเวอร์ชัน

Terminal window
strata --version

หากต้องการย้อนกลับไปใช้ Engine รุ่นก่อนหน้า สามารถใช้คำสั่ง

Terminal window
strata components rollback

ทั้งนี้การ Rollback จะเปลี่ยน Engine กลับเป็น 0.1.56 แต่ตัว Control ยังคงเป็น 0.1.57 และคำสั่งแสดงเวอร์ชันหลักยังคงเป็น 0.2.11

สรุป: Strata กำลังพัฒนาไปสู่แพลตฟอร์มสำหรับรัน Local AI ขนาดใหญ่

หัวข้อที่มีชื่อว่า “สรุป: Strata กำลังพัฒนาไปสู่แพลตฟอร์มสำหรับรัน Local AI ขนาดใหญ่”

Strata 0.2.11 เป็นการอัปเดตที่น่าสนใจสำหรับผู้ใช้งาน Local AI โดยเฉพาะผู้ที่ต้องการทดลองโมเดลขนาดใหญ่อย่าง Qwen3.8-Flash-Next บนเครื่องคอมพิวเตอร์ที่มี GPU หลายตัว

สิ่งที่น่าสนใจไม่ได้อยู่แค่การเพิ่มโมเดลใหม่ แต่เป็นการพัฒนาระบบ Multi-GPU, การจัดการ Expert Weights, การใช้ System RAM ร่วมกับ VRAM และการปรับปรุง Prompt Processing ให้มีประสิทธิภาพมากขึ้น

สำหรับผู้ที่มี GPU VRAM 8GB, 12GB หรือ 16GB การปรับปรุงระบบจัดการหน่วยความจำก็เป็นอีกเรื่องที่ควรติดตาม เพราะช่วยเพิ่มโอกาสในการเริ่มต้นโมเดลที่มีขนาดใหญ่กว่าหน่วยความจำบนการ์ดจอได้

อย่างไรก็ตาม การรันโมเดลได้ไม่ได้หมายความว่าจะได้ความเร็วสูงเสมอไป หากต้องอ่านข้อมูลจาก System RAM หรือ SSD มากเกินไป ประสิทธิภาพก็อาจลดลงอย่างมาก

สำหรับผู้ที่กำลังศึกษา Multi-GPU Local AI หรือกำลังมองหาเครื่องมือสำหรับทดลองรัน Qwen3.8-Flash-Next Strata 0.2.11 เป็นอีกหนึ่งโครงการที่ควรนำมาทดลองและติดตามพัฒนาการต่อไป