NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลขนาด 30B เน้นเร็วและประหยัด พร้อม NeMo Switchyard ระบบเลือกโมเดลอัตโนมัติสำหรับ AI Agent

NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลภาษาแบบเปิดสำหรับงาน Agentic AI และ NeMo Switchyard ไลบรารีโอเพนซอร์สสำหรับจัดเส้นทางคำขอไปยังโมเดล AI ที่เหมาะสมที่สุด โดยมีเป้าหมายลดต้นทุน เพิ่มความเร็ว และทำให้องค์กรควบคุมการใช้งาน AI ได้มากขึ้นตั้งแต่พีซี เวิร์กสเตชัน ไปจนถึงดาต้าเซ็นเตอร์และคลาวด์

เมื่อ AI กำลังเปลี่ยนจากแชตบอตสู่เอเจนต์อัตโนมัติที่ทำงานต่อเนื่อง องค์กรเริ่มต้องการอิสระในการเลือกตำแหน่งที่โมเดลทำงาน วิธีนำไปใช้งาน และแนวทางปรับแต่งโมเดลให้สอดคล้องกับข้อมูลและเวิร์กโฟลว์ภายในของตนเอง

Nemotron 3.5 Lightning คืออะไร

Nemotron 3.5 Lightning เป็นโมเดลแบบ Mixture-of-Experts (MoE) ขนาด 30 พันล้านพารามิเตอร์ ออกแบบมาเป็นพิเศษสำหรับงานเฉพาะทางปริมาณสูงในระบบ AI agent ที่ต้องทำงานอย่างต่อเนื่อง เช่น การตรวจโค้ด การเรียกใช้เครื่องมือ การเฝ้าระวังแจ้งเตือนด้านความปลอดภัย และการตอบคำถามลูกค้า

แนวคิดสำคัญคือระบบ Agentic AI ยุคใหม่ไม่จำเป็นต้องพึ่งโมเดลขนาดใหญ่เพียงตัวเดียวเสมอไป แต่สามารถทำงานเป็นระบบของหลายโมเดลได้ โดยให้โมเดล reasoning ระดับสูง เช่น Nemotron 3 Ultra หรือ GPT-5.6 ทำหน้าที่วางแผนและประสานงาน ขณะที่โมเดลขนาดเล็กและเร็วกว่าอย่าง Nemotron 3.5 Lightning รับผิดชอบงานย่อยที่ทำซ้ำบ่อยและต้องการ latency ต่ำ

NVIDIA ระบุว่า Nemotron 3.5 Lightning มีความเร็วในการสร้างผลลัพธ์สูงขึ้นได้ถึง 4 เท่า และช่วยให้งาน agentic เสร็จเร็วขึ้น 30% เมื่อเทียบกับโมเดลกลุ่มเดียวกันตามการทดสอบที่บริษัทอ้างอิง นอกจากนี้ยังรองรับการ post-train ผ่าน NVIDIA NeMo เพื่อปรับให้เหมาะกับข้อมูล เครื่องมือ และโดเมนงานของแต่ละองค์กร

เน้นใช้งานภายในองค์กร

จุดแข็งสำคัญของ Nemotron 3.5 Lightning คือการเปิดให้ปรับแต่งและนำไปติดตั้งในโครงสร้างพื้นฐานขององค์กรได้เอง ช่วยตอบโจทย์งานที่ให้ความสำคัญกับความเป็นส่วนตัว การควบคุมข้อมูล และการตอบสนองรวดเร็ว

โมเดลสามารถทำงานบนระบบ Local AI ได้ตั้งแต่ NVIDIA RTX PC, DGX Spark, DGX Station และ Jetson ไปจนถึง RTX PRO Workstation, Edge AI, ดาต้าเซ็นเตอร์ และคลาวด์ จึงเหมาะกับทั้งนักพัฒนาที่ต้องการรันโมเดลภายในเครื่องและองค์กรที่ต้องการขยายระบบเอเจนต์สู่ระดับ production

NVIDIA ยังเผยแพร่ชุดข้อมูล Nemotron-RL-Agentic-Terminal-Pivot ซึ่งใช้สำหรับ post-train ความสามารถด้าน coding agent ของโมเดล เพื่อสนับสนุนการตรวจสอบย้อนกลับ การ audit และการพัฒนาต่อยอดโมเดลตามขอบเขตของไลเซนส์

NeMo Switchyard ช่วยเลือกโมเดลอัตโนมัติ

NVIDIA เปิดตัว NeMo Switchyard ควบคู่กันในฐานะไลบรารีโอเพนซอร์สสำหรับ model routing ใน AI agent โดยทำหน้าที่วิเคราะห์และส่ง prompt แต่ละขั้นตอนไปยังโมเดลที่เหมาะที่สุด ทั้งในมุมความสามารถ ความเร็ว ต้นทุน หรือข้อกำหนดด้านความเป็นส่วนตัว

ตัวอย่างเช่น งาน reasoning ที่ซับซ้อนอาจถูกส่งไปยังโมเดล frontier ขณะที่งานสรุปข้อความ งานตอบคำถามทั่วไป หรือการเรียกใช้เครื่องมือแบบมีรูปแบบชัดเจนอาจถูกส่งต่อไปยังโมเดลที่เล็กกว่าและประหยัดกว่า แนวทางนี้ช่วยหลีกเลี่ยงการใช้โมเดลราคาแพงกับทุกคำขอ ซึ่งอาจทำให้ต้นทุนเพิ่มขึ้นโดยไม่จำเป็น

นักพัฒนาสามารถปรับแต่งอัลกอริทึม routing ให้เน้นคุณภาพ latency หรือต้นทุนได้ตามความต้องการ และสามารถใช้ร่วมกับโมเดล open source, โมเดลเชิงพาณิชย์ หรือโมเดลของ NVIDIA โดยไม่จำเป็นต้องเขียนแอปพลิเคชันใหม่ทั้งหมด

ผลทดสอบและพันธมิตร

NVIDIA ระบุว่าผลทดสอบภายในพบว่า NeMo Switchyard สามารถรักษาความแม่นยำในระดับใกล้เคียงโมเดล frontier พร้อมลดต้นทุนการทำงานลงเหลือเกือบหนึ่งในสาม เมื่อเทียบกับการใช้ Opus 4.8 เพียงโมเดลเดียวตลอดทั้งเวิร์กโฟลว์ อย่างไรก็ดี ตัวเลขดังกล่าวเป็นผลจากการทดสอบภายในของ NVIDIA และประสิทธิภาพจริงย่อมขึ้นกับชุดงาน โมเดลที่เลือกใช้ และนโยบาย routing ของแต่ละองค์กร

พันธมิตรหลายรายรายงานผลลัพธ์ที่น่าสนใจ เช่น Boomi ระบุว่าทดสอบ routing ได้ความแม่นยำระดับโดเมน 100% และลด latency ในรอบสนทนาหลังลง 21% ขณะที่ LangChain รายงานว่าลดต้นทุนได้ 74% ในชุดงาน Deep Agents แบบหลายรอบ โดยแลกกับความแม่นยำที่ลดลง 6% ส่วน Ramp ระบุว่าลดค่าใช้จ่ายได้ 58% และลดเวลารันได้ 33% ในการทดสอบ SWE-Bench ของตน

พร้อมใช้งานที่ไหนบ้าง

Nemotron 3.5 Lightning เปิดให้ใช้งานผ่าน Hugging Face, ModelScope, OpenRouter และ build.nvidia.com ในรูปแบบ NVIDIA NIM microservice รวมถึงผ่านระบบนิเวศของผู้ให้บริการคลาวด์ แพลตฟอร์ม inference และเครื่องมือ post-training หลายราย

ส่วน NeMo Switchyard เปิดซอร์สอยู่บน GitHub และ NVIDIA ระบุว่ากำลังขยายการรองรับเข้าสู่แพลตฟอร์มของพันธมิตร เช่น LiteLLM, Kong AI Gateway, LangChain และ Hermes ของ Nous Research

สำหรับสาย Local AI และทีมที่กำลังสร้างระบบเอเจนต์หลายโมเดล ชุดเปิดตัวนี้น่าสนใจเพราะไม่ได้มุ่งแข่งกันที่ขนาดโมเดลเพียงอย่างเดียว แต่เน้นการแบ่งงานให้โมเดลที่ “เหมาะกับงาน” มากที่สุด ซึ่งอาจเป็นแนวทางสำคัญในการทำให้ Agentic AI ใช้งานจริงได้เร็วขึ้น คุมต้นทุนได้ดีขึ้น และย้ายเวิร์กโหลดกลับมาทำงานบนเครื่องหรือโครงสร้างพื้นฐานภายในองค์กรได้มากขึ้น

ข้อมูล: NVIDIA