ASUS นำแพลตฟอร์ม NVIDIA DSX มาใช้ เพื่อเร่งการติดตั้ง NVIDIA Vera Rubin AI Factory ให้กับลูกค้า

สำหรับองค์กรที่พร้อมสร้าง AI Factory ขนาดใหญ่ NVIDIA DSX คือแพลตฟอร์มที่รวมการออกแบบ การจำลอง การปฏิบัติการ และเทคโนโลยีจากระบบนิเวศต่าง ๆ เข้าไว้ด้วยกัน เพื่อเพิ่มประสิทธิภาพการสร้างโทเคนต่อพลังงานหนึ่งวัตต์

ด้วยการนำเทคโนโลยีนี้มาใช้ ASUS พร้อมช่วยลูกค้าผสานระบบที่รองรับ NVIDIA DSX เข้ากับแผนการติดตั้งใช้งานจริง ตั้งแต่การประเมินสถานที่ในระยะเริ่มต้น การก่อสร้างโครงสร้างพื้นฐาน การดำเนินงาน ไปจนถึงการขยายระบบ Inference

เป้าหมายคือช่วยให้ลูกค้าลดความเสี่ยงในการติดตั้ง และเร่งกระบวนการเปลี่ยนผ่านจากการวางแผน AI Factory ไปสู่การก่อสร้างและใช้งานจริง

เร่งการก่อสร้าง AI Factory ผ่านการวางแผนพลังงานและสถานที่

สำหรับลูกค้าที่กำลังสร้าง AI Factory ขนาดใหญ่ หนึ่งในคำถามแรกที่ดูเรียบง่ายแต่มีความสำคัญอย่างยิ่งคือ ศูนย์ข้อมูลจะต้องใช้พลังงานมากเพียงใด และสถานที่นั้นสามารถรองรับความต้องการดังกล่าวได้หรือไม่

เรื่องนี้ไม่ได้เกี่ยวข้องเพียงกับกำลังไฟฟ้ารวมเท่านั้น ลูกค้ายังต้องประเมินระบบกระจายพลังงาน การจ่ายไฟในระดับตู้แร็ก ระบบจ่ายไฟสำรองแบบไม่ขาดช่วง หรือ Uninterruptible Power Supply: UPS ระบบไฟฟ้าสำรอง ความพร้อมของเครื่องกำเนิดไฟฟ้า การกำหนดค่าเครือข่าย น้ำหนักที่พื้นอาคารสามารถรองรับได้ พื้นที่สำหรับการซ่อมบำรุง และข้อกำหนดสำหรับการขยายระบบในอนาคต

การมองข้ามรายละเอียดส่วนใดส่วนหนึ่งอาจนำไปสู่การออกแบบใหม่ที่มีค่าใช้จ่ายสูง การติดตั้งล่าช้า หรือความจำเป็นต้องปรับปรุงสถานที่เพิ่มเติม ซึ่งจะทำให้ต้นทุนในการก่อสร้างเพิ่มสูงขึ้น

NVIDIA Omniverse DSX Blueprint และ NVIDIA DSX SimReady เป็นทรัพยากรสำคัญที่ช่วยสนับสนุนทุกด้านของขั้นตอนการวางแผน

NVIDIA Omniverse DSX Blueprint ทำหน้าที่เป็นกรอบการทำงานสำหรับ Digital Twin ซึ่งช่วยให้องค์กรสามารถออกแบบ จำลอง และตรวจสอบผังของ AI Factory สภาพแวดล้อมของสถานที่ และพฤติกรรมของโครงสร้างพื้นฐาน ก่อนเริ่มการก่อสร้างจริง

ขณะที่ NVIDIA DSX SimReady ช่วยให้สามารถออกแบบ ตรวจสอบ และปรับแต่งสถานที่ผ่านการจำลอง ก่อนเริ่มติดตั้งโครงสร้างพื้นฐานทางกายภาพ

ด้วยการแปลงระบบระดับตู้แร็กให้เป็น OpenUSD Asset ที่ผ่านการตรวจสอบ พร้อมฝังข้อมูลเมตาด้านพลังงาน ความร้อน และจุดเชื่อมต่อ ระบบของ ASUS และอุปกรณ์จากผู้จัดหาฮาร์ดแวร์ที่เกี่ยวข้องจึงสามารถถูกนำไปแสดงภายใน NVIDIA Omniverse DSX Blueprint ในรูปแบบสินทรัพย์ที่พร้อมสำหรับการจำลองได้

ด้วยการใช้ผลจำลองที่มีความแม่นยำจากเครื่องมือต่าง ๆ ในระบบนิเวศ DSX ลูกค้าจะสามารถเข้าใจได้ชัดเจนยิ่งขึ้นว่า AI Factory ที่วางแผนไว้นั้น สามารถรองรับขีดความสามารถด้านการประมวลผล ความต้องการพลังงาน พฤติกรรมของระบบระบายความร้อน และข้อกำหนดด้านการเชื่อมต่อได้หรือไม่

จากนั้น ASUS สามารถช่วยแปลงข้อมูลเชิงลึกเหล่านี้ให้เป็นแผนการติดตั้งโดยละเอียด ผ่าน ASUS Infrastructure Deployment Center หรือ AIDC ซึ่งเป็นระบบ Automation ที่ ASUS พัฒนาขึ้นเอง สำหรับการติดตั้งคลัสเตอร์ AI ขนาดใหญ่ได้อย่างรวดเร็ว

ปรับแต่งการออกแบบระบบระบายความร้อน สภาพน้ำ และต้นทุนพลังงาน

การวางแผนพลังงานเป็นเพียงส่วนหนึ่งของการเตรียมความพร้อมสำหรับ AI Factory

สำหรับระบบที่มีความหนาแน่นสูง การออกแบบระบบระบายความร้อนส่งผลโดยตรงต่อความน่าเชื่อถือ ประสิทธิภาพด้านพลังงาน และต้นทุนการดำเนินงาน

ด้วยการพัฒนาร่วมกับ NVIDIA Omniverse DSX Blueprint ทาง ASUS สามารถออกแบบระบบระบายความร้อนได้อย่างแม่นยำตั้งแต่ขั้นตอนแรกของการวางแผน AI Factory

การใช้ NVIDIA DSX SimReady เพื่อเชื่อมต่อโครงสร้างพื้นฐานระดับตู้แร็กของ ASUS เข้ากับโมเดลของพันธมิตรด้านระบบระบายความร้อนในระบบนิเวศ ช่วยให้ Digital Twin สามารถสะท้อนทั้งระบบประมวลผล สภาพของระบบระบายความร้อน และข้อจำกัดของสถานที่ซึ่งมีผลต่อการติดตั้งจริงได้

แนวทางนี้ช่วยให้ลูกค้าของ ASUS สามารถประเมินสมมติฐานด้านระบบระบายความร้อนในฐานะส่วนหนึ่งของแผน AI Factory โดยรวม แทนที่จะมองว่าระบบระบายความร้อนเป็นประเด็นแยกต่างหากของสถานที่

ตัวอย่างเช่น ทีมงานสามารถทำความเข้าใจได้ดีขึ้นว่า อุณหภูมิของน้ำ อัตราการไหลของน้ำ แรงดันน้ำ ตำแหน่งของ Cooling Distribution Units หรือ CDU การออกแบบระบบท่อ และภาระความร้อนในระดับตู้แร็ก จะส่งผลต่อเสถียรภาพของระบบ การใช้พลังงาน และต้นทุนระยะยาวอย่างไร ก่อนที่อุปกรณ์จะถูกขนส่งไปยังสถานที่ติดตั้ง

ตู้แร็ก MGX เจเนอเรชันที่ 3 สำหรับ Vera Rubin ได้รับการออกแบบให้รองรับอุณหภูมิน้ำขาเข้าสูงถึง 45°C ทำให้สามารถใช้ระบบ Dry Cooler ที่อาศัยอากาศโดยรอบได้

แนวทางนี้ช่วยลดค่า Power Usage Effectiveness หรือ PUE และช่วยนำพลังงานที่เดิมต้องใช้กับระบบระบายความร้อน กลับไปใช้สำหรับการสร้างโทเคนได้มากขึ้น

ด้วยวิธีการดังกล่าว ASUS สามารถช่วยลูกค้าเปลี่ยน NVIDIA AI Factory Blueprint ให้กลายเป็นแผนการติดตั้ง AI Factory ที่เป็นรูปธรรมมากขึ้น

การวางแนวทางให้สอดคล้องกันระหว่างการออกแบบระบบระดับตู้แร็ก สถาปัตยกรรมระบบระบายความร้อนด้วยของเหลว ข้อมูลจากพันธมิตรด้านระบบระบายความร้อน และสภาพแวดล้อมของสถานที่ ช่วยให้ ASUS ลดความเสี่ยงจากการจัดเตรียมทรัพยากรไม่เพียงพอ หรือการต้องกลับมาแก้ไขระบบใหม่ซึ่งมีค่าใช้จ่ายสูง

การตรวจสอบระบบระยะยาวที่เชื่อถือได้

หลังจากติดตั้ง AI Factory แล้ว ความท้าทายจะเปลี่ยนจากขั้นตอนการก่อสร้างไปสู่การดำเนินงานในระยะยาว ซึ่งจำเป็นต้องอาศัยระบบตรวจสอบที่มีความแม่นยำ

ซอฟต์แวร์ ASUS Control Center Data Center Edition หรือ ACC ซึ่ง ASUS พัฒนาขึ้นเอง ช่วยให้ลูกค้าสามารถมองเห็นสถานะต่าง ๆ ของระบบได้อย่างต่อเนื่อง ครอบคลุมทั้งสุขภาพของระบบ สถานะพลังงาน สภาพของระบบระบายความร้อน พฤติกรรมของเครือข่าย การเปลี่ยนแปลงของเวิร์กโหลด และผลกระทบจากการบำรุงรักษา

ความสามารถเหล่านี้ช่วยให้โครงสร้างพื้นฐาน AI ขนาดใหญ่สามารถทำงานได้อย่างน่าเชื่อถือ

ในกรณีที่ข้อมูลจากระบบตรวจสอบระบุว่าจำเป็นต้องปรับเปลี่ยนองค์ประกอบบางส่วน เช่น การกระจายเวิร์กโหลด ระบบระบายความร้อน การจัดวางตู้แร็ก หรือการขยายโครงสร้างพื้นฐาน ลูกค้าสามารถใช้ NVIDIA DSX เพื่อจำลองและตรวจสอบการปรับแก้ ก่อนนำไปใช้กับสภาพแวดล้อมจริง

นี่คือส่วนที่ NVIDIA DSX Exchange เข้ามามีบทบาท

ในฐานะศูนย์กลางการสื่อสารระหว่างระบบ IT และ OT ของ AI Factory แพลตฟอร์มนี้จะเชื่อมโยงและติดตามข้อมูลด้านการประมวลผล เครือข่าย พลังงาน ระบบไฟฟ้า และระบบระบายความร้อน จากทุกระบบที่เกี่ยวข้อง

ด้วยข้อมูลเชิงลึกจากข้อมูลที่รวบรวมผ่าน Exchange ลูกค้าสามารถทำความเข้าใจได้ดีขึ้นว่า การเปลี่ยนแปลงโครงสร้างพื้นฐานจะส่งผลต่อเสถียรภาพของระบบ ความต่อเนื่องของการให้บริการ และประสิทธิภาพในระยะยาวอย่างไร

เมื่อยืนยันแผนการปรับปรุงที่เหมาะสมที่สุดแล้ว ASUS AIDC สามารถช่วยทำให้เวิร์กโฟลว์การติดตั้งมีความคล่องตัวมากขึ้น และเร่งการนำแผนดังกล่าวไปใช้งานจริง

ขยายขีดความสามารถด้าน Inference ด้วยประสิทธิภาพต่อวัตต์ที่ดีขึ้น

เมื่อแอปพลิเคชัน AI เปลี่ยนผ่านจากโครงการนำร่องไปสู่ระบบ Production ลูกค้าอาจจำเป็นต้องขยายขีดความสามารถด้าน Inference อย่างรวดเร็ว

อย่างไรก็ตาม การขยายระบบ Inference ไม่ได้หมายถึงการเพิ่มจำนวนระบบเพียงอย่างเดียว

ลูกค้ายังต้องเข้าใจด้วยว่า งบประมาณด้านพลังงานที่มีอยู่ ความสามารถของระบบระบายความร้อน และการออกแบบโครงสร้างพื้นฐานในปัจจุบัน สามารถรองรับการขยายตัวโดยไม่เพิ่มต้นทุนหรือรบกวนบริการที่กำลังทำงานอยู่ได้หรือไม่

ด้วย NVIDIA DSX MaxLPS ลูกค้าสามารถประเมินวิธีเพิ่มผลลัพธ์ด้านการประมวลผลและประสิทธิภาพการสร้างโทเคนต่อวัตต์บนระบบ NVIDIA ให้ได้สูงสุด ภายใต้งบประมาณด้านพลังงานที่กำหนดไว้

ขณะเดียวกัน NVIDIA Dynamo ยังช่วยสนับสนุนการให้บริการ Inference ที่สามารถขยายตัวได้บนโครงสร้างพื้นฐาน AI แบบกระจาย ช่วยให้บริการ AI ระดับ Production สามารถรองรับปริมาณคำขอที่เพิ่มขึ้นได้อย่างมีประสิทธิภาพ

ASUS AIDC พร้อมช่วยลูกค้าเปลี่ยนกลยุทธ์การขยายระบบให้กลายเป็นแผนโครงสร้างพื้นฐานที่นำไปใช้งานได้จริง

ด้วยการวางแผนที่คำนึงถึงข้อจำกัดด้านพลังงาน การออกแบบระบบระบายความร้อนด้วยของเหลว การผสานระบบเครือข่ายและระบบจัดเก็บข้อมูล เวิร์กโฟลว์การติดตั้ง และความสามารถด้านการบริหารจัดการ ASUS ช่วยให้การขยายขีดความสามารถของ AI Factory ในทุกด้านดำเนินไปได้อย่างเป็นระบบ คล่องตัว และมีประสิทธิภาพ

สร้างความพร้อมขั้นต่อไปสำหรับ AI Factory

ด้วยการนำวิสัยทัศน์ของ NVIDIA DSX สำหรับ AI Factory ระดับใหญ่เข้ามาใช้ ASUS ช่วยลูกค้าเปลี่ยนข้อมูลเชิงลึกจาก Digital Twin ให้กลายเป็นแผนโครงสร้างพื้นฐานที่พร้อมสำหรับการติดตั้งจริง

แนวทางนี้รองรับ AI Factory ที่สร้างขึ้นด้วยระบบต่าง ๆ เช่น ASUS AI POD พร้อม NVIDIA Vera Rubin NVL72

หลังการติดตั้ง ASUS ยังคงส่งมอบคุณค่าเพิ่มเติมให้กับลูกค้า ผ่าน ASUS Infrastructure Deployment Center, ASUS Control Center ความเชี่ยวชาญด้านระบบระบายความร้อนด้วยของเหลว บริการระดับมืออาชีพ และความร่วมมือกับพันธมิตรในระบบนิเวศอย่างต่อเนื่อง

ข้อมูลเพิ่มเติม: ASUS Infrastructure Solution