เชิงนามธรรม
ในขณะที่ปัญญาประดิษฐ์ (AI) ก้าวหน้าอย่างรวดเร็ว เครือข่ายศูนย์ข้อมูลแบบเดิมต้องเผชิญกับความท้าทายที่สำคัญเมื่อรับส่งข้อมูล AI การใช้แบนด์วิดท์สูงและโฟลว์ของช้างจำนวนเล็กน้อยสามารถทำให้โหลดบาลานซ์ต่อ-โฟลว์แบบทั่วไปไม่มีประสิทธิภาพ ส่งผลให้เกิดความแออัดและการสูญเสียแพ็กเก็ต ซึ่งเพิ่มการฝึกโมเดล AI และเวลาทำงานให้เสร็จสิ้นอย่างมีนัยสำคัญ เอกสารไวท์เปเปอร์นี้จะตรวจสอบเทคโนโลยีการกำหนดเส้นทางอัจฉริยะแบบไดนามิกที่รวม-การรับรู้แบบเรียลไทม์เข้ากับการตัดสินใจที่ชาญฉลาด- โดยใช้เส้นทาง-การวัดคุณภาพเส้นทาง, การซิงโครไนซ์แอตทริบิวต์แบบขยาย BGP-, การถ่วงน้ำหนัก-ต้นทุนหลายทาง (WCMP), การลบเส้นทางที่ผิดปกติ- และ
Flowlet-การปรับสมดุลโหลดอัตโนมัติ (ALB) ระดับเพื่อปรับปรุงการกำหนดเวลาการรับส่งข้อมูลในสภาพแวดล้อม AI การออกแบบยังใช้การจำลองเสมือนเพื่อแยก-ผู้เช่าหลายราย และเสนอสถานการณ์การใช้งานและคำแนะนำในการวางแผนสำหรับเครือข่ายศูนย์ข้อมูล AI ที่มีประสิทธิภาพ เสถียร และชาญฉลาด
บทนำ: วิวัฒนาการเครือข่ายใน AI ยุค
เหตุใดเครือข่ายแบบดั้งเดิมจึงต้องดิ้นรนกับ AI การจราจร
ในเครือข่ายศูนย์ข้อมูลแบบเดิม โฟลว์ขนาดเล็กจำนวนมากช่วยให้มีการปรับสมดุลโหลดต่อ-โฟลว์ เพื่อให้เกิดการกระจายที่ยอมรับได้และการหลีกเลี่ยงความแออัด แม้จะไม่ได้-รับรู้ถึงสภาพของเครือข่ายแบบเรียลไทม์ก็ตาม การรับส่งข้อมูลของ AI นั้นแตกต่างกันมาก: การใช้แบนด์วิดท์สูงมาก และการรับส่งข้อมูลมักถูกครอบงำโดยกระแสช้างเพียงเล็กน้อยเท่านั้น การชนกันของแฮชสามารถทำให้เกิดโฟลว์ขนาดใหญ่จำนวนมากบนเส้นทางเดียวกัน ในขณะที่เส้นทางอื่นๆ ยังคงถูกใช้น้อยเกินไป เมื่อแพ็กเก็ตสูญหาย เวลาที่เสร็จสิ้นของเวิร์กโหลด AI ทั้งหมดอาจเพิ่มขึ้นอย่างมาก ด้วยเหตุนี้ อุตสาหกรรมจึงมุ่งเน้นมากขึ้นไปที่อัลกอริธึมการปรับสมดุลโหลด-สำหรับ AI Fabric เพื่อให้การรับส่งข้อมูลมีการกระจายเท่าๆ กันมากขึ้นในหลายเส้นทาง
รูปที่ 1 การเปรียบเทียบปริมาณการใช้สัญจรของช้าง-ของ AI กับปริมาณการใช้สัญจรขนาดเล็ก-แบบเดิม
ผสมผสานการรับรู้แบบไดนามิกเข้ากับการตัดสินใจอย่างชาญฉลาด-
การกำหนดเส้นทางอัจฉริยะแบบไดนามิกเป็นเทคโนโลยีการปรับสมดุล-ตามภาระ{1}}ตามการรับรู้ ใช้คุณภาพเส้นทางที่รับรู้โดยสวิตช์ในแฟบริคเพื่อปรับการเลือกเส้นทางในตัวเครื่อง และรองรับการปรับสมดุลโหลดแบบถ่วงน้ำหนักแบบไดนามิก เทคโนโลยีนี้สร้างขึ้นบน BGP และกำหนดคุณลักษณะชุมชนแบบขยาย-ใหม่
การวัดที่มีความแม่นยำสูง-หลายมิติ-ใช้ในการประเมินคุณภาพเส้นทาง และผลลัพธ์จะถูกเผยแพร่ผ่าน BGP เพื่อเป็นแนวทางในการส่งต่อการรับส่งข้อมูลในภายหลัง ซึ่งจะช่วยปรับปรุงการกระจายโหลดทั่วทั้งเครือข่าย-และลดเวลาตอบสนองของแอปพลิเคชัน [1]
รูปที่ 2 การรับรู้แบบไดนามิก การตัดสินใจ และเวิร์กโฟลว์การดำเนินการ
เทคโนโลยีหลัก: การจัดตารางการรับส่งข้อมูลอัจฉริยะ
แนวทางการรักษาสมดุลโหลดเครือข่ายกระแสหลัก-ประกอบด้วย:
- ECMP ต่อ-โฟลว์: วิธีการที่ใช้บ่อยที่สุด อิงตามแฮช 5-tuple ทำงานได้ดีเมื่อมีโฟลว์จำนวนมากและรักษาลำดับแพ็กเก็ตไว้ แต่การชนกันของแฮชอาจทำให้เกิดความสมดุลที่ไม่ดีเมื่อจำนวนโฟลว์ต่ำ เช่นเดียวกับในการฝึกอบรม AI [1]
- การปรับสมดุลตามโฟลว์เล็ต-: ขึ้นอยู่กับการกำหนดค่าที่ถูกต้องของช่องว่างระหว่างโฟลเล็ต- การกำหนดค่าที่แม่นยำเป็นเรื่องยากเมื่อไม่ทราบระดับเวลาแฝงของเส้นทางทั่วโลก- [1]
- ECMP ต่อ-แพ็กเก็ต: ให้ความสมดุลทางทฤษฎีที่ดีเยี่ยม แต่อาจสร้างการเรียงลำดับแพ็กเก็ตใหม่อย่างกว้างขวางที่ตัวรับ [1]
วิธีการกำหนดเส้นทางอัจฉริยะแบบไดนามิกที่ใช้โดยสวิตช์ RoCE ซีรีส์ XingRongyuan CX-N (ระบบ SONiC-) ผสมผสานการปรับสมดุลตาม-โฟลว์ ECMP และ Flowlet- โดยแนะนำ WCMP แบบไดนามิก (Multipath ต้นทุนถ่วงน้ำหนัก) และ ALB ที่ใช้โฟลว์เล็ต- (การปรับสมดุลโหลดอัตโนมัติ) [1]
การวัดคุณภาพเส้นทาง
ระบบจะประเมินคุณภาพเส้นทางเครือข่ายโดยใช้ปัจจัยที่ส่งผลกระทบอย่างมากต่อแฟบริคคลัสเตอร์ AI รวมถึงการใช้แบนด์วิดท์ การใช้งานคิว และเวลาในการส่งต่อ
เคาน์เตอร์ทางสถิติ
การใช้งานแบนด์วิดท์และคิววัดผ่านตัวนับฮาร์ดแวร์ ASIC ด้วยความแม่นยำที่ระดับร้อย{0}}มิลลิวินาที ASIC บันทึกพอร์ต-การส่งต่อและคิว-ตัวนับการส่งต่อแบบเรียลไทม์ ส่วนควบคุม SONiC อ่านตัวนับผ่านอินเทอร์เฟซ SAI ด้วยความแม่นยำต่ำกว่า- วินาที และจัดเก็บไว้ใน Redis กระบวนการควบคุมการกำหนดเส้นทาง-จะประเมินคุณภาพของอินเทอร์เฟซโดยใช้ตัวนับเหล่านี้และโฆษณาผลลัพธ์ผ่าน BGP เพื่อจำกัดการควบคุม-ภาระของเครื่องบิน ขณะนี้โฆษณาจะถูกส่งไปที่ช่วงระดับ-ที่สอง โดยใช้ค่าเฉลี่ยถ่วงน้ำหนักกับตัวอย่างหลายรายการ ตัวอย่างล่าสุดจะได้รับน้ำหนักที่สูงกว่า
ใน-การวัดและส่งข้อมูลทางไกลแบบแบนด์
การส่งต่อ-การวัดความล่าช้าจะขึ้นอยู่กับ INT (In-Band Network Telemetry) และสามารถเข้าถึงความแม่นยำระดับนาโนวินาที- HDC (High Delay Capture) จับแพ็กเก็ตที่มีเวลาแฝงสูงภายใน ASIC เมื่อแพ็กเก็ตเกิน-ขีดจำกัดการหน่วงเวลาที่ผู้ใช้กำหนด สวิตช์จะส่ง 150 ไบต์แรกของแพ็กเก็ตดั้งเดิมพร้อมกับข้อมูลเมตา รวมถึงพอร์ตขาเข้า พอร์ตขาออก และเวลาแฝง ไปยังตัวรวบรวม ในการออกแบบนี้ CPU ทำหน้าที่เป็นตัวรวบรวมและวิเคราะห์ HDC ช่วยให้สามารถวัดความล่าช้า-การส่งต่อที่มีความแม่นยำสูง- และการประเมินคุณภาพเส้นทาง-ที่แม่นยำยิ่งขึ้น
รูปที่ 3 เส้นทาง-การเผยแพร่คุณภาพและการติดตั้ง WCMP
เทคโนโลยีนี้ใช้แอตทริบิวต์ชุมชน BGP แบบขยาย{0}}ใหม่ ซึ่งก็คือ Path Bandwidth Extended Community เพื่อระบุคุณภาพโดยรวมของเส้นทางไปยังจุดหมายปลายทาง ไบต์ลำดับสูง-ของฟิลด์ประเภทขยาย-คือ 0x00 และไบต์ลำดับต่ำ-คือ 0x05 ในฟิลด์ค่า ฟิลด์ย่อย Global Administrator แสดงถึงหมายเลข AS คุณภาพของเส้นทางได้รับการเข้ารหัสเป็นสี่ไบต์โดยใช้รูปแบบจุดลอยตัวของ IEEE{10}} และแสดงเป็น GB/s
เมื่อ NIC1 สื่อสารกับ NIC2 NIC2 จะโฆษณาที่อยู่ IP ของตนไปที่ Leaf2 ก่อน Leaf2 โฆษณาที่อยู่ที่กระดูกสันหลังพร้อมกับค่าคุณภาพลิงก์-ไปยัง NIC2 คูณด้วยน้ำหนักดาวน์ลิงก์ของ Leaf2 กระดูกสันหลังจะเพิ่มคุณภาพลิงก์แบบถ่วงน้ำหนักของตัวเองและส่งผ่านมูลค่าสะสมไปยัง Leaf1 Leaf1 สรุปคุณภาพเส้นทางและติดตั้งเส้นทางที่เป็นแนวทางในการส่งต่อ ใน-ลีฟ-แฟบริคสไปน์สองระดับ พอร์ตจะถูกจัดประเภทเป็นลีฟอัปลิงก์ ดาวน์ลิงก์ลีฟ และพอร์ตสไปน์ พร้อมค่าสัมประสิทธิ์การคำนวณที่กำหนดค่าได้สำหรับแต่ละคลาส
WCMP แบบไดนามิก
การทำโหลดบาลานซ์จะกระจายการรับส่งข้อมูลไปยังลิงก์ต่างๆ ในสภาพแวดล้อม AI สิ่งนี้จำเป็นสำหรับการสร้างอีเธอร์เน็ตแฟบริคที่ไม่สูญเสียข้อมูล โดยมีการสูญเสียแพ็กเก็ต เวลาแฝง และความเสื่อมของปริมาณงานน้อยที่สุด ECMP เป็นกลไกทั่วไปในศูนย์ข้อมูล WCMP ขยาย ECMP โดยการกระจาย
ปริมาณการใช้ข้อมูลตามสัดส่วนระหว่างลิงก์ ในการกำหนดเส้นทางอัจฉริยะแบบไดนามิก น้ำหนัก WCMP จะถูกปรับแบบเรียลไทม์ตามคุณภาพของเส้นทาง ตัวอย่างเช่น หากมีสองเส้นทางระหว่าง NIC1 และ NIC2 ระบบอาจคำนวณอัตราส่วน 3:7 เมื่อการรับส่งข้อมูลมีการเปลี่ยนแปลง ข้อมูลคุณภาพเส้นทางที่อัปเดต-จะถูกเผยแพร่ผ่าน BGP ไปยังสวิตช์ Leaf ทุกตัว โดยที่เส้นทาง WCMP แบบไดนามิกจะถูกสร้างขึ้นเพื่อเป็นแนวทางในการส่งต่อ
การกำจัดเส้นทางที่ผิดปกติ
เมื่อคุณภาพรวมของเส้นทางต่ำกว่าเกณฑ์ที่ตกลงไว้ เส้นทางจะถือว่าใช้ไม่ได้สำหรับปริมาณงาน AI และจะถูกลบออกจากการส่งต่อ เส้นทางที่เหลือยังคงรับส่งข้อมูลผ่าน WCMP แบบไดนามิก เมื่อเส้นทางกลับคืนสู่สภาพปกติก็จะถูกฟื้นฟู แม้ว่าการดำเนินการนี้อาจทำให้ความจุบางส่วนไม่ได้ใช้งานชั่วคราว แต่ก็ช่วยป้องกันความแออัดและการสูญเสียแพ็กเก็ตที่รุนแรงยิ่งขึ้น [1]
การปรับสมดุลโหลดอัจฉริยะ (ALB)
ALB มีการกระจายโหลดตาม Flowlet{0}} ASIC จะวัดโหลดและเวลาแฝงบนพอร์ตต่างๆ แบบเรียลไทม์ และกำหนดทิศทาง Flowlet แต่ละรายการไปยังลิงก์ที่มีโหลดน้อยกว่าหรือมีความล่าช้าน้อยกว่า นี่เป็นการเพิ่ม-กำหนดการที่ละเอียดยิ่งขึ้น นอกเหนือจาก ECMP แบบเดิม ALB ยังรองรับพอร์ตเฟลโอเวอร์และกระจายการรับส่งข้อมูลโดยอัตโนมัติเมื่อลิงก์ทางออกล้มเหลว [1]
การจำลองเสมือน
เครือข่ายส่วนหน้า-มักต้องการการสนับสนุน-ผู้เช่าหลายราย เพื่อให้สามารถจัดสรรทรัพยากร GPU ที่แตกต่างกันให้กับผู้ใช้ที่แตกต่างกันได้ โซลูชันนี้ใช้ VRF (Virtual Routing and Forwarding) เพื่อแยกผู้เช่า โดยกำหนด VRF หนึ่งตัวให้กับผู้ใช้แต่ละคน GPU-เครือข่ายย่อยที่เกี่ยวข้องจะถูกวางลงใน VRF ของผู้ใช้ และ PRE ACL ใน ASIC จะจัดประเภทการรับส่งข้อมูลขาเข้า เพื่อให้การรับส่งข้อมูลของผู้ใช้แต่ละรายได้รับการส่งต่อภายใน VRF ที่เกี่ยวข้องเท่านั้น [1]
สถานการณ์การใช้งาน
1. WCMP แบบไดนามิกดูดซับการจราจรที่เพิ่มขึ้นได้อย่างไร
สำหรับแฟบริคที่มีพอร์ต GPU 256 x 400G สามารถออกแบบสถาปัตยกรรม Clos สอง-ระดับด้วยอัตราส่วนดาวน์ลิงก์ 1:1- ถึง-อัปลิงก์ เพื่อรักษาปริมาณงานสูง แบนด์วิดท์สูง และความจุที่สมมาตร รุ่นผลิตภัณฑ์ที่เหมาะสม ได้แก่ XingRongyuan CX864E-N หรือ CX732Q-N [1] ภายใต้ ECMP แบบทั่วไป การไหลของช้าง AI จำนวนเล็กน้อยอาจแฮชไปที่กระดูกสันหลังเดียวกัน ทำให้เกิดความแออัดของอัปลิงก์หรือการสูญเสียแพ็กเก็ต WCMP แบบไดนามิกจะปรับการกระจายการรับส่งข้อมูลอย่างต่อเนื่องตาม-คุณภาพเส้นทางแบบเรียลไทม์ ช่วยลดปริมาณการรับส่งข้อมูลที่เพิ่มขึ้นและหลีกเลี่ยงความแออัด [1]
2.โฟลว์เล็ต-การปรับสมดุลโหลดระดับ
ในแฟบริค GPU 256 x 400G เดียวกัน ไม่ใช่ทุกอุปกรณ์หรือปริมาณงานที่จะให้บริการได้ดีที่สุดโดย WCMP แบบไดนามิก สวิตช์สามารถเลือก ALB ที่ใช้ Flowlet- ได้แบบไดนามิก ALB วัดโหลดและเวลาแฝงของลิงก์ในกลุ่ม ECMP และส่ง Flowlets ไปยังลิงก์ที่มีการใช้งานหรือความล่าช้าต่ำกว่า หากอินเทอร์เฟซโอเวอร์โหลดหรือความล่าช้าในการส่งต่อเพิ่มขึ้น ASIC จะหลีกเลี่ยงทางออกนั้นโดยอัตโนมัติจนกว่าเงื่อนไขจะกลับสู่ปกติ [1]
การวางแผนและออกแบบเครือข่าย AI
โดยทั่วไปบริการ AI ประกอบด้วยสามขั้นตอน: การรวบรวมข้อมูลและการประมวลผลล่วงหน้า การฝึกโมเดล และการอนุมาน AI แต่ละขั้นตอนจะมีข้อกำหนดที่แตกต่างกันบนเครือข่าย
1.การรวบรวมข้อมูลและการประมวลผลล่วงหน้า
การฝึกอบรมระดับโลก-การรวบรวมข้อมูลและเครือข่ายการประมวลผลล่วงหน้าจะต้องมี-ทรัพยากร IP สาธารณะและแบนด์วิธสาธารณะขนาดใหญ่และยืดหยุ่น เพื่อให้สามารถรวบรวมชุดข้อมูลดิบจำนวนมากได้อย่างมีประสิทธิภาพจากอินเทอร์เน็ตทั่วโลก การออกแบบต้องรับประกันการส่งข้อมูลที่ปลอดภัยและเสถียรในขณะเดียวกันก็ปรับปรุงการรวมตัวของข้อมูลและประสิทธิภาพการประมวลผลล่วงหน้า [2]
1.1 การแบ่งส่วน VPC
การออกแบบ VPC สำหรับการรวบรวมข้อมูลบนคลาวด์-ควรเป็นไปตาม-สิทธิพิเศษ การแยกชั้น การควบคุมความปลอดภัย และหลักความสามารถในการปรับขนาดที่ยืดหยุ่นน้อยที่สุด สามารถใช้ VPC หลายรายการหรือหลายเครือข่ายย่อยภายใน VPC เดียวได้ [2]
- แบ่งกลุ่มตามขั้นตอนการบริการ: ปรับใช้การรวบรวมข้อมูล การประมวลผลล่วงหน้า การจัดเก็บ การฝึกอบรม และการอนุมานในเครือข่ายย่อยหรือ VPC ที่แยกจากกัน วางจุดเข้ารวบรวมข้อมูลใน DMZ VPC หรือซับเน็ตสาธารณะ วางข้อมูลการประมวลผลล่วงหน้าและข้อมูลชั่วคราวไว้ใน VPC การประมวลผลเฉพาะ วางข้อมูลดิบที่ละเอียดอ่อนและการฝึกอบรม AI ใน VPC ที่มีความปลอดภัยสูง- โดยไม่มีการเข้าถึงจากสาธารณะโดยตรง
- แยกตามระดับความปลอดภัย: สร้าง VPC หรือซับเน็ตความปลอดภัยสูง- ปานกลาง- และต่ำ- และใช้กลุ่มความปลอดภัย ACL เครือข่าย และการเชื่อมต่อส่วนตัวเพื่อควบคุมการรับส่งข้อมูลข้าม-VPC และข้าม-เครือข่ายย่อย
- แยกตามผู้เช่าหรือโปรเจ็กต์: กำหนด VPC แยกกันให้กับผู้เช่าหรือโปรเจ็กต์ต่างๆ เพื่อแยกทรัพยากร เครือข่าย และข้อมูล
1.2 เครือข่ายขาออกการรวบรวมข้อมูล
เกตเวย์ NAT: ใช้กลุ่ม EIP และ SNAT ผ่านเกตเวย์ NAT ช่วยให้โปรแกรมรวบรวมสามารถเข้าถึงอินเทอร์เน็ตจากที่อยู่ IP สาธารณะที่เลือกแบบสุ่ม
พร็อกซีที่สร้างขึ้นเอง-: ปรับใช้พร็อกซีเซิร์ฟเวอร์ที่รักษาการแมประหว่างกระบวนการรวบรวมและที่อยู่ IP สาธารณะ และกระจายคำขอการรวบรวมเดียวไปยังพร็อกซีหลายตัว
ผู้ให้บริการ IP: เชื่อมต่อกับผู้ให้บริการ IP ผ่านเครือข่ายคลาวด์ส่วนตัวเพื่อลดต้นทุน ควบคุมความปลอดภัย และคุณภาพที่เสถียร [2]
1.3 การรวมข้อมูลข้าม-ภูมิภาคและการประมวลผลล่วงหน้า
เลือกภูมิภาค OSS ตามแผนคลัสเตอร์-การประมวลผลล่วงหน้า และสร้าง- VPC การรวมข้อมูลในภูมิภาคเดียวกัน สร้าง Transit Router (TR) ในแต่ละภูมิภาค เชื่อมต่อ VPC ในพื้นที่ และเชื่อมต่อ TRs เพื่อให้ VPC ที่รวบรวมระดับภูมิภาคสามารถเข้าถึง OSS ส่วนกลางได้โดยตรง บริการต่างๆ เช่น PAI-iTAG, MaxCompute และ Flink สามารถทำการติดป้ายกำกับข้อมูลและประมวลผลล่วงหน้าในภูมิภาค OSS [2]
2. เครือข่ายการฝึกอบรมต้นแบบ
เครือข่ายการฝึกอบรมโมเดล-ได้รับการบูรณาการอย่างแนบแน่นกับเครือข่ายการรวบรวมและการประมวลผลล่วงหน้าเพื่อสร้างแฟบริคระดับโลกที่เชื่อมต่อศูนย์ข้อมูลระบบคลาวด์ โหนด Edge และ-IDC ภายในองค์กร
การเชื่อมต่อโครงข่ายความเร็วสูง-ให้-ความหน่วงต่ำ ความหน่วงสูง-ในการเคลื่อนย้ายข้อมูล ในขณะที่แบนด์วิดท์ นโยบายความปลอดภัย การควบคุมการเข้าถึง และการกู้คืนความเสียหายต้องได้รับการออกแบบตั้งแต่ต้นจนจบ [2]
- ใน-กลุ่มการประมวลผลข้ามภูมิภาค-: Transit Router เชื่อมต่อ VPC หลายตัวภายในภูมิภาคเดียวกัน ENI ของเซิร์ฟเวอร์เชื่อมต่อกับสวิตช์ VPC และสามารถกำหนดค่าสำหรับปริมาณงานและ RDMA ที่ต้องการได้
- แหล่งรวมการประมวลผลบนคลาวด์แบบข้าม-: วงจรเฉพาะจะเชื่อมต่อ IDC หรือคลาวด์อื่นเข้ากับ- VPC ของภูมิภาคเดียวกัน Alibaba Cloud VBR เชื่อมต่อที่เลเยอร์ 3 กับอุปกรณ์เพียร์ ด้วย BGP, BFD และเฟลโอเวอร์ที่รวดเร็วเพื่อการบรรจบกันอย่างรวดเร็ว
กลุ่มการประมวลผลทั่วโลก: ลิงก์ข้าม-ภูมิภาคระหว่าง TR ได้รับการจัดเตรียมตามปริมาณการใช้งานระหว่างภูมิภาคที่มีการใช้งานสูงสุด- พร้อมด้วย QoS ระหว่าง-ภูมิภาคที่เป็นตัวเลือก เพื่อสร้างกลุ่มการประมวลผลแบบรวมข้ามภูมิภาค [2]
3. การอนุมานทั่วโลก-เครือข่ายบริการ
เครือข่ายอนุมานทั่วโลกเลือกโมเดลการใช้งานตามทรัพยากรและบริการคลาวด์ที่มีอยู่ในแต่ละภูมิภาค และให้การกระจายและการเข้าถึงบริการที่มีประสิทธิภาพ [2]
- การใช้งานโมเดลหรือตัวแทน: ใช้การปรับใช้ Model Studio MaaS, PAI-EAS หรือการปรับใช้ PaaS ของฟังก์ชัน Compute หรือการปรับใช้ IaaS บนโครงสร้างพื้นฐานโลหะเปลือย EGS, ACK, ACS หรือ Lingjun- ภายใน VPC ของลูกค้า
- การกระจายบริการ: สร้าง- VPC การกระจายแบบอนุมาน และเชื่อมต่อเครือข่ายส่วนตัวโดยใช้ VPC Peering, VPC ของบริการคลาวด์-ที่เกี่ยวข้อง หรือ PrivateLink ปรับใช้ ALB หรือ ALB ที่ปรับปรุงเป็นจุดเชื่อมต่อและคำขอพร็อกซีไปยังรุ่นหรือตัวแทนที่แตกต่างกัน
- การเข้าถึงบริการ: ผู้ใช้อินเทอร์เน็ตในพื้นที่สามารถเข้าถึง ALB ที่ปรับปรุงแล้วได้โดยตรง ผู้ใช้ระยะไกลสามารถใช้ Global Accelerator (GA) ผู้ใช้องค์กร Alibaba Cloud ภายในหรือภายนอกสามารถเชื่อมต่อแบบส่วนตัวผ่าน PrivateLink
บทสรุปและแนวโน้ม
เอกสารไวท์เปเปอร์นี้อธิบายถึงความท้าทายที่เครือข่าย IDC ต้องเผชิญในยุค AI และวิธีที่การกำหนดเส้นทางอัจฉริยะแบบไดนามิกสามารถจัดการปัญหาเหล่านั้นได้ การรับรู้แบบไดนามิก การตัดสินใจที่ชาญฉลาด- การจำลองเสมือน WCMP, ALB และ VRF ช่วยปรับปรุง-ประสิทธิภาพในการปรับสมดุลโหลด ลดความแออัดและการสูญเสียแพ็กเก็ต และเร่งการฝึกอบรมและการอนุมาน AI ส่วนการวางแผนเน้นที่การแบ่งส่วน VPC,-การออกแบบคอลเลกชันขาออก, การรวมข้าม-ภูมิภาคและการประมวลผลล่วงหน้า, การฝึกโมเดล และการส่งมอบการอนุมานทั่วโลก เนื่องจาก AI มีการพัฒนาอย่างต่อเนื่อง เครือข่ายศูนย์ข้อมูลจึงต้องเผชิญกับข้อกำหนดที่เข้มงวดมากขึ้น การกำหนดเส้นทางอัจฉริยะแบบไดนามิกจะปรับปรุงต่อไปสำหรับ Edge AI การเรียนรู้แบบรวมศูนย์ และสถานการณ์ที่ซับซ้อนอื่นๆ เครือข่าย IDC ในอนาคตจะให้ความสำคัญกับ-การบรรจบกันของเครือข่ายคอมพิวเตอร์ ประสิทธิภาพการใช้พลังงาน และการดำเนินงานอัตโนมัติ เพื่อสร้างรากฐานที่ชาญฉลาด มีประสิทธิภาพ และเชื่อถือได้มากขึ้นสำหรับเศรษฐกิจดิจิทัล
อ้างอิง
ผู้ใช้-ให้เอกสารแหล่งที่มาทางเทคนิคมา
เอกสารไวท์เปเปอร์เครือข่าย AI ของ Alibaba Cloud เข้าถึงเมื่อวันที่ 27 พฤษภาคม 2026.
https://help.aliyun.com/zh/cloud-เครือข่าย-ดี-ออกแบบสถาปัตยกรรม-/alibaba-คลาวด์-ai-เครือข่าย-สีขาว-