Abstraktné

Keďže umelá inteligencia (AI) rýchlo napreduje, tradičné siete dátových centier čelia veľkým výzvam pri prenose AI. Veľké využitie šírky pásma a malý počet sloních tokov môžu spôsobiť, že konvenčné vyrovnávanie záťaže po{1}}toku bude neúčinné, čo vedie k preťaženiu a strate paketov, čo výrazne predĺži tréning modelu AI a čas dokončenia úlohy. Táto biela kniha skúma technológiu dynamického inteligentného smerovania, ktorá spája informovanosť v-reálnom čase s inteligentným rozhodovaním-. Používa meranie-kvality cesty, rozšírenú{7}}synchronizáciu atribútov BGP, dynamicky váženú{8}}cenovú viaccestnú cestu (WCMP), abnormálne-odstránenie cesty a

Automatické vyrovnávanie zaťaženia{0}}na úrovni Flowlet (ALB) na zlepšenie plánovania návštevnosti v prostrediach AI. Návrh tiež využíva virtualizáciu na zabezpečenie izolácie viacerých{2}}nájomcov a ponúka scenáre aplikácií a plánovanie pre efektívne, stabilné a inteligentné siete dátových centier AI.

Prečo tradičné siete zápasia s AI Doprava

V tradičných sieťach dátových centier umožňuje veľký počet malých tokov{0}}vyvažovanie záťaže podľa toku s cieľom dosiahnuť prijateľnú distribúciu a vyhnúť sa preťaženiu aj bez informovanosti o podmienkach siete v-reálnom čase. AI prevádzka je veľmi odlišná: využitie šírky pásma je extrémne vysoké a prevádzke často dominuje len niekoľko slonov. Kolízie hash preto môžu umiestniť viacero veľkých tokov na rovnakú cestu, zatiaľ čo ostatné cesty zostávajú nedostatočne využívané. Keď dôjde k strate paketov, čas dokončenia celého pracovného zaťaženia AI sa môže výrazne zvýšiť. Z tohto dôvodu sa toto odvetvie čoraz viac zameriava na optimalizované algoritmy{6}}vyvažovania záťaže pre štruktúry AI, aby sa návštevnosť distribuovala rovnomernejšie cez viacero ciest.

Obrázok 1. Porovnanie slonej-plynulej premávky umelej inteligencie a tradičnej malo-plynulej premávky.

Spojenie dynamického povedomia a inteligentného rozhodovania-

Dynamické inteligentné smerovanie je technológia na{0}}vyrovnávanie zaťaženia{1}}založená na informovanosti. Využíva kvalitu trasy snímanú prepínačmi v štruktúre na úpravu výberu lokálnej trasy a podporuje dynamicky vážené vyrovnávanie záťaže. Táto technológia, postavená na BGP, definuje nový rozšírený-atribút komunity.

Viac{0}}rozmerné a vysoko presné merania{1}} sa používajú na vyhodnotenie kvality cesty a výsledok sa šíri prostredníctvom protokolu BGP na usmernenie následného presmerovania návštevnosti. To zlepšuje distribúciu záťaže-v celej sieti a znižuje čas odozvy aplikácie [1].

Obrázok 2. Pracovný postup dynamického uvedomovania, rozhodovania a vykonávania.

V -pásmovej telemetrii

Meranie{0}}oneskorenia pri presmerovaní je založené na INT (-telemetria v rámci siete) a môže dosiahnuť presnosť na-úrovni nanosekundy. HDC (High Delay Capture) zachytáva pakety, ktoré majú vysokú latenciu vo vnútri ASIC. Keď paket prekročí hranicu oneskorenia definovanú používateľom, prepínač odošle prvých 150 bajtov pôvodného paketu spolu s metadátami vrátane vstupného portu, výstupného portu a latencie do kolektora. V tomto dizajne CPU funguje ako zberač a analyzátor HDC, čo umožňuje vysoko presné{8}}meranie oneskorenia pri preposielaní-a presnejšie{10}}hodnotenie kvality cesty.

Obrázok 3. Šírenie-kvality cesty a inštalácia WCMP.

Táto technológia využíva nový atribút rozšírenej komunity BGP-, Path Bandwidth Extended Community, na označenie celkovej kvality cesty do cieľa. Bajt vyššieho-poradia v poli rozšíreného{3}}typu je 0x00 a bajt nízkeho{6}}poradia je 0x05. V poli hodnoty predstavuje podpole Global Administrator číslo AS. Kvalita cesty je zakódovaná v štyroch bajtoch pomocou formátu s pohyblivou desatinnou čiarkou IEEE{10}a vyjadrená v GB/s.

Keď NIC1 komunikuje s NIC2, NIC2 najprv oznámi svoju IP adresu Leaf2. Leaf2 propaguje adresu Spine spolu s hodnotou kvality odkazu{5}} smerom k NIC2 vynásobenej váhou zostupného spojenia Leaf2. Chrbtica pridáva svoju vlastnú váženú kvalitu spojenia a odovzdá nahromadenú hodnotu Leaf1. List1 sumarizuje kvalitu cesty a inštaluje trasy, ktoré vedú preposielanie. V dvojvrstvovej štruktúre Leaf{13}}Spine sú porty klasifikované ako Leaf uplink, Leaf downlink a Spine porty s konfigurovateľnými výpočtovými koeficientmi pre každú triedu.

úmerná návštevnosť medzi odkazmi. V dynamickom inteligentnom smerovaní sa váhy WCMP upravujú v reálnom čase podľa kvality cesty. Napríklad, ak existujú dve cesty medzi NIC1 a NIC2, systém môže vypočítať pomer 3:7. Ako sa mení premávka, aktualizované informácie o kvalite cesty-sa šíria prostredníctvom BGP do každého prepínača Leaf, kde sa generujú dynamické trasy WCMP, ktoré usmerňujú presmerovanie.

Abnormálne odstránenie cesty

Keď agregovaná kvalita cesty klesne pod dohodnutú hranicu, cesta sa považuje za nepoužiteľnú pre pracovné zaťaženie AI a je odstránená z preposielania. Zostávajúce cesty pokračujú v prenose cez dynamické WCMP. Keď sa cesta vráti do normálu, obnoví sa. Hoci to môže dočasne ponechať určitú kapacitu nevyužitú, zabraňuje to vážnejšiemu preťaženiu a strate paketov [1].

Inteligentné vyvažovanie záťaže (ALB)

ALB poskytuje distribúciu zaťaženia-na základe Flowlet. ASIC meria záťaž a latenciu na rôznych portoch v reálnom čase a nasmeruje každý Flowlet na prepojenie s nižším zaťažením alebo nižším oneskorením. To pridáva precíznejšie-plánovanie nad rámec tradičného ECMP. ALB tiež podporuje núdzové prepnutie portu a automaticky prerozdeľuje prevádzku, keď zlyhá výstupné spojenie [1].

Virtualizácia

Klientske-siete často potrebujú podporu viacerých{1}}nájomníkov, aby bolo možné rôznym používateľom prideliť rôzne zdroje GPU. Riešenie využíva VRF (Virtual Routing and Forwarding) na izoláciu nájomníkov, pričom každému používateľovi je priradený jeden VRF. Podsiete súvisiace s GPU-sú umiestnené do VRF používateľa a zoznamy PRE ACL v ASIC klasifikujú vstupnú prevádzku tak, že prevádzka každého používateľa je presmerovaná iba v rámci zodpovedajúceho VRF [1].

Globálna výpočtová oblasť: Medzi-regiónové prepojenia medzi TR sa poskytujú podľa špičkovej medzi-regionálnej návštevnosti, s voliteľnou medzi-regionálnou QoS na vytvorenie jednotnej výpočtovej oblasti naprieč regiónmi [2].

3. Sieť služieb Global Inference-

Globálna inferenčná sieť vyberá modely nasadenia podľa zdrojov a cloudových služieb dostupných v každom regióne a poskytuje efektívnu distribúciu služieb a prístup [2].

• Nasadenie modelu alebo agenta: Použite nasadenie MaaS Model Studio, nasadenie PAI-EAS alebo Function Compute PaaS alebo nasadenie IaaS na holú-kovovú infraštruktúru EGS, ACK, ACS alebo Lingjun v rámci zákazníckeho VPC.
• Distribúcia služieb: Vytvorte odvodenú-distribúciu VPC a pripojte súkromné ​​siete pomocou VPC Peering, pridružených cloudových{1}}služieb VPC alebo PrivateLink. Nasaďte ALB alebo vylepšené ALB ako prístupový bod a proxy požiadavky pre rôzne modely alebo agentov.
• Prístup k službám: Používatelia lokálneho internetu majú priamy prístup k rozšírenému ALB; vzdialení používatelia môžu používať Global Accelerator (GA); interní alebo externí používatelia Alibaba Cloud Enterprise sa môžu súkromne pripojiť cez PrivateLink.

Táto biela kniha vysvetľuje výzvy, ktorým čelia siete IDC v ére AI a ako ich môže riešiť dynamické inteligentné smerovanie. Dynamické povedomie, inteligentné rozhodovanie-, virtualizácia WCMP, ALB a VRF zlepšujú-účinnosť vyrovnávania záťaže, znižujú preťaženie a stratu paketov a urýchľujú školenie a odvodzovanie AI. Sekcia plánovania kladie dôraz na segmentáciu VPC,{4}}návrh výstupu zberu, agregáciu medzi-regiónmi a predbežné spracovanie, trénovanie modelov a poskytovanie globálnych záverov. Keďže AI sa neustále vyvíja, siete dátových centier budú čeliť prísnejším požiadavkám. Dynamické inteligentné smerovanie sa bude naďalej zlepšovať pre okrajovú AI, federatívne učenie a ďalšie zložité scenáre. Budúce siete IDC budú klásť väčší dôraz na konvergenciu-počítačových sietí, energetickú efektívnosť a automatizované operácie, čím vytvoria inteligentnejší, efektívnejší a spoľahlivejší základ pre digitálnu ekonomiku.

Referencie

Technický zdrojový dokument poskytnutý používateľom-.

Biela kniha Alibaba Cloud AI Network. Sprístupnené 27. mája 2026.

https://help.aliyun.com/zh/cloud-network-dobre-architektovaný-design/alibaba-cloud{7}}ai-network-biely{10}}papier