Slika 1: Ključne prednosti Co-upakirane optike s podjelom guste talasne dužine (DWDMCPO). (Kredit slike: Scintil Photonics)
Postoji izreka u oblasti dizajna centara podataka: "Koristite bakrene kablove gde god je to moguće, i pribegavajte optičkoj tehnologiji samo kada je vlakno apsolutno neophodno." Godinama je pragmatičan pristup industrije bio da se daju prioritet jeftini-bakarni kablovi sve dok zakoni fizike ne nametnu tehnološku nadogradnju. Ali danas, kako se računarski klasteri umjetne inteligencije (AI) kreću prema razmjerima "fabrika računarske snage" u kojima se koriste milioni grafičkih procesorskih jedinica (GPU-a), a isplativost podatkovnog centra-suočena je s ogromnim pritiskom, ljudi otkrivaju da ova "ne-optika-alkološka tehnologija uskoro stiže očekivano.
Mrežni arhitekti su dugo bili svjesni da bakarni kablovi imaju značajna ograničenja u udaljenosti prijenosa u scenarijima velikih{0}}brzina, ali malo njih je analiziralo osnovne uzroke iz fundamentalne fizičke perspektive. Iako su mrežni inženjeri svojom stručnošću gurnuli granice udaljenosti i propusnog opsega bakrenog kabla do krajnjih granica, ograničenja zakona fizike ne mogu se prevazići; čak i najgenijalniji inženjerski dizajn bore se da prevaziđu inherentna ograničenja bakrenih kablova. Razumijevanje ovoga objašnjava zašto se industrija hitno okreće tehnologiji Co-pakirane optike (CPO).
Što je veća frekvencija električnih signala koji se prenose kroz bakrene kablove, to je veća brzina simbola i širina pojasa, i više informacija oni mogu da nose. Problem je u tome što kako frekvencija signala raste, udaljenost prijenosa se značajno smanjuje. Dva su primarna uzroka gubitka signala: skin efekt i dielektrični gubitak.
Skin efekat: "površinska koncentracija" struje
Kada AC signal putuje kroz bakarni kabel, promjenjivo magnetsko polje inducira vrtložne struje unutar vodiča. Magnetno polje koje stvaraju ove vrtložne struje poništava magnetno polje signala u centru kabla. Što se brže mijenja magnetno polje signala-odnosno, što je viša frekvencija-postaje jači efekat poništavanja.
Direktan rezultat je da se struja "stisne" u izuzetno tanak površinski sloj provodnika; debljina ovog sloja je poznata kao dubina kože. Trenutni prijenos signala u AI podatkovnim centrima obično koristi frekvencije oko 53 GHz. Na ovoj frekvenciji, dubina kože bakrenih kablova je samo 0,3 μm. Ovako tanak prijenosni sloj koristi manje od 1% poprečnog presjeka-površine provodnika, uzrokujući da otpor kabla naglo poraste-čak i premašuje DC otpor za više od 100 puta.
Dielektrični gubitak: "Disipacija energije" u izolacijskom sloju
Drugi glavni krivac za slabljenje signala u bakrenim kablovima je dielektrični gubitak. U visokofrekventnim scenarijima na nivou gigaherca, molekuli unutar izolacionog dielektrika kabla ne mogu pratiti brze fluktuacije električnog polja. Kašnjenje između brzih fluktuacija električnog polja i zaostajanja odgovora molekula pretvara elektromagnetnu energiju signala u toplotnu energiju, što rezultira gubitkom energije.
Dvostruki gubici: Fatalna slabost bakrenih kablova
Kada skin efekt i dielektrični gubitak djeluju zajedno, gubitak signala u bakrenim kablovima raste eksponencijalno kako frekvencija raste.
Da ovo jasno ilustriramo: na frekvenciji od 50 GHz, čak i sa bakarnim kablovima visokog{1}}kvaliteta, kombinovani gubitak od ova dva efekta će potrošiti preko 90% budžeta snage signala unutar udaljenosti od 2 metra. Fizička svojstva bakarnih kablova diktiraju nepomirljivu kontradikciju jezgra: širina pojasa i udaljenost prenosa ne mogu se postići istovremeno.
Co-upakirana optika s podjelom guste talasne dužine (DWDMCPO)
Danas se usko grlo u performansama za AI trening klastere pomaknulo sa operacija s plutajućim-zarezom u sekundi (FLOPS) na zahtjeve za propusnost.
U skalabilnim mrežama sa konzistentnom memorijom potrebna je nova generacija mrežne tehnologije kako bi se ispunili brojni zahtjevi:
|Kako potrošnja energije postaje ograničavajući faktor u implementaciji data centara, potrebna je niža potrošnja energije po bitu;
| Pošto operacije{0}}pokretnog zareza više nisu usko grlo, za svaki procesor mora biti osigurana veća propusnost;
| Kako fizički prostor za postavljanje vlakana postaje ograničen, mora se postići veća gustina integracije;
| Da bi se omogućilo horizontalno skaliranje unakrsnog-reka, moraju biti podržane veće udaljenosti prijenosa;
| Da bi se održala konzistentnost memorijske domene i poboljšalo korištenje GPU-a, potrebna je ultra-niska latencija repa;
| Visoka pouzdanost i lakoća održavanja su također bitni.
Kada kašnjenje u repu postane osnovno ograničenje, ispunjavanje gore navedenih zahtjeva značajno će povećati iskorištenost GPU-a (neke procjene modela pokazuju da se korištenje može više nego udvostručiti), značajno smanjiti potrošnju energije mreže i poboljšati performanse modela s kraja na kraj-do-. Trenutno, DWDMCPO je jedini tehnički pristup koji može istovremeno zadovoljiti ove stroge zahtjeve, i on će donijeti dalekosežne transformacije troškova-operatorima centara podataka hiperskale.
Prenoseći više talasnih dužina svjetlosti preko jednog vlakna, DWDMCPO tehnologija obezbjeđuje svakom GPU-u više širokih kanala niske{0}}brzine. Skaliranjem broja prenošenih talasnih dužina od 1 do 8, 16 ili čak više, ovaj geometrijski obrazac skaliranja je spreman da revolucioniše AI mreže, baš kao što je DWDM tehnologija revolucionirala internet okosnicu pre 25 godina.
Brzina prijenosa DWDM jednog kanala{0}} iznosi približno 50–64 Gbit/s, što spada u kategoriju prijenosa niske{3}}brzine. Ova karakteristika omogućava inženjerima da pojednostave šemu kodiranja podataka od PAM4 do NRZ. Ovo pojednostavljenje eliminiše višestruke skupe i energetski{7}}intenzivne faze obrade signala, postižući dvostruko smanjenje potrošnje energije i latencije racionalizacijom puta prijenosa signala.
Kašnjenje repa je "tihi ubica" koji narušava ROI centra podataka. Kada GPU klasteri obrađuju tokene podataka, oni zahtijevaju kontinuirani, predvidljivi ulaz toka bitova. Ako jedan bit doživi kašnjenje u prijenosu, ostatak klastera postaje neaktivan, značajno smanjujući korištenje procesora. Kako se broj procesora u klasteru povećava, vjerovatnoća kašnjenja repnog bita na nivou p999 značajno raste, a korištenje procesora u skladu s tim opada.
Bez DWDMCPO tehnologije male-latencije, male-napone,-velikog dometa, skalabilnost mreža bi bila ograničena, a performanse velikih jezičkih modela (LLM) bi posljedično bile ograničene. Mreže veće-razmjere, ravnije, male{5}}skalabilne{5}}mreže sa malim kašnjenjem mogu podržati veće keš-vrijednosti ključeva, direktno povećavajući veličinu kontekstnog prozora modela i relevantnost sadržaja, čime se efektivno proširuje efektivna radna memorija LLM-a. Povećani propusni opseg niske{8}}latentnosti također ima potencijal za povećanje broja slojeva transformatora, omogućavajući modelima da posjeduju dublje sposobnosti razmišljanja i zaključivanja. Ukratko: probijanje komunikacijskih ograničenja između čipova omogućava LLM-ima da pohrane više informacija u radnu memoriju i završe više koraka za razmišljanje bez mucanja.
Bakarni kablovi su nesumnjivo bili odlična tehnologija u svoje vrijeme, ali njegova inherentna fizička ograničenja su stvorila hitnu potrebu za naprednijim mrežnim tehnologijama kako bi se značajno poboljšao povrat ulaganja u hiperskalarne podatkovne centre i proširile mogućnosti LLM-a.
Za nekoliko godina, AI podatkovni centri izgrađeni u potpunosti na bakrenim kablovima postat će nezamislivi kao-internetske veze na duge udaljenosti koje se oslanjaju isključivo na bakar.
Operateri hiperscale data centara, investitori, LLM programeri i drugi dionici u AI infrastrukturi moraju ozbiljno shvatiti ovaj tehnološki trend: on ne samo da će fundamentalno preoblikovati krajolik isplativosti{0}}centara podataka, već će i kontinuirano širiti granice AI sposobnosti. Preduzeća koja prvo usvoje DWDMCPO tehnologiju će uspostaviti arhitektonske prednosti u smislu troškova, potrošnje energije i performansi; ove prednosti će nastaviti da se povećavaju kako se AI infrastruktura povećava.
