Zināšanas

Kad NVIDIA GB300 NVL72 sistēmas tiek ieviestas liela mēroga-AI apmācībai un secinājumu veikšanai, datu centra inženierzinātņu diskusijās arvien parādās viens jautājums: kā saglabāt optiskos savienojumus vēsus? GPU, CPU un slēdžu silīcijs GB300 plauktā jau ir ar šķidrumu{5}}dzesēti, bet pievienojamie optiskie raiduztvērēji, kas pārvieto trafiku starp slēdžiem un NIC, darbojas citā termiskajā režīmā. Moduļu ātrumam pieaugot līdz 1,6 T un 3,2 T, to siltumu kļūst arvien grūtāk ignorēt.

Nesen tika izplatīti apgalvojumi, ka ar iegremdēšanas šķidrumu{0}}dzesēti 3,2 T optiskie moduļi ir nonākuši masveida ražošanā un pieņemti visās valstīs.visiGB300 kopas. Šis kadrējums pārspīlē, kur tehnoloģija patiesībā atrodas. Šajā rakstā ir nodalīts publiski apstiprinātais no pārdevēja apgalvojumiem vai prognozēm, paskaidrots, kas ir šķidrums{3}}dzesēts optiskais modulis, un parādīts, kā tas atbilst NVIDIA atklātajam kop-iepakotās optikas un silīcija fotonikas ceļvedim.

Kas ir šķidrums{0}}dzesēts optiskais modulis?

Pieslēdzams optiskais raiduztvērējs pārveido elektriskos signālus no slēdža vai NIC gaismā, lai pārraidītu pa šķiedru un atpakaļ. Lielākā daļa siltuma nāk no elektriskās puses - DSP, lāzera draivera un transimpedances pastiprinātāja (TIA). Tradicionāli šie moduļi, izmantojot OSFP vai QSFP-DD formas faktorus, paļaujas uz gaisa dzesēšanu: uz moduļa virsmas ir radiators ar ventilatoriem un šasijas gaisa plūsmu, kas aizvada siltumu.

Ar šķidrumu{0}}dzesēts optiskais modulis aizstāj vai papildina gaisa plūsmu ar šķidruma ceļu. Praksē lielākā daļa šodien apspriesto dizainu integrē aaukstās plāksnes vai mikrokanālu struktūrastandarta OSFP-klases korpusā, tāpēc dzesēšanas šķidrums noņem siltumu tieši no moduļa, nevis atkarībā no statīva gaisa plūsmas. Tas irnētas pats, kas pilnīgas iegremdēšanas dzesēšana, kur sastāvdaļas tiek iegremdētas dielektriskā šķidrumā. Abas pieejas pastāv plašākā tirgū, taču atšķirībai ir liela nozīme, novērtējot jebkuru konkrētu produktu. Ja jūs salīdzināt moduļu saimes, tas palīdz sākt no pamatiemātrgaitas-uztvērēju moduļi un to optiskie komponenti.

Kāpēc AI klasteri nospiež optiku pēc gaisa dzesēšanas

Saduras divas tendences. Moduļu ātrums palielinās, un līdz ar to palielinās katra moduļa jauda. Nozares aplēses liecina, ka 800G moduļiem ir aptuveni 14–20 W un 1,6 T klienta optikai aptuveni 20–25 W, bet saskaņotajiem un DCI variantiem ir lielāks. OSFP formas faktors tika izvēlēts daļēji tāpēc, ka tajā var ievietot integrētu siltuma izlietni šim apvalkam -, taču līdz ar 200 G-par-joslu optiku un 3,2 T moduļiem šis siltuma budžets tikai kļūst mazāks.

Tajā pašā laikā plauktu jauda pieaug. GB300 NVL72 statīvs patērē apmēram 120–140 kW, un to galvenokārt dzesē ar šķidrumu. Ja lielākā daļa no statīva darbojas ar lielu blīvumu un apkārtējā iekārta ir veidota ap šķidruma cilpām, gaisa-dzesētie komponenti var kļūt par neērtu dizaina daļu, nevis aprēķinu. Tā ir patiesā motivācija, kas aizrauj interesi par optiku ar šķidru{8}}dzesēšanu: nevis tas, ka optika pēkšņi kļūst par lielāko siltuma avotu, bet gangaisa dzesēšana kļūst grūtāk attaisnojama citādi pilnībā šķidrā-dzesētā, īpaši{1}}blīvā vidē. Komandām, kas plāno šādā blīvumā, ir vērts domāt par optiku kā vienu kombinezona elementudatu centra savienojamības stratēģijanevis izolēti.

Gaisa-dzesēti pret šķidrumu-dzesēti optiskie raiduztvērēji

Abas pieejas atrisina dažādas problēmas un nodrošina dažādus kompromisus{0}}. Tālāk esošajā tabulā ir apkopotas praktiskās atšķirības, kādas tās ir šodien.

Pareizā izvēle ir atkarīga no statīva jaudas blīvuma, formas faktora un tā, cik liela daļa iekārtas jau ir atdzesēta ar šķidrumu{0}}. Lielākajai daļai izvietošanas gadījumu, kas tiek piegādāti tagad, pēc noklusējuma paliek gaisa-pieslēdzamie -, tostarp 800G un 1.6T OSFP moduļi -. Tuvāk apskatot800G OSFP formas faktors un tā termiskais dizainsparāda, cik daudz inženierijas jau ir ieguldīts, lai konvencionālie moduļi tiktu turēti gaisa -dzesējamā apvalkā.

Kā tas attiecas uz GB300 NVL72 un NVIDIA optikas ceļvedi

Ir vērts pievērsties diviem publiski dokumentētiem faktiem, pirms pieņemt stāstījumu par "šķidrumu{0}}dzesēta optika ir visur".

Pirmkārt,GB300 NVL72 ir pilnībā šķidra-dzesēta, statīvu{3}}skalu sistēma-, bet šķidruma cilpa ir vērsta uz GPU, Grace CPU, NVSwitch paliktņiem un ConnectX-8 tīkla adapteriem. Inpublicētie OEM atsauces dizainiOSFP optiskie moduļi, uzglabāšanas un barošanas{0}}sadales komponentigaisa-dzesē, kurā aptuveni 90% statīva siltuma uztver šķidrums un pārējo daļu gaiss. Citiem vārdiem sakot, piegādes atsauces arhitektūrā pati pieslēdzamā optika netiek dzesēta ar šķidrumu.

Otrkārt, NVIDIA atklātā stratēģija optiskās jaudas samazināšanai mērogā irco-packed optics (CPO), nevis iegremdējamie-dzesējamie kontaktdakšas. GTC 2025 uzņēmumspaziņoja par Spectrum-X un Quantum-X Photonics slēdžiemkas integrē silīcija fotoniku tieši ar slēdzi ASIC, norādot uz aptuveni 3,5 reizes labāku jaudas efektivitāti un 4 reizes mazāk lāzeru nekā tradicionālajiem pievienojamiem raiduztvērējiem. Pats Quantum-X Photonics slēdzis izmanto šķidruma dzesēšanu tā -pakotnes silīcija fotonikai. Pieslēdzamā optika nepazūd šajā ceļvedī - piegādātāji, tostarp Innolight, Coherent, Eoptolink un Fabrinet, turpina tos atbalstīt -, taču NVIDIA galvenais enerģijas taupīšanas mērķis ir CPO. Pamatinformācija par to, kāpēc nozare pārvieto optiku uz iepakojuma, šistehniskais skaidrojums par kop{0}}iepakoto optikuir noderīgs gruntējums, un tas labi sader ar plašāku skatījumu uzsilīcija fotonika un kabeļi, no kuriem tā ir atkarīga.

Tātad precīzs attēls ir daudzslāņains: šķidruma dzesēšana GB300 ir reāla un galvenā statīvā; CPO un silīcija fotonika ir NVIDIA noteiktā optikas jaudas stratēģija; un "iegremdējamie šķidrums-dzesēti 3,2 T pievienojami moduļi, kas pieņemti visos GB300 klasteros"nēkaut ko pašlaik atbalsta publiskais ieraksts. Augsta-blīvuma starpsavienojums joprojām lielā mērā balstās uz parasto strukturēto šķiedru, piemēram,MPO kabeļi AI datu centriem.

Kādas ir treknās prasības?

Ne viss "izrāviena" ietvarā ir nepareizi. Problēma ir tā, ka apstiprinātās tendences tiek sajauktas ar nepārbaudītu specifiku. Šeit ir praktisks sadalījums.

Samērā labi atbalstīts:

• AI klasteri nodrošina lielāku starpsavienojumu joslas platumu, jaudu un termisko blīvumu.
• GB300 NVL72 ir ar šķidrumu -dzesēta, statīvu-skalu sistēma.
• Kopā-iepakotā optika un silīcija fotonika ir galvenais NVIDIA virziens AI tīklu veidošanā.
• Ar šķidrumu{0}}dzesējama pievienojama optika (aukstā-plākšņu vai mikrokanālu dizains) ir īsts jauns pētniecības un izstrādes un agrīnais{2}}produktu virziens.

Pretenzijas, kurām ir nepieciešams nosaukts, pārbaudāms avots, pirms paļauties uz tiem:

• Šī optika ir "lielākais termiskais sašaurinājums" GB300 plauktos, apsteidzot GPU.
• Konkrēti skaitļi, piemēram, 85 grādu moduļa korpusa temperatūra, 38 W vienam modulim, "30% no plaukta vietas" vai "20% no kopas jaudas".
• Šie konkrētie pārdevēji ir masveidā ražoti-iegremdējamie šķidrumi-dzesēti 3,2 T pievienojami moduļi, kas ir pieņemti visos Q3 2026 GB300 klasteros.
• Nosauktie klientu izvietošanas rezultāti un rezultātu skaitļi, piemēram, par 22% apmācības-caurlaidības pieaugums vai par 20% lielāks GPU blīvums.
• Prognoze, ka līdz 2027. gadam 80% jauno AI-klasteru optisko moduļu būs šķidrums{2}}.

Ja sverat tos iepirkuma vai jaudas plānošanai, pieprasiet primāro avotu: OEM atsauces projektu, MSA vai standartu dokumentu, piegādātāja datu lapu ar norādītajiem nosacījumiem vai mērījumu ar noteiktu testa iestatījumu (moduļa veids, jauda, ​​gaisa plūsmas vai dzesēšanas šķidruma temperatūra, pieslēgvietas blīvums). Noderīgs rāmis šāda veida šķirošanai ir atdalīšanakas šodien tiek piegādāts, ņemot vērā to, kas joprojām ir optiskā{0}}moduļa ceļvedī.

Nākotnes perspektīva: 1.6T, 3.2T, CPO un Silicon Photonics

Brauciena virziens ir skaidrs pat tad, ja precīzi datumi nav norādīti. . 1.6T optics - galvenokārt OSFP-XD formāta koeficients - pieaug, 3,2 T ir ceļvedis vēlāk šajā desmitgadē, un -joslu tarifi pāriet uz 200 G un vairāk. Katrs solis palielina katra moduļa jaudu, tāpēc nozare vienlaikus meklē vairākus ceļus: zemākas-jaudas DSP 3 nm un 2 nm mezglos, lineāro-piedziņu un lineāro pievienojamo optiku, kop-iepakotās optikas un uzlabotas termiskās konstrukcijas, tostarp šķidruma dzesēšanu.

Šie ceļi ir papildinoši, nevis viens otru izslēdzoši. Kurš no tiem dominēs konkrētajā izvietojumā, būs atkarīgs no sasniedzamības, blīvuma, apkalpojamības un izmaksām -, nevis no viena "izrāviena". Ar šķidrumu-dzesēta optika var nopelnīt vietu blīvākajās plauktos, taču tā ir viens no vairākiem instrumentiem, ko izmanto tur, kur to prasa termiskā un blīvuma matemātika.

FAQ

Vai šķidrums{0}}dzesējami optiskie moduļi ir tirdzniecībā pieejami?

Šķidruma-pieslēdzamā optika - parasti aukstā-plākšņu vai mikrokanālu dizains OSFP-klases formas faktorā - pastāv un tiek demonstrēts, taču tā ir agrīna un nav galvenā izvēle. Lielākajai daļai mākslīgā intelekta audumu joprojām tiek izmantoti ar gaisu-dzesēti 800 G un 1,6 T pievienojamie savienojumi.

Vai GB300 klasteriem ir nepieciešama ar šķidrumu{1}}dzesēta optika?

Nē. GB300 NVL72 statīvs kopumā ir ar šķidrumu -dzesēts, taču publicētie atsauces modeļi OSFP optiskos moduļus atdzesē ar gaisu, nevis šķidrumu. GPU, CPU, NVSwitch un NIC ir šķidrās{5}}dzesēšanas daļas.

Kāda ir atšķirība starp pievienojamo optiku un CPO?

Pieslēdzams raiduztvērējs ir atsevišķs, karsti{0}}maināms modulis, ko ievietojat slēdžā vai NIC portā. Kopā -iepakotā optika integrē optisko dzinēju tajā pašā komplektā, kurā ir slēdža mikroshēma, saīsinot elektrisko ceļu, lai samazinātu jaudu un latentumu - uz ekspluatācijas rēķina un ar atšķirīgu dzesēšanu (bieži vien ar šķidruma{4}}palīdzību).

Kāpēc AI klasteros optiskie moduļi pārkarst?

Lielākiem datu pārraides ātrumiem nepieciešama lielāka signāla apstrāde DSP, draiveros un TIA, kas palielina moduļa jaudu. Iesaiņojiet daudz-jaudas moduļus blīvā, lielas-jaudas plauktā, un vietējā termiskā slodze var pārsniegt gaisa dzesēšanas komforta līmeni.

Vai dzesēšana ar iegremdēšanu ir tāda pati kā ar šķidrumu{0}}dzesējamu optisko moduli?

Nav obligāti. Iegremdējot komponentus tiek iegremdēts dielektriskā šķidrumā, savukārt lielākajā daļā šodien apspriesto "šķidrumu{1}}dzesētu optisko moduļu" tiek izmantota auksta plāksne vai mikrokanāls ar dzesēšanas šķidrumu. Tās ir dažādas pieejas ar dažādiem uzticamības, blīvējuma un izmantojamības apsvērumiem.

Key Takeaways

• Optisko starpsavienojumu termiskā pārvaldība kļūst par īstu dizaina ierobežojumu blīvos, ar šķidrumu{0}}dzesējamos mākslīgā intelekta plauktos.
• Pievienojamā optika ar šķidrumu-dzesējama - galvenokārt aukstā-plāksne vai mikrokanāls, nevis iegremdēšana - un vēl nav plaši izplatīta.
• GB300 NVL72 ir šķidrums-dzesēts, bet tā OSFP optiskie moduļi ir ar gaisu-dzesēti atsauces dizainā.
• NVIDIA atklātā jaudas stratēģija optikai ir kop{0}}iepakotā silīcija fotonika.
• Piesardzīgi izturieties pret konkrētiem skaitļiem un apgalvojumiem, kas jau ir izvietoti visur, līdz primārais avots tos dublē.