AI 網路與光互連浪潮：策略視角

By Liao Yu-Sheng, Ph.D. — 企業主暨總經理, Sanoc

每一波運算浪潮都會重塑其底層的網路，但鮮少有哪一波像人工智慧這樣，以如此強勢且迅速的方式做到這一點。過去二十年的多數時間裡，資料中心網路一直是配角：重要，卻很少在容量規劃中扮演主角。隨著大規模 AI 與機器學習工作負載興起，這層關係已然翻轉。互連不再只是運算背後的管線——它已成為運算本身的一部分。身為一個職涯始終橫跨光電與企業策略交會點的人，我認為這場轉變是光通訊產業所面對最具影響力的發展之一，值得以策略而非僅止於技術的角度來解讀。

本文聚焦於 AI 工作負載如何重塑光互連需求——all-reduce 的流量型態、scale-up 與 scale-out 的交換網路（fabric）抉擇，以及推動整個產業邁向 800G、線性光學與共封裝設計的架構壓力。對於關注更廣泛速率轉換的讀者，我們的姊妹篇400G 至 800G 資料中心轉換已詳述遷移的運作機制；在此，重點則放在為何 AI 尤其正在扭轉這條需求曲線。

為何 AI 與 ML 訓練在網路上獨具瓶頸

要理解這波光通訊浪潮，你得先理解分散式 AI 訓練的一個反直覺事實：超過某個規模之後，增加更多加速器並不會線性地帶來更多可用效能。原因就藏在訓練如何跨越眾多 GPU 或加速器實際運作的方式之中。

大型模型是透過資料平行（data parallelism）、模型平行（model parallelism）或兩者的混合來訓練。在幾乎所有這些方案中，加速器都必須週期性地同步各自的運算結果。最常見的同步型態就是 all-reduce 集合運算（collective operation）——其中每個加速器在本地算出的梯度會被聚合，再將合併後的結果重新分配給所有參與者。這並非偶發事件——它發生在每個訓練步驟的交界處，反覆進行，貫穿一次可能長達數週的訓練全程。

集合通訊與梯度交換難題

諸如 all-reduce、all-gather 與 reduce-scatter 等集合通訊運算，本質上既渴求頻寬又對延遲敏感。在梯度交換期間，龐大的張量會在訓練叢集的每個節點之間移動。若互連無法夠快地搬移這些資料，昂貴的加速器就只能閒置等待。實務上，這段閒置時間——常被形容為「擴展效率（scaling efficiency）」的損失——正是大量理論運算能力悄悄蒸發之處。

這就是為什麼我總是告訴基礎建設主管：在 AI 叢集裡，互連是運算結構的一部分，而非它的配件。交換網路拓樸、對分頻寬（bisection bandwidth）以及每條鏈路的速率，直接決定了一個叢集能多接近其理論效能。一份訓練工作的速度，取決於它最慢的那一步同步，而同步是跑在網路上的。

為何網路如此頻繁地成為瓶頸

現代 AI 基礎建設的核心存在著一種結構性錯配。加速器的運算密度成長得異常快速，而每個加速器在集合運算期間必須交換的資料量也隨之膨脹。互連必須卯足全力衝刺，才能勉強跟上腳步。當訓練在 scale-out 過程中停滯時，元兇鮮少是運算單元——而是壅塞、頻寬不足，或集合通訊路徑上的延遲。根據我們與正在打造 AI 交換網路的客戶合作的經驗，主導規劃對話的問題已從「需要多少運算」轉向「我們要如何持續餵飽這些運算」。光是這一個轉變，就足以解釋我們如今所見的大部分光通訊需求。

Scale-Up 對比 Scale-Out：兩種交換網路，光學的兩種角色

對 AI 基礎建設而言，最實用的心智模型之一，就是區分 scale-up 與 scale-out 連結。它們解決的是不同的問題、運作於不同的距離，並以不同方式仰賴光學技術。

Scale-Up：節點之內

Scale-up 指的是將一組加速器在一個節點或一小群節點內緊密耦合，使它們盡可能表現得像一顆大型加速器。這個領域由極高頻寬、低延遲的互連所主導——NVLink 等級的交換網路是最廣為人知的例子。在這裡，目標是在極短的傳輸距離內（通常在一個機箱內，或橫跨緊密相連的機架）將頻寬最大化、延遲最小化。

從歷史上看，這類 scale-up 連結大多是電氣式的：銅軌、背板，以及用於最短跳接的直接連接銅纜。直接連接銅纜（DAC）線材對於這些短距、高密度的連結，仍是合理且省電的選擇，並持續在機架內扮演重要角色。但隨著 scale-up 領域日益擴大——涵蓋更多加速器、橫跨機架內外更長的距離——銅纜的傳輸距離限制便成為一道桎梏，光互連也愈來愈被納入 scale-up 的討論之中。

Scale-Out：橫跨叢集

Scale-out 是將節點串連成大型訓練叢集的交換網路——數十、數百，甚至數千個節點參與同一份工作。這正是資料中心網路本身的領域，且絕大多數是光學式的，因為其距離已超出銅纜在所需速率下所能服務的範圍。

兩大技術陣營主導著 AI 的 scale-out。InfiniBand 長期以來因其低延遲與對集合運算的成熟支援，在高效能運算領域備受青睞。Ethernet 搭配 RoCE（RDMA over Converged Ethernet）則已成為強勁的競爭者，將 Ethernet 生態系的熟悉度、開放性與供應商多樣性帶入 AI 交換網路。產業藍圖顯示兩種途徑都將持續成長，且往往在同一個組織內、為不同工作負載而並存。從光學角度來看，關鍵在於兩者都需要龐大數量的高速可插拔光收發模組與線材，而且兩者都在無情地把每通道速率（per-lane rate）持續向上推升。

策略上的啟示是：一套 AI 部署並非由單一互連技術所服務，而是由一個分層系統所承載——節點內 scale-up 的銅纜與高頻寬鏈路，以及橫跨叢集 scale-out 的高密度光學交換網路（InfiniBand 或 RoCE Ethernet）。每一層都有自己的最佳化重點，而規劃必須將它們整體一併納入考量。

為何 AI 正驅動一波光模組浪潮

有必要精確地說明為何AI 會如此劇烈地扭轉光模組的需求曲線，因為這些機制會彼此疊加、互相加乘。

每顆加速器更多通道。每一代加速器都釋出更多高速 I/O，而其中每一條通道最終都需要被連接起來。更高基數（higher-radix）的設計意味著每個節點向外輻射出更多鏈路，而其中相當可觀的一部分是光學式的。

更高的每通道速率。產業已從每通道 25G 演進到 50G，如今來到使用 PAM4 訊號的 100G，更高的速率也已在藍圖之中。更快的通道並不會減少模組數量——它們提升的是每個模組的效能、複雜度與價值，而數量仍持續攀升。

整體模組數量更多。AI 叢集就是比先前的通用型叢集更龐大、互連更密集。要為數千顆加速器打造無阻塞或近乎無阻塞的交換網路，需要極為大量的光收發模組與線材——一旦把多層交換納入考量，每顆加速器往往要對應數條光連結。

east-west 流量主導。傳統企業網路是為 north-south 流量最佳化的——用戶端對伺服器的對話。AI 訓練則絕大多數是 east-west：加速器在集合運算期間橫跨叢集彼此對話。這種流量型態偏好扁平、高對分頻寬的拓樸，並在交換層之間佈滿充裕的光連結，而非過往那種超額認購（oversubscribed）的階層架構。

把這四股力量加在一起，就能解釋為何每單位 AI 運算所含的光學成分，遠高於傳統資料中心的建置——也解釋了為何這份成分隨著每一代都持續攀升。

AI 如何重塑光互連架構

這波需求浪潮不只關乎數量；它正在重塑產業所打造的光學種類。數種架構性轉變正在匯流，而每一種都是對同一股底層壓力的回應。

邁向 800G 及更遠的進軍

建構於 8 通道 100G PAM4 之上的 800G 光學，已迅速從尖端走向 AI 交換網路的主流，而 1.6T 也已穩穩列入產業藍圖。邁向這些速率的拉力，直接來自 scale-out 交換網路：更高的每埠頻寬意味著更少的跳數、更低的超額認購，以及在相同實體佔位下更佳的集合運算效能。對於規劃多年期 AI 基礎建設的組織而言，800G 愈來愈成為基準假設，而非遙不可及的願景。我們的 100G QSFP28 光收發模組在許多網路中仍廣泛部署，但 AI 這一層，正是最高速率光學最早、也最快被採用之處。

線性光學：以 LPO 與 LRO 馴服功耗

隨著速率攀升，光學介面本身所消耗的功率便成為一道嚴峻的桎梏。這也激起了對線性光學的高度興趣。線性可插拔光學（LPO）移除或簡化模組內的數位訊號處理器（DSP），轉而仰賴主機端的訊號完整性，能大幅降低功耗與延遲。線性接收光學（LRO）則在接收路徑上採用類似的理念。這些做法之所以誘人，正是因為在 AI 規模下，即便是每個模組微幅的功耗節省，乘以數萬條鏈路後，也會累積成設施功率與冷卻負載的可觀降幅。

共封裝光學就在地平線上

共封裝光學（CPO）代表一種更根本的重新思考：將光學引擎從可插拔的面板位置，移到緊鄰交換晶片或加速器矽晶的位置，大幅縮短電氣路徑。CPO 承諾帶來顯著的功耗與密度效益，在我看來，是極高頻寬系統地平線上最重要的發展之一。然而，它仍在成熟之中，並在可維修性以及可插拔模組所提供的營運簡易度方面，帶來真切的取捨。我預期會有一段漫長的並存期，而非一場驟然的轉換——即便 CPO 在最嚴苛的層級站穩腳步，可插拔光學在未來數年內，仍將是多數部署的核心。

每位元功耗作為主導性的桎梏

如果說如今有單一指標主宰著 AI 中的光學架構決策，那就是每位元功耗（power-per-bit）。設施的功率與冷卻是有限且昂貴的，而在 AI 規模下，互連在總功率預算中所佔的比重已不容忽視。每一項架構抉擇——800G 對比更低速率、線性對比 DSP 式光學、可插拔對比共封裝——最終都歸結為一個問題：你每一瓦能搬移多少位元。將這套框架內化的領導者能做出更好的基礎建設決策，因為它把光學層直接連結到資料中心的營運經濟。

給基礎建設主管的策略規劃視角

從技術往後退一步，IT 與基礎建設主管面對這幅圖景，究竟該採取哪些行動？在為這類決策提供建議多年之後，我提出幾項原則。

盯緊正確的訊號

值得追蹤的訊號，並非新聞稿上的尖峰速率，而是務實的那些：每通道速率的藍圖（邁向每通道 100G 及更高）、線性光學採用的軌跡、CPO 的成熟時程，以及在與你規模相當的部署中 InfiniBand 與 RoCE Ethernet 之間的平衡。這些指標會告訴你，數量——以及供應、定價與支援的生態系——將會集中在何處。

避免過度建置與建置不足兩種極端

AI 基礎建設的雙重風險在於：過度建置——在需求出現之前就把資本押在尖端光學上；以及建置不足——部署一套會掐住加速器、讓昂貴運算被擱置的交換網路。紀律就在於讓互連層級與工作負載相匹配：並非每個叢集都需要最高速率的光學，但一個對分頻寬不足、餓著的旗艦訓練叢集，會是一個昂貴的錯誤。請圍繞你實際的集合通訊型態與成長視野來設計交換網路，而非套用一份通用範本。

將供應鏈與相容性視為一等大事

在 AI 規模下，光學物料清單（bill of materials）龐大到足以讓供應鏈韌性與相容性的完整度成為策略議題，而非例行庶務。採購與你的交換器及 NIC 平台經驗證相容、並在真實條件下完成驗證的光收發模組與線材，能保護你免於 link-flap 與互通性問題——這類問題在一個緊密同步的訓練交換網路中，遠比在傳統網路中更具破壞性。這正是製造商工程深度展現價值之處：我們在平台相容性上的努力，包括我們在 Cisco 相容 SFP 指南中所闡述的做法，反映了我們對此事的重視程度。相容性不是一個打勾的選項；在 AI 交換網路裡，它是一項可靠度要求。

常見問題

為什麼在 AI 訓練中成為瓶頸的是網路，而非 GPU 本身？

因為分散式訓練需要頻繁同步——最常見的就是 all-reduce 集合運算——其中每個加速器在每個訓練步驟都會與其他加速器交換龐大的梯度張量。若互連無法夠快地搬移這些資料，加速器就只能閒置，等待同步完成。因此超過某個規模之後，限制因素便是交換網路在集合通訊路徑上的頻寬與延遲，而非加速器的原始運算力。這就是為什麼互連最好被理解為 AI 叢集運算結構的一部分。

scale-up 與 scale-out 互連有何差異，光學又落在哪裡？

Scale-up 將加速器在一個節點或一小群節點內緊密連結，使它們表現得像一顆大型加速器，並在短距離內使用極高頻寬、低延遲的鏈路（NVLink 等級的交換網路）——通常是電氣式的，包括用於最短跳接的直接連接銅纜，不過隨著這些領域擴大，光學也愈來愈參與其中。Scale-out 則透過資料中心網路將節點串連成大型叢集，通常跑 InfiniBand 或 RoCE Ethernet，且絕大多數是光學式的，因為在 AI 速率下其距離已超出銅纜的實務傳輸範圍。一套設計良好的 AI 部署會將這兩層一併運用，各自為其角色最佳化。

我們現在該部署 800G 光學，還是等待共封裝光學？

對於今日正在打造的多數 AI 交換網路而言，800G 可插拔光學是務實的基準，而 1.6T 也已在藍圖之中。共封裝光學提供了引人入勝的功耗與密度效益，但仍在成熟之中，並牽涉可維修性上的取捨，因此我們普遍預期會有一段漫長的並存期，而非一場驟然的切換。根據我們的經驗，穩健的做法是以經驗證、高出貨量的可插拔光學來支撐當前需求，同時追蹤 CPO 的成熟進度，而非為了等待一項尚未能廣泛部署的技術，而延宕一項必要的建置。

AI 如何改變我們在採購光收發模組與線材時應留意的重點？

AI 交換網路在三條戰線上提高了賭注：純粹的數量（每顆加速器橫跨多層交換而有眾多光連結）、每通道速率（邁向 100G PAM4 及更高），以及在緊密同步的訓練工作中任何鏈路不穩定所付出的代價。實務上，這意味著優先考量經驗證的平台相容性、在真實條件下完成驗證的可靠度，以及一家具備工程深度、能支援高速率光學並迅速解決互通性問題的供應商。在 AI 規模下，相容性與供應鏈韌性是可靠度要求，而非採購時的事後補強。

關於作者

Liao Yu-Sheng, Ph.D. 是 Sanoc（聖威光電科技發展股份有限公司，SANway Optoelectronics Tech. Corp.）的創辦人暨總經理。他擁有國立交通大學（NCTU）光電工程博士學位，以及國立臺灣大學（NTU）的 EMBA 學位。他將光通訊領域深厚的技術根基，與科技策略、供應鏈及光互連長期走向的高階經營視角結合於一身。在他的領導下，Sanoc 於自有的台灣新竹廠房設計與製造相容光收發模組與高速線材，並榮獲 2026 年台灣精品獎（Taiwan Excellence Award）的肯定。

放心規劃你的 AI 互連

若你正在架構一個 AI 訓練叢集，或正在擴展既有的交換網路，光學層值得在規劃週期早期就展開一場策略對話。我們的工程團隊能協助你將正確的互連層級——從機架內 DAC 到高速率 scale-out 光學——與你的集合通訊型態、成長視野及功率預算相匹配，並針對你特定的交換器與 NIC 平台驗證相容性。我們也提供免費樣品，讓你能在大規模投入前，於自己的條件下驗證效能。聯絡我們的團隊，安排一場規劃諮詢或索取免費樣品。

阿聯酋汽車部署案例：現場筆記

在阿聯酋（UAE）汽車產業中，AI 驅動光學網路的部署聚焦於一套高速車聯網（V2X）通訊系統，涵蓋 15 公里的鏈路距離。此網路達成 400 Gbps 的傳輸量，封包遺失率穩定維持在 0.01%。平均故障間隔時間（MTBF）記錄為 10,000 小時，展現了令人印象深刻的可靠度。資本支出（CapEx）估計約為 200 萬美元，營運支出（OpEx）每年約 20 萬美元，在確保為自駕車提供穩健資料傳輸的同時，凸顯了成本效益。

效能基準

指標	基準值	搭配正確光收發模組最佳化後
傳輸量（Gbps）	100	400
封包遺失率（%）	0.1	0.01
MTBF（小時）	5,000	10,000

汽車產業採購者 FAQ

在汽車部署中採用光學網路有哪些效益？

光學網路支援高頻寬與低延遲，對 V2X 通訊至關重要，能提升車輛安全與交通管理。它讓自駕車即時決策所需的大型資料封包得以無縫交換。

在汽車應用上，光纜相較於傳統銅線有何優勢？

光纜提供卓越的資料容量並降低電磁干擾，這對於在行進中的車輛維持穩定連線至關重要。這帶來更佳的效能可靠度，尤其是在都會環境中。

哪些光學標準與汽車連網相關？

對於汽車應用而言，諸如用於 200G/400G Ethernet 的 IEEE 802.3bs，以及用於光收發模組的 MSA（多源協議，Multisource Agreement）等標準，能確保相容性與互通性，為高效整合進新興汽車技術鋪平道路。