
隨著人工智慧(AI)模型的規模與運算需求持續飆升,AI基礎架構正面臨著前所未有的轉折點。市場焦點已從單純增加GPU數量,轉向如何以更高的效率來連接大規模的運算資源。擴大縱向擴展(scale-up)領域能直接支援更快的訓練速度與更佳的模型品質,使得高頻寬、低延遲的互連技術,成為下一世代AI基礎架構不可或缺的關鍵。然而,當傳統銅纜逐漸觸及物理極限,scale-up網路全面轉向光學互連時,快速增加的光纖數量與佈線複雜度,也伴隨著成本、部署、供應鏈以及可靠性等全新的挑戰。
雙向光學技術:化繁為簡的關鍵解方
為了克服實體佈線的瓶頸,BiDi雙向光學技術提供了一條更具效率的發展路徑。BiDi巧妙地利用不同的波長,在單一光纖上同時承載傳送與接收訊號,這能大幅降低大型scale-up網路所需的光纖與連接器數量,同時維持交換器radix(連接埠數)、頻寬與鏈路傳輸距離不變。這項技術的價值不僅在於撙節光纖用量,更核心的意義在於簡化了支撐龐大AI叢集所需的實體基礎架構。

突破銅纜極限,解鎖512-GPU以上的叢集規模
打造更大型AI模型的競賽,與擴大scale-up領域的規模息息相關。在晶片與封裝層級,GPU受到矽晶片面積、良率與功耗的嚴格限制,業界目前的因應之道,是將數百顆加速器整合成單一高頻寬、低延遲的機櫃組(pod),讓AI模型將其視為一顆超大型GPU運行。
然而,Pod結構已無法透過傳統銅纜持續擴展。在目前每通道200Gb/s的SerDes速率下,被動式電氣互連的最大傳輸距離約僅有一公尺,這使以電氣方式連接的scale-up領域實質上被限制在一至兩個機架、大約72至144顆GPU之間。若要跨機架連接512顆以上的加速器,光子互連便成為唯一可行的發展路徑。不過,單純以光鏈路取代銅纜,也會帶來新的麻煩,例如在單一512-GPU pod中,UniDi光學網路會衍生出數十萬芯光纖、數萬個連接器,以及複雜的shuffle box(光纖路徑重新排列箱),每一處對接都隱藏著污染、錯接或故障的風險。
BiDi帶來卓越的成本與可靠性優勢
根據Lightmatter針對512-GPU scale-up模型的分析顯示,BiDi技術能帶來三大實質效益:首先,能將光纖與連接器數量直接減半;其次,可將scale-up網路的總支出降低約15%;最後,還能將被動光路中的潛在故障點減少約一半,且完全不影響交換器radix、頻寬與鏈路傳輸距離。
為了加速這項技術的普及,Lightmatter已在其互連產品組合中正式導入BiDi。這項分析是以預計於2027年上市的Passage L20光引擎(OE)作為代表性解決方案,充分展現雙向光學技術在未來AI資料中心的大好前景。
玩家總結
面對AI運算規模化的浪潮,傳統銅纜與傳統光學互連皆已面臨物理與架構上的極限。透過Lightmatter導入的BiDi雙向光學技術,不僅在單一光纖上實現雙向傳輸,更成功將光纖與連接器數量砍半、降低15%網路總支出,並減少一半的故障風險。隨著Passage平台與Passage L20光引擎等創新技術的推進,未來的AI基礎架構將能以更高的頻寬密度與能源效率,徹底突破傳輸瓶頸,迎向全新的高效能運算時代。
延伸閱讀:
Meta AI家長監護功能在台灣正式上線 助家長掌握青少年AI互動主題
蓋瑞奇最新動作鉅獻《金劫任務》墨西哥女星艾莎岡薩雷化身兩大男神老闆
青春奇幻小說《致遙不可及彼方的你》動畫電影化!跨越時空的夏日純愛感動登場
凱擘大寬頻推出新速代限時優惠1G對稱頻寬月付500元起再享串流影音與mo幣回饋





