August_Optical Communication Technology｜An Analysis of Advanced Optical Communication Module Technology Development (Next)
- Linear Drive Pluggable Optics (LPO)
LPO technology seems to be a mature but transitional product that can reduce power consumption without replacing the plug-and-play architecture, so it still seems to be a commercially viable solution. Due to the high difficulty of Common Package Optical (CPO) technology, there are still many difficulties that lead to a large number of mass production, so in the OFC2023 exhibition Macom, Broadcom, Arista and many other vendors to introduce linear drive pluggable optical modules. The difference between this module and the traditional pluggable optical communication module is that it abandons the DSP and CDR chips, and integrates the functions of the two into the switch chip, leaving only the highly linear
- 低功耗 : 以400 Gbit/s光通訊模組常使用的DSP晶片(以7 nm製程為例)功耗占整體約50%。去掉DSP後讓其功耗大幅下降且接近CPO元件水準。
- 低延遲：由於少了DSP，可減少光通訊模組之訊號處理流程進而降低資料傳輸的延遲性，這對於提高AI大模型訓練效能十分重要。以訊號串列方案為例，LPO光模組可以做到皮秒以下的延遲級別。
- 低成本:雖然降低成本不是LPO最大賣點，但以400 Gbit/s光模組為例，DSP晶片(以7 nm製程為例)成本占整體約20%～40%。雖然整合EQ功能的驅動器和TIA晶片價格略有增加，但去除 DSP仍讓整體成本下降，若在800 Gbit/s的光模組總成本下降約8~10%。
- 易維護：LPO可減少光纖佈線和交換機設備維護困難度，進而降低資料中心的運維成本。
基於LPO具有以上優勢，Broadcom、Macom、Semtech、Maxim、Arista等網通公司都有傳出會推出線性驅動可插拔光學產品並於2024年量產，若屬實台灣相關元件供應商將在下半年陸續出貨。市場研究機構QYResearch預估全球線性驅動可插拔光學市場規模，將從2023年的0.21億美元成長至2029年的19.9億美元，年平均複合年增長率為113.3%，2023年前三大區域市場占比依序為北美的81.1%、中國的8.6%與歐洲的5.1%。雖然發展前景值得期待，但LPO仍面臨的部分挑戰其包含：
雖然發展前景佳，但線性驅動可插拔光學仍面臨的諸多挑戰有待克服，包括 :
- 傳輸距離短 : 驅動器和TIA晶片不能完全替代DSP，去掉DSP會導致系統誤碼率上升，因而必須縮短傳輸距離，故僅適用於資料中心內部訊號傳輸，傳輸距離約在數十公尺範圍，未來可能會擴展到500公尺，目前在中國市場方面傾向使用LRO/TRO之折衷方案。
- 需要供應鏈廠商相互協同：因尚未標準化而可能產生無法匹配問題，使得光通訊模組與交換機廠商須合作開發LPO產品，故對產業內上下游業者協作程度要求高。由於此缺點，目前業界有聽到傾向跳過LPO，直接驗證共封裝光學(CPO)的解決方案。
- 技術發展局限：目前SerDes主流規格是112 Gbit/s，很快將提升到224 G bit/s，專家認為LPO技術進展可能無法跟上需求。傳統可插拔光通訊模組與共封裝光學、線性驅動可插拔光學比較如圖1所示。
圖1、傳統(可插拔)光通訊模組、CPO與LPO之架構比較
資料來源 : Gazettabyte
- 封裝內光學(OIO)
若能將AI大模型訓練用伺服器叢集內所有GPU直接以光訊號互連即可大幅提升訊號傳輸速率，為此發展出封裝內光學技術。它與共封裝光學的差異是將交換器晶片換成AI處理器晶片，如圖2所示。封裝內光學技術優勢是其訊號傳輸路徑較共封裝光學(CPO)更短而有更低的訊號延遲。目前該技術領先者為Ayar Labs，是首家成功實現晶片間光訊號傳輸的公司。2023年展示的解決方案是由4顆TeraPHY光學I/O與單顆SoC晶片封裝在50mm x 50mm的載板上，每顆TeraPHY晶片具備4 Tbit/s的雙向頻寬，其8個通訊埠直接對接光纖模組，共可達到4096 Gbit/s的雙向傳輸量。該公司估算其訊號傳輸能效是共封裝光學的10倍，低於Nvidia的GPU高速互連技術NVLink與通用小晶片互連標準UCIe，預期後續開發的8 Tbit/s與16 Tbit/s的TeraPHY晶片應可符合兩標準。該方案的晶片間訊號延遲僅5 ns，可達到原始誤碼率(BER)為1015的目標，而共封裝光學需要前向糾錯碼才能達到相同誤碼率水準，但會造成100~150 ns的傳輸延遲，100 ns以上延遲還能用於一般乙太網路的傳輸需求，但無法符合機器學習負載要求，該公司宣稱封裝內光學結合小晶片、矽光子等技術可提供千倍頻寬與電訊號傳輸十分之一功耗之光通訊解決方案，它與Intel、HP、Nvidia、Lockheed Martin、GlobalFoundries、Lumentum、Sivers Photonics、Macom等公司共組封裝內光學生態鏈。2023年由中國廠商為主成立的國際光電委員會設立研究項目「100T+ OIO」，涵蓋DCN網路、交換器、光電混合封裝和光引擎等課題。市場研究機構Yole Développement預估全球封裝內光學市場將從2022年的500萬美元成長至2028年的1.16億美元，2022~2028年平均複合成長率達68%；然後再增長2033年的23億美元，2028~2033年平均複合成長率達81%。
圖2、共封裝光學與封裝內光學之架構比較
資料來源 : 日月光
台積電在2024年北美技術論壇中公開COUPE光引擎晶片技術最新進展，第一代COUPE晶片將整合至OSFP可插拔光通訊模組，訊號傳輸速率達1.6 Tbit/s，遠超過目前銅線乙太網路標準，預計2025年完成開發。第二代COUPE與交換器晶片以CoWoS技術封裝在單一載板上，訊號傳輸速率達6.4 Tbit/s，功耗與訊號延遲各為第一代的50%、10%，預計2026年完成開發。第三代COUPE晶片與整合型AI處理器XPU以CoWoS技術封裝在單一載板上，訊號傳輸速率達12.8 Tbit/s，功耗與訊號延遲各為第一代的10%、5%，但未訂定技術開發時程。台積電的三代COUPE晶片封裝約略視為涵蓋線性驅動可插拔光學、共封裝光學、封裝內光學等三種先進光通訊模組技術，顯示其積極布局矽光子領域的企圖心。
近幾年呈現爆發性成長的生成式AI已成為帶動光通訊模組市場成長與技術發展的最大動力，滿足AI大模型訓練採用的資料中心內伺服器間高速互連需求勢必成為影響光通訊模組技術發展趨勢之最重要因素，預估易安裝與維護的線性驅動可插拔光學元件(LPO)已是短期先進光通訊模組之主流技術；目前狹義CPO難度仍高，OBO/NPO較常被採用，其中NPO較受青睞，因傳輸距離較短、基板面積較小（性能升級成本較低）許多廠商仍處於小批量測試階段，可能會因為導入(滲透率)不符合預期出現曇花一現但非市場主流之窘境；封裝內光學(OIO)可望是長期先進光通訊模組之主流技術，然而技術困難度與狹義的CPO有過之而無不及，因此量產目前仍有困難。此外共封裝光學、封裝內光學都涉及先進封裝相關技術而使得研發與量產難度很高，必需仰賴高漲的CSP企業基建需求、經驗豐富的製造商之導入決心等才能讓技術繼續進步，未來誰能成為主導光通訊模組技術發展的新勢力還須持續觀察。
August_Optical Communication｜Advanced Optical Communication Module Technology Development(M)
September_Industry Analysis｜Apple New Products Business Trend Analysis
