用戶名: 密碼: 驗證碼:

LC:光學在人工智能集群中的演變作用

摘要:2023年,人工智能集群應用對光學器件的需求規模令人驚喜,并很有可能挽救了去年市場的頹勢。毫無疑問,2024-2025年該市場的增長將非常強勁。

  ICC訊(編譯:Nina)LightCounting(LC)發布了名為《人工智能光學》(Optics for AI)的新報告。

  人工智能(AI)在一眨眼的時間里就走到了前臺。預測人工智能是為勇者準備的。LightCounting的第一份人工智能光學報告強調了人工智能如何改變計算機架構和網絡,以及其中光學技術起著關鍵作用。LightCounting的人工智能預測主要集中在光學領域。但如果加上一個預測,那就是:光學不僅將在人工智能系統的發展中發揮至關重要的作用,而且人工智能將越來越多地在晶體管、芯片和系統層面為這些系統的設計做出貢獻。

  行業中不同領域的創新速度各不相同。新的應用可以快速開發。大多數人會失敗,但有些人會成功,并在一夜之間改變世界。軟件和人工智能算法的創新速度快得我們無法跟上。至少在外界觀察者看來是這樣,但專家們可能不這么認為。

  硬件創新是一個漸進而無情的過程。光學連接也不例外,我們有數據可以證明這一點。硅光子學的采用花了十年時間,但我們仍在等待這項技術提供真正顛覆性的解決方案,如可靠的共封裝光學器件。毫無疑問,這將在本十年末發生,但本報告的預測重點是部署在人工智能集群中的可插拔光學收發器,這是當今和未來5年的光學連接的主要解決方案。

  目前,AI集群中部署的光收發器,90%以上用于InfiniBand和以太網連接。谷歌是唯一一家在其人工智能生產集群中使用光收發器進行TPU之間的核心互連(Inter-core interconnect,ICI)的公司。英偉達正在其研究集群中測試光學NVLink與GPU的連接。如下圖所示,NVLink連接到GPU所需的帶寬比以太網和InfiniBand高4倍。AI集群設計中的另一個瓶頸是GPU可用的高帶寬內存(HBM)有限,這也是帶寬提高3倍的另一因素,如下圖所示。

  谷歌也是唯一一家使用光交換機擴展和重新配置人工智能集群的公司。事實證明,它可以提高集群性能,同時最大限度地降低成本和功耗。LC預計在未來3-5年內會有更多的公司采用這項技術。

  2023年,人工智能集群應用對光學器件的需求規模令人驚喜。ChatGTP在2022年底成為頭條新聞的時機再好不過了。對即將到來的經濟衰退的擔憂,以及收入增長放緩的最初跡象,迫使所有領先的云計算公司削減支出,包括對數據中心的投資和對光收發器的購買。LC尚未完成統計2023年的最終銷售數據,但人工智能很有可能挽救了去年市場的頹勢。并且毫無疑問2024-2025年的增長將非常強勁。

  英偉達業務的增長是影響2023-2025年光收發器銷售的主要因素。英偉達人工智能集群的新設計需要更多的收發器。以前的所有系統都只使用InfiniBand網絡進行光學連接,而且這些系統大多是AOC?;贜DR(400G)InfiniBand的最新系統使用可插拔400/800G SR4/SR8和DR4/DR8收發器,而不是AOC。該公司還于2022年3月宣布了專為800G光連接設計的NVLink機箱交換機。英偉達目前正在內部測試光纖NVLink,但這些解決方案應在2024年底前提供給最終用戶。LC表示,如果這需要更長的時間,他們將不得不降低對2025-2029年的預測。

  LC該報告提出了對英偉達提供的光模塊的第一個預測,并將其與AI集群中使用的其他光模塊進行了比較。英偉達設計的光收發器具有更嚴格的誤碼率規范,以盡量減少傳輸錯誤。它不阻止客戶使用第三方光學器件,但它不保證系統性能。這促使包括微軟在內的許多客戶使用英偉達提供的光學器件。LC預計終端用戶最終將轉向使用第三方光學器件以節省成本,但這將是一個漸進的過渡。

內容來自:訊石光通訊網
本文地址:http://www.whqcl.com//Site/CN/News/2024/02/29/20240229034231746993.htm 轉載請保留文章出處
關鍵字:
文章標題:LC:光學在人工智能集群中的演變作用
1、凡本網注明“來源:訊石光通訊網”及標有原創的所有作品,版權均屬于訊石光通訊網。未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載我方內容的單位,也必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和本站來源。
2、免責聲明,凡本網注明“來源:XXX(非訊石光通訊網)”的作品,均為轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責。因可能存在第三方轉載無法確定原網地址,若作品內容、版權爭議和其它問題,請聯系本網,將第一時間刪除。
聯系方式:訊石光通訊網新聞中心 電話:0755-82960080-168   Right
国产午夜精品毛片不卡