科技日報記者 劉霞
美國俄勒岡州立大學科研團隊研發出一種新型AI芯片，成功將大語言模型的能耗降低50%。這項成果于近期在波士頓舉行的IEEE定制集成電路會議上發布，是半導體領域的重大突破，有望成為解決大語言模型高能耗問題的“綠色鑰匙”。
當前，以谷歌“雙子座”和OpenAI的GPT-4為代表的大語言模型，因海量參數使得算力需求激增，進而導致能源需求急速飆升。
研究團隊指出，問題的關鍵在于數據中心銅基通信鏈路的數據傳輸。高速數據交換不僅會產生誤差，更會帶來巨大的能源浪費。傳統均衡器雖能糾錯，但其自身就是“電老虎”。一種解決方案是開發更高效的有線通信芯片。
他們開發的新芯片能夠借助AI技術，通過訓練其上的分類器識別并糾正錯誤，以更智能高效的方式恢復數據，從而降低能耗。與傳統設計相比，新芯片能使大語言模型消耗的能源減半。
研究團隊已著手開發下一代芯片，預計將帶來更驚人的能效表現。隨著全球AI算力需求持續飆升，這項技術或將成為綠色計算的重要推手。
