穀歌自研AI(人工智慧)晶片如期上新。
當地時間4月22日,穀歌雲宣佈推出第八代自研TPU(張量處理單元)晶片。在最新發佈的兩款晶片中,TPU 8t專用於AI訓練任務,TPU 8i則用於運行AI推理任務,這兩款晶片都將於今年晚些時候上市。同時,穀歌還展示了多項用於構建AI智能體的新工具,並宣佈設立一支7.5億美元的基金,以推動企業採用AI。
穀歌CEO桑達爾·皮查伊(Sundar Pichai)在相關博文中表示,目前穀歌所有新代碼中,75%由AI生成,該比例在去年秋季為50%;此外,面向企業用戶的Gemini Enterprise第一季度付費月活躍用戶數環比增長40%。
穀歌高級副總裁兼AI基礎設施首席技術專家Amin Vahdat表示:“目前,我們的第一方模型通過客戶直接調用API,每分鐘處理的token數量已超過160億,較上個季度的100億有所提升。為支持並推動這一增長,公司預計到2026年,略高於一半的機器學習算力投資額將被投入到雲業務,以更好地服務雲端客戶和合作夥伴。”
Vahdat表示,隨著AI智能體的興起,在訓練和服務方面進行分別定制優化的晶片將有利於整個生態的發展。據介紹,專注於訓練方面的TPU 8t在性能上是公司去年11月發佈的第七代Ironwood TPU的2.8倍,而價格相同。
另一邊,專注於推理方面的TPU 8i在性能上比上一代提升了80%。TPU 8i採用了靜態隨機記憶體(SRAM),皮查伊表示,該架構旨在“以具成本效益的方式提供大規模吞吐量和低延遲,從而能夠同時運行數百萬個智能體”。
Vahdat還指出,對於當今的數據中心來說,制約因素不僅是晶片供應,還有電力瓶頸。為此,穀歌在晶片的整個技術棧上對效率進行了優化,並引入了集成電源管理系統,可根據即時需求動態調節功耗。
與上一代Ironwood相比,TPU 8t和TPU 8i在單位功耗性能(performance-per-watt)方面最高可實現兩倍以上提升。TPU 8t的單位功耗性能較上一代提升了124%,而TPU 8i則實現了117%的提升。
目前,科技巨頭正在積極尋求替代方案,以擺脫對英偉達和AMD價格高昂且供應有限的GPU的依賴。因此,他們開始轉向博通所擅長的應用特定積體電路(ASIC)。在這些科技巨頭中,穀歌率先涉足定制ASIC領域,與博通合作開發TPU。
穀歌正在努力擴大其自研晶片的銷售。去年9月,研究機構DA Davidson曾估算稱,穀歌TPU業務加上AI部門DeepMind的總價值約為9000億美元。今年4月,博通宣佈將擴大與穀歌在AI晶片生產方面的合作,為穀歌未來幾代AI晶片開發並供應定制的TPU。
除了如期推出新一代TPU以外,穀歌雲還展示了一系列可用於創建AI智能體並在企業內部追蹤其工作的工具,包括一個供虛擬機器人發佈資訊和進度報告的專用收件箱,並對旗下Workspace生產力套件進行更新。
22日當天,穀歌(Nasdaq:GOOGL)開盤股價漲超1%,總市值4.05萬億美元。
來源:中國澎湃新聞