谷歌云已宣布其TPU虛擬機全面上市。張量處理單元(TPU)是由Google開發的專用集成電路(ASIC),用于加速機器學習工作負載。CloudTPU使您能夠使用開源機器學習平臺TensorFlow在云托管巨頭的TPU加速器硬件上運行機器學習工作負載。
谷歌表示,其用戶社區已采用虛擬TPU,因為它們提供了更好的調試體驗,并且還支持某些訓練設置,包括分布式強化學習,它表示這對于現有的TPU節點(網絡訪問)架構是不可行的。
根據Google的說法,CloudTPU針對大規模排名和推薦工作負載進行了優化,并引用了Snap是該功能的早期采用者。
此外,隨著TPUVMsGA版本的發布,谷歌正在引入一個新的TPU嵌入API,據稱它可以加速基于ML的排名和推薦工作負載。
谷歌強調了有多少現代企業依賴排名和推薦用例,例如音頻和視頻推薦、產品推薦和廣告排名。
這家科技巨頭表示,TPU可以幫助企業實施一種基于深度神經網絡的方法來處理上述用例,它表示這種方法的訓練成本高且數據密集。
谷歌還表示,由于其本地執行設置,其TPU虛擬機提供了比現有TPU節點架構更多的功能,因為輸入數據管道可以直接在TPU主機上執行,從而節省組織的計算資源。
TPUVMGARelease還支持其他ML主要框架,例如PyTorch和JAX。
有興趣部署虛擬TPU?您可以按照Google的快速入門或教程之一進行操作。