2月26日訊 華為云CTO張宇昕在巴塞羅那華為云峰會表示,大模型時代對算力有著全新的要求:
1、聯算比。未來需要全新的網絡互聯技術來解決運算量和GPU算力之間的巨大差距。
2、容算比。當前在模型訓練過程中為獲取足夠顯存容量,存在不必要的GPU算力閑置。
3、存算比。當前在模型訓練過程中,大量的時間消耗在GPU數據加載,造成算力的進一步浪費。
基于此,云的系統架構將從“以CPU為中心的主從架構”向“多元算力對等架構” 躍遷,突破算力、存儲和網絡的邊界,實現多元算力的對等全互聯。
責任編輯:王超
免責聲明:
中國電子銀行網發布的專欄、投稿以及征文相關文章,其文字、圖片、視頻均來源于作者投稿或轉載自相關作品方;如涉及未經許可使用作品的問題,請您優先聯系我們(聯系郵箱:cebnet@cfca.com.cn,電話:400-880-9888),我們會第一時間核實,謝謝配合。