最新新聞: 華為AI模型量化相關(guān)專利公布 可減少模型占用內(nèi)存 02-07 14:59
云財經(jīng)訊,《科創(chuàng)板日報》7日訊,創(chuàng)投通數(shù)據(jù)顯示,華為技術(shù)有限公司申請的“人工智能模型的量化方法、處理系統(tǒng)和量化單元”專利近日公布。量化單元可以將量化矩陣分割成多個適用于各個計算單元的處理粒度的分塊量化矩陣。量化單元可以對分塊量化矩陣進行量化處理,以得到量化后的分塊量化矩陣,并存儲在存儲器中,可以減少AI模型占用的內(nèi)存。