社會大數(shù)據(jù)跨尺度系統(tǒng)學(xué)習(xí)理論與方法
中國科學(xué):信息科學(xué)
頁數(shù): 15 2024-09-04
摘要: 以GPT-4為代表的AI大模型時代正加速而至,深刻改變著社會生活的方方面面.大模型巨參數(shù)深度學(xué)習(xí)是破解復(fù)雜大數(shù)據(jù)智能學(xué)習(xí)瓶頸的一種有效途徑.大模型在展現(xiàn)出強(qiáng)大學(xué)習(xí)能力的同時也面臨著高能耗、大算力挑戰(zhàn).研究表明,平均一個AI大模型訓(xùn)練產(chǎn)生的能耗約等于五輛汽車一生排放的碳總量,驅(qū)動AI大模型所需算力每3.5個月翻一番.作為一種有益的補(bǔ)充,內(nèi)嵌規(guī)律的跨尺度系統(tǒng)學(xué)習(xí)是破解復(fù)雜大數(shù)據(jù)智能...