大模型訓(xùn)練參數(shù)規(guī)模量級最高或達5萬億以上

-國內(nèi)大模型出現(xiàn)大量參數(shù)規(guī)模大于100億的模型

-百度研發(fā)的Ernie和華為研發(fā)的盤古目前是有數(shù)據(jù)的國內(nèi)大模型參數(shù)規(guī)模的領(lǐng)先者

-國際領(lǐng)先的大模型GPT-4據(jù)推測參數(shù)規(guī)模量級可達5萬億以上

國內(nèi)大模型未公布參數(shù)規(guī)模

•自研大模型（字節(jié)）

• 1+N認(rèn)知智能大模型（科大訊飛）

•二郎神模型（IDEA研究院）

•自研AI大模型（光年之外）

•自研大模型（燧原科技）

•超擬人大模型（聆心智能）

•自研大模型（香依科技）

•魔力寫作（竹間智能）

•自研大模型（MiniMax）

•蛋白質(zhì)大模型（浙江大學(xué)杭州國 際科創(chuàng)中心）

國內(nèi)模型參數(shù)規(guī)模<100 億

•書生3.5 （商湯科技）

•孟子（瀾舟科技）

•DriveGPT （毫末智行）

•ChatGLM （清華大學(xué)）

國內(nèi)模型參數(shù)規(guī)模>100 億

•ERNIE 3.0 （百度）

•盤古（華為）

•MOSS （復(fù)旦大學(xué)）

•遵義（阿里）

•言犀（京東）

•混元（騰訊）

•伏羲（網(wǎng)易）

•源1.0 （浪潮信息）

•行業(yè)精靈（云從科技）

•八卦爐（達摩院）

•元語大模型（莫塔社區(qū)）

•曹植大模型（達觀數(shù)據(jù)）

•紫東太初（中科院自動化研究所）

•自研大模型（西湖星辰）

•悟道2.0 （智源研究院）

國際模型參數(shù)規(guī)模

•GPT-4 (OpenAI) 未公開，推測為超過50000億

•PaLM (Google) 5400億

•BERT (Google) 4810億

•GPT-3.5 (OpenAI) 1750億

•LaMDA (Google) 1370億

•Galatica (Meta) 1200億

•LLaMDA (Meta) 650億

•Chinchilla (DeepMind) 700 億

•Claude (Anthropic) 520億

•Mineva (Google) 5400億