小米公司此前并未“官宣”直接加入 AI 大模型賽道中,小米型不過(guò)小米的大模 AI 大模型 MiLM-6B 目前已經(jīng)悄然現(xiàn)身 C-Eval、CMMLU 大模型評(píng)測(cè)榜單,小米型截至當(dāng)前,大模小米大模型在 C-Eval 總榜單排名第 10、小米型同參數(shù)量級(jí)排名第 1。大模
根據(jù) GitHub 項(xiàng)目頁(yè)給出的小米型信息得知,MiLM-6B 是大模由小米公司開(kāi)發(fā)的一個(gè)大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型,參數(shù)規(guī)模達(dá) 64 億。小米型
小米 AI 大模型 MiLM-6B 首次曝光:64 億參數(shù),大模C-Eval 總榜排名第 10
▲ 圖源 MiLM-6B 的小米型 GitHub 頁(yè)面
而根據(jù) C-Eval 給出的信息,MiLM-6B 模型在具體各科目成績(jī)上,大模在 STEM(科學(xué)、小米型技術(shù)、工程和數(shù)學(xué)教育)全部 20 個(gè)科目中,計(jì)量師、物理、化學(xué)、生物等多個(gè)項(xiàng)目獲得了較高的準(zhǔn)確率。
小米 AI 大模型 MiLM-6B 首次曝光:64 億參數(shù),C-Eval 總榜排名第 10
▲ 圖源 C-Eval
據(jù)悉,MiLM-6B 模型目前已經(jīng)在大多數(shù)文科科目中表現(xiàn)出了相對(duì)良好的準(zhǔn)確度,不過(guò)在“法學(xué)、數(shù)學(xué)、編程、概率論、離散數(shù)學(xué)”等涉及“抽象思維”的科目中,還有一定進(jìn)步空間。
在 10 個(gè)“社會(huì)科學(xué)”測(cè)試科目中,除“教育學(xué)和地理”外,該模型在其他 8 個(gè)科目中都獲得了較為理想的準(zhǔn)確率。在人文科學(xué)的 11 個(gè)科目中,MiLM-6B 則在“歷史與法律”基礎(chǔ)上有著不錯(cuò)的準(zhǔn)確率表現(xiàn)。
AI 大模型 MiLM-6B 當(dāng)下才首次曝光,不過(guò)完成度已經(jīng)較高,在未來(lái)該模型可能會(huì)被用于小米旗下“小愛(ài)同學(xué)”等虛擬助理服務(wù)中。