以下文章來(lái)源于宇芯數(shù)碼worldchip,宇芯作者宇芯數(shù)碼
近日,基于宇芯成功在全志T527 Linux系統(tǒng)上本地部署并運(yùn)行了DeepSeek-R1 1.5B模型。功部
基于宇芯自研的宇芯Ubuntu系統(tǒng),研發(fā)團(tuán)隊(duì)在4GB內(nèi)存的基于宇芯T527開(kāi)發(fā)板上,借助Ollama框架實(shí)現(xiàn)了該輕量級(jí)語(yǔ)言模型的功部高效運(yùn)行。
這一突破不僅彰顯了宇芯數(shù)碼在低功耗、宇芯低成本AI解決方案領(lǐng)域的基于技術(shù)實(shí)力,也為客戶的功部AI應(yīng)用開(kāi)發(fā)提供了更加可靠的支持。
T527:高效能、宇芯低功耗的基于Ai計(jì)算平臺(tái)
全志T527是一款面向AI計(jì)算的8核Cortex-A55 SoC,廣泛應(yīng)用于物聯(lián)網(wǎng)、功部智能家居、宇芯邊緣計(jì)算等領(lǐng)域。基于宇芯自研的功部T527開(kāi)發(fā)板基于T527設(shè)計(jì),支持4GB內(nèi)存,并配備多種高速接口,兼具高能效比與靈活擴(kuò)展性。
宇芯T527開(kāi)發(fā)板
此次DeepSeek-R1模型的成功部署,充分驗(yàn)證了T527在端側(cè)AI推理上的潛力,為在嵌入式設(shè)備上運(yùn)行AI模型提供了全新的可能性。
Deepseek-R1:賦能多場(chǎng)景應(yīng)用
DeepSeek-R1 1.5B模型是一款輕量級(jí)語(yǔ)言模型,擁有15億參數(shù),在文本生成、對(duì)話系統(tǒng)、代碼補(bǔ)全等任務(wù)上表現(xiàn)出色。且該模型支持 Linux、Windows、macOS 及 ARM設(shè)備,適用于嵌入式平臺(tái),開(kāi)發(fā)者無(wú)需依賴云端即可運(yùn)行 AI 模型。
宇芯在T527成功部署DeepSeek-R1
此次成功部署,意味著開(kāi)發(fā)者可以在邊緣設(shè)備上運(yùn)行復(fù)雜的AI模型,為智能客服、個(gè)性化推薦等應(yīng)用場(chǎng)景提供更高效的解決方案。