近日,潤和軟件“昇騰+DeepSeek 智算引擎創(chuàng)新行”江蘇省首站活動在南京成功舉辦,將持k技本次活動由南京江北新區(qū)產(chǎn)業(yè)技術(shù)研創(chuàng)園指導(dǎo),續(xù)深線江蘇省人工智能學會、化昇江蘇鯤鵬·昇騰生態(tài)創(chuàng)新中心主辦。術(shù)路江蘇潤和軟件股份有限公司(以下簡稱“潤和軟件”)作為昇騰生態(tài)核心伙伴受邀出席,潤和軟件人工智能研究院AI總工朱凱分享了基于“昇騰 + openEuler + OpenHarmony+ DeepSeek”的將持k技全場景云-邊-端智能生態(tài)體系的技術(shù)實踐,并參與圓桌論壇探討DeepSeek大模型行業(yè)落地路徑。續(xù)深線
技術(shù)突破:全棧自主創(chuàng)新,化昇夯實智能底座
潤和軟件全場景云-邊-端智能生態(tài)體系
1. 昇騰AI算力:覆蓋云-邊-端的術(shù)路全場景性能躍升
云端訓(xùn)練,昇騰910+openEuler深度優(yōu)化:依托昇騰910芯片的潤和軟件強大算力,潤和軟件深度定制HopeOS AI版操作系統(tǒng),將持k技結(jié)合NUMA親和調(diào)度策略與高效的續(xù)深線容器化編排技術(shù),針對千億級參數(shù)大模型進行分布式訓(xùn)練優(yōu)化。化昇通過算子級融合優(yōu)化、術(shù)路CANN框架深度適配、數(shù)據(jù)流調(diào)度優(yōu)化及模型切分策略精細化調(diào)整,大幅降低計算節(jié)點間通信開銷,提升算力利用效率。
邊端推理,昇騰310+OpenHarmony實時響應(yīng):基于昇騰310芯片的高能效比優(yōu)勢,結(jié)合OpenHarmony分布式軟總線的低開銷通信機制、跨設(shè)備協(xié)同與統(tǒng)一調(diào)度能力,實現(xiàn)了多端高效協(xié)同計算。
2. DeepSeek大模型:覆蓋訓(xùn)練到推理的端到端性能優(yōu)化
模型優(yōu)化,高效壓縮與行業(yè)適配:針對DeepSeek大模型,結(jié)合分層量化與知識蒸餾技術(shù),實現(xiàn)模型輕量化,同時確保核心任務(wù)的高精度要求。通過智能量化策略對不同層級進行優(yōu)化,減少計算資源消耗,并融合行業(yè)知識進行模型蒸餾,使其在金融風控、醫(yī)療診斷等專業(yè)領(lǐng)域保持穩(wěn)健的推理性能。
行業(yè)定制,深度融合領(lǐng)域know-how:通過業(yè)務(wù)規(guī)則嵌入與場景化數(shù)據(jù)增強雙路徑驅(qū)動,構(gòu)建可動態(tài)演化的微調(diào)框架:將行業(yè)知識圖譜與領(lǐng)域邏輯規(guī)則轉(zhuǎn)化為模型可識別的語義約束,結(jié)合輕量化增量訓(xùn)練技術(shù),實現(xiàn)預(yù)訓(xùn)練大模型向特定場景的精準對齊,在保障通用能力的同時增強對碎片化、長尾需求的適應(yīng)性。
行業(yè)賦能:深入場景,讓AI驅(qū)動業(yè)務(wù)增長
在以“DeepSeek大模型行業(yè)落地路徑”為主題的圓桌論壇中,潤和軟件針對大模型在垂直場景中面臨的碎片化需求適配難、領(lǐng)域知識遷移效率低、部署成本高等挑戰(zhàn),提出了“場景定義架構(gòu)、知識驅(qū)動進化”的落地方法論:
潤和軟件人工智能研究院AI總工朱凱參與圓桌論壇
統(tǒng)一引擎:潤和軟件自研的統(tǒng)一推理引擎通過深度整合軟硬件資源,提供了強大的推理加速能力與優(yōu)化效果,針對不同硬件平臺的專用算子優(yōu)化、內(nèi)存管理與并行計算的精細調(diào)度,通過智能層次調(diào)度與融合技術(shù)可根據(jù)模型的復(fù)雜度和硬件性能動態(tài)調(diào)節(jié)推理流程。
知識閉環(huán):基于行業(yè)知識庫構(gòu)建反饋強化機制,利用模型微調(diào)框架實現(xiàn)“數(shù)據(jù)采集-知識提煉-模型迭代”的自進化鏈路,構(gòu)建具備業(yè)務(wù)認知自演進能力的AI系統(tǒng)。
潤和軟件堅持從“堆參數(shù)”轉(zhuǎn)向“解方程”的技術(shù)路徑,將行業(yè)關(guān)鍵問題轉(zhuǎn)化為可量化、可迭代的算法命題,再用AI工具精準求解。未來,潤和軟件將持續(xù)深化“昇騰+DeepSeek”技術(shù)路線,依托工程化技術(shù)解耦能力,將大模型技術(shù)重構(gòu)為企業(yè)級即懂即用的智能業(yè)務(wù)賦能系統(tǒng),賦能千行百業(yè)智能化升級。
江蘇潤和軟件股份有限公司(簡稱“潤和軟件”)成立于2006年,2012年在深圳證券交易所創(chuàng)業(yè)板上市(證券代碼:300339),是國家重點規(guī)劃布局內(nèi)的大型軟件企業(yè)。公司總部位于南京,在北京、上海、深圳、香港等22個國內(nèi)主要城市設(shè)有研發(fā)中心或分子公司,在日本、美國、新加坡等國設(shè)有海外分支機構(gòu),全球員工約13000人,擁有全球化的技術(shù)整合、客戶響應(yīng)與服務(wù)到達能力。
秉承“做民族軟件脊梁,擔世界進步責任”的使命,潤和軟件致力成為“中國數(shù)智科技與服務(wù)創(chuàng)新的引領(lǐng)者”,通過國產(chǎn)化、數(shù)字化、智能化創(chuàng)新技術(shù),軟硬件一體化解決方案能力及全生命周期軟件服務(wù)體系,激活行業(yè)新動能、發(fā)展新質(zhì)生產(chǎn)力,助力廣大客戶數(shù)字化轉(zhuǎn)型和智能化升級。