2025年2月23日,深思考人工智能正式發(fā)布鴻蒙系統TinyDongni&deepseek超小端側多模態(tài)大模型及硬件模組,并宣布與國產(chǎn)頭部模組廠(chǎng)商廣和通、深開(kāi)鴻達成合作,推出適配國產(chǎn)算力的硬件解決方案。此次合作標志著(zhù)國產(chǎn)端側AI技術(shù)在低功耗、高性能領(lǐng)域實(shí)現重大突破,打破“國產(chǎn)算力性能不足”的固有認知。
核心優(yōu)勢:輕量化大模型賦能?chē)a(chǎn)硬件生態(tài)
TinyDongni作為端側輕量化大模型,以?xún)H1.5B的極簡(jiǎn)參數規模實(shí)現高效能運算,其創(chuàng )新量化方法顯著(zhù)降低首Token延遲,支持32K超長(cháng)上下文理解,并通過(guò)多芯片協(xié)同處理與內存優(yōu)化技術(shù),兼顧低功耗與高響應速度。技術(shù)亮點(diǎn)包括:
架構優(yōu)化:DongniForCausalLM架構,支持1536/768隱藏層維度;
多語(yǔ)言支持:詞匯表擴展至183,542,覆蓋更廣泛的語(yǔ)言及專(zhuān)業(yè)領(lǐng)域表達;
靈活適配:兼容OpenHarmony、Linux、Windows、Android等主流操作系統。
deepseek系列則聚焦多模態(tài)能力,1B模型通過(guò)2048隱藏層維度與32注意力頭設計,強化復雜場(chǎng)景下的語(yǔ)義理解,適配智能硬件與邊緣計算場(chǎng)景。
國產(chǎn)模組合作:強強聯(lián)合,打造端側算力標桿
深思考聯(lián)合國產(chǎn)模組廠(chǎng)商推出兩大解決方案,驗證輕量化大模型與國產(chǎn)硬件的協(xié)同效能:
廣和通模組:集成5G與Wi-Fi 7通信技術(shù),依托深思考算法優(yōu)化,為車(chē)載、機器人等場(chǎng)景提供實(shí)時(shí)AI處理能力;
深開(kāi)鴻模組:基于國產(chǎn)芯片與OpenHarmony系統,支持8K編解碼與多屏交互,賦能工業(yè)檢測、AI攝像頭等高精度場(chǎng)景。
技術(shù)突破意義:在國產(chǎn)算力硬件上跑通大模型,充分證明深思考技術(shù)的輕量化與高效能——模型體積小但功能完備,無(wú)需依賴(lài)高算力硬件即可實(shí)現復雜任務(wù)處理,為端側AI普惠化提供堅實(shí)基礎。
全場(chǎng)景應用:從生活到專(zhuān)業(yè)領(lǐng)域的AI革新
深思考端側大模型已落地多個(gè)領(lǐng)域:
1.存儲領(lǐng)域:利用深思考的輕量化大模型技術(shù),對存儲設備的數據進(jìn)行多模態(tài)搜索,通過(guò)自然語(yǔ)言來(lái)實(shí)現對存儲中的信息進(jìn)行語(yǔ)義級別的搜索圖片、視頻、文件;
2. 智能終端:AI PC、AI手機、AI手表、AI眼鏡,AI攝像頭等;
3. 辦公助手:AI PC Suite提供本地文件模糊搜索、PPT自動(dòng)生成及同聲翻譯,保障數據安全;
4. 醫療健康:AI顯微鏡通過(guò)加密分析與擴展模塊,提升病理檢測穩定性與效率;
5. 智能汽車(chē):融合手勢、語(yǔ)音、圖像多模態(tài)交互,實(shí)時(shí)解析車(chē)內外環(huán)境;
6. 機器人生態(tài):人形與萌寵機器人依托“Her”模式與情感交互,針對萌寵玩具場(chǎng)景提供端側模型與算力一站式解決方案,解決設備無(wú)法聯(lián)網(wǎng)、廠(chǎng)商技術(shù)能力不足的痛點(diǎn)。
技術(shù)賦能未來(lái),深思考持續深耕AI創(chuàng )新
深思考創(chuàng )始人& CEO楊志明表示:“深思考鴻蒙系統TinyDongni&deepseek超小端側多模態(tài)大模型及硬件模組的發(fā)布,不僅是技術(shù)突破,更是端側AI普惠化的里程碑。未來(lái),將持續優(yōu)化多模態(tài)交互能力,推動(dòng)AI在醫療、工業(yè)、消費等領(lǐng)域的深度應用。”
針對場(chǎng)景定制化與性能平衡,楊志明進(jìn)一步強調:“端側模型通過(guò)量化技術(shù)確保功能指標不下降,同時(shí)利用本地小算力運行大模型,針對機器人、萌寵玩具等場(chǎng)景進(jìn)行專(zhuān)項優(yōu)化,實(shí)現性能與功耗的完美平衡。”
OpenHarmony助力,共筑端側AI生態(tài)
在此次發(fā)布活動(dòng)中,華為OpenHarmony使能部AI技術(shù)專(zhuān)家劉小飛介紹了OpenHarmony在大模型領(lǐng)域的探索。OpenHarmony是開(kāi)源項目,旨在構建智能設備運行平臺。其社區發(fā)展迅猛,生態(tài)伙伴眾多。
OpenHarmony旗下的Laval社區與深思考合作,借助大模型服務(wù)開(kāi)發(fā)者。2024年4月上線(xiàn)的OpenHarmony專(zhuān)屬智能問(wèn)答助手“小瓦AI答”,基于深思考Dongni多模態(tài)大模型技術(shù),已服務(wù)9000多名開(kāi)發(fā)者,回答3萬(wàn)多個(gè)問(wèn)題,極大提升了社區與用戶(hù)的互動(dòng)體驗。
未來(lái),OpenHarmony海量端側設備將為深思考技術(shù)提供廣闊應用空間,雙方攜手共進(jìn),共同拓展端側AI市場(chǎng)。
深思考此次發(fā)布的創(chuàng )新成果,結合OpenHarmony在大模型領(lǐng)域的探索實(shí)踐,有望吸引更多生態(tài)伙伴加入,共同推動(dòng)端側AI技術(shù)的發(fā)展,讓AI更好地服務(wù)于人們的工作和生活。
評論
全部評論(1544)
-
最新最熱
行業(yè)資訊 -
訂閱欄目
效率閱讀 -
音頻新聞
通勤最?lèi)?ài)