e公司訊,阿里云與知名半導(dǎo)體公司MediaTek聯(lián)合宣布,通義千問18億、40億參數(shù)大模型已成功部署進(jìn)天璣9300移動(dòng)平臺(tái),可離線流暢運(yùn)行即時(shí)且精準(zhǔn)的多輪AI對(duì)話應(yīng)用,連續(xù)推理功耗增量不到3W,實(shí)現(xiàn)手機(jī)AI體驗(yàn)的大幅提升。這是通義大模型首次完成芯片級(jí)的軟硬適配,僅依靠終端算力便能擁有極佳的推理性能及功耗表現(xiàn),標(biāo)志著Model-on-Chip(片上大模型)的探索正式從驗(yàn)證走向商業(yè)化落地新階段。
通義大模型落地手機(jī)芯片
本站所發(fā)布的文字與圖片素材為非商業(yè)目的改編或整理,版權(quán)歸原作者所有,如侵權(quán)或涉及違法,請(qǐng)聯(lián)系我們刪除!