天玑9300怎么样 天玑9300处理器全方位测评

二、登上端侧AI新高度:330亿参数大模型轻松搞定
天玑9300集成了全新的第七代APU 790 AI处理器,行业首款搭载了硬件生成式AI引擎,同时集成性能核心、通用核心,全链路针对生成式AI进行优化,整数、浮点运算性能都提升了2倍,功耗则降低了45%。
天玑9300目前已经成功运行330亿参数的大模型,相比骁龙8 Gen3 100亿遥遥领先,而且与vivo深度合作,实现了70亿参数大语言模型端侧落地、130亿参数大语言模型端侧运行。
天玑9300重点解决了端侧AI三大痛点:内存限制、生成速度偏慢、大模型应用类型受限。
针对手机内存容量限制,天玑9300支持内存硬件压缩技术NeuroPilot Compression,结合大语言模型的INT4混合精度量化,将大模型的内存占用大幅减少了61%。
比如它还支持了330亿参数大模型,原本需要至少13GB内存,因此对于16GB内存手机来说就完全不够用。
而在联发科的调教下,只需5GB就够了,加上Android系统本身占用4GB、APP应用保活需要6GB,甚至还能富余1GB的自由空间。
针对生成速度问题,天玑9300深度适配Transformer模型,优化Softmax+LayerNorm算子,处理速度提升多达8倍。
此外,天玑9300支持行业速度最快的LPDDR5T 9600Mbps内存,可提供77GB/s带宽,保证AI运算无瓶颈。
正是这些设计,使得天玑9300 70亿参数大模型生成速度达到了每秒20 Tokens,Stable Diffusion 1.5文生图速度可以做到1秒之内。
针对大模型数量在端侧受限的问题,天玑9300拥有行业领先的LoRA(低秩自适应)融合,并首次搭载生成式AI端侧“技能扩充”技术NeuroPilot Fusioin,为基础大模型提供更全面的端侧能力,实现多样化的本地内容生成。
以上提及的很多技术和优化,都是联发科NeuroPilot AI开发平台的一部分,可以为开发者提供端侧生成式AI落地的一站式资源,以及诸多案例分享。
目前,联发科端侧生成式AI已有20多个合作伙伴,包括谷歌、Meta、百度、百川、抖音、快手、虎牙、爱奇艺、美图秀秀等等。
相关文章
天玑9300比天玑9200提升多少 天玑9200和天玑9300区别对比
天玑9300比天玑9200提升多少?天玑9300是联发科推出的一款新一代移动处理器,相比于天玑9200,它在性能和功耗方面都有显著的提升,下面和小编一起来看看吧2023-10-26- 天玑9300是联发科推出的一款高性能移动处理器,采用了7nm工艺,拥有八个核心,其中两个是高性能核心,频率高达2.6GHz,天玑9300在跑分方面表现出色,那么天玑9300跑分多少?2023-10-24
- 天玑9300处理器在今年下半年即将发布,这款处理器的整体性能相比较上一代提升了百分之十几,整体功耗也有所下降,有小伙伴对这款处理器相当于高通骁龙系列的哪款处理器有所2023-10-19
- 天玑9300和苹果A17是目前市场上备受瞩目的两款芯片,无论是智能手机还是电脑设备,芯片是其中最关键的元件之一,它直接影响着设备的性能和使用体验,那么,就天玑9300和苹果A2023-09-16
天玑9300和天玑8200有什么区别 天玑9300和天玑8200对比详解
这篇文章主要介绍了天玑9300和天玑8200有什么区别 天玑9300和天玑8200对比详解的相关资料,需要的朋友可以参考下,希望对大家有所帮助2023-08-15- 这篇文章主要介绍了天玑9300和A16哪个好 天玑9300和A16对比介绍的相关资料,需要的朋友可以参考下,希望对大家有所帮助2023-08-15
- 这篇文章主要介绍了天玑9300和m1哪款好 天玑9300和m1区别对比的相关资料,需要的朋友可以参考下,希望对大家有所帮助2023-08-14
天玑9300和天玑9200+区别大吗 天玑9300和天玑9200+对比介绍
这篇文章主要介绍了天玑9300和天玑9200+区别大吗 天玑9300和天玑9200+对比介绍的相关资料,需要的朋友可以参考下,希望对大家有所帮助2023-08-14天玑9300和骁龙8gen2哪个好 天玑9300和骁龙8gen2区别介绍
这篇文章主要介绍了天玑9300和骁龙8gen2哪个好 天玑9300和骁龙8gen2区别介绍的相关资料,需要的朋友可以参考下,希望对大家有所帮助2023-07-12天玑930和骁龙778g区别是什么 天玑930和骁龙778g对比介绍
这篇文章主要介绍了天玑930和骁龙778g区别是什么 天玑930和骁龙778g对比介绍的相关资料,需要的朋友可以参考下,希望对大家有所帮助2023-05-06
最新评论