终于来了,天玑9300正式支持通义千问AI大模型,NPU不再是鸡肋

黑猫 Tech 2024-04-01 09:31:04
AI不能取代人类,但是……

作为一个AI工具的重度使用者,说几句心里话。目前AI取代人类的时代,还尚未到来。但AI大模型确实可以提高工作的效率,除了创造性的工作,其它都可以让AI工具来完成。

大家应该都知道"木桶效应”,能装多少水,取决于木桶的最短板。

比如视频创作,有的人擅长创作文案,有的人擅长找题材,有的人擅长摄影。人精力有限,不可能方方面面都做到完美。

而生成式AI模型,让我同时在文案、配音、视频、写代码方面,都能达到及格的水平。开始运用AI之后,我的工作效率相当于一个3人的小工作室。

有时候,AI还是我的“虚拟老师”。前段时间我在写代码遇到问题,搜索了很多遍都没找到答案,但是问了一下GPT-4,瞬间就定位到了问题所在。

互联网是个宝藏,它几乎储存了人类已知的所有知识,而AI大模型则是找到宝藏的“快捷指令”,让每个人都能变成“无所不知”的超级个体,其重要性不亚于马斯克的“脑机”。

通义千问模型的现状

自ChatGPT引发全球关注以来,国内大模型迅速崛起,华为盘古、百度文心一言、讯飞星火、抖音云雀及阿里通义千问各领风骚。

当前,达到10亿参数规模的大模型,已经接近300家。而在国内的大模型中,阿里的通义千问算是比较领先的一个。

在2月份的 SuperCLUE 大模型榜单中,阿里的通义千问2.1在国内大模型中,处于领先地位。其开发的开源模型Qwen1.5,也领先于一众开源模型。

从排行榜可以看出,通义千问2.1模型已经非常接近于GPT-4,考虑到其是基于中文语境下开发的AI模型,更符合我们的体质。

现在的问题,不是有没有优秀的国产AI大模型,而是硬件端上的适配和落地。只有在手机终端、电脑终端上普及了,AI才能真正的改变世界——这一天终于来了。

天玑9300确定部署通义千问模型

前段时间,联发科宣布了一个重磅消息:天玑9300平台已经成功完成通义千问小尺寸版本的部署,并且可以兼容天玑8300平台(不愧是中端神U)。

具体来讲,它是通过专门为AI任务设计的NPU,来高效执行深度学习模型,从而让小尺寸版的通义千问模型,可以进行实时推理。

手机厂商炒作了这么久的“AI性能”,除了拍照以外终于有点用了。从此之后,AI性能是判断手机芯片强弱的核心标准之一,再也不是鸡肋了。

小尺寸模型的性能会有一定的折损,毕竟参数精度、计算复杂度都精简了不少。不过可以保证关键任务性能,比如手机上最重要的问答准确率,语言理解能力。

但这种迷你模型的好处是:离线即可使用,进而保护用户隐私,不要担心数据被上传到云端;参数更精简,因此占用的空间小,可以快速加载并安装。

相信从春季开始,国产安卓机的端侧AI应用生态,会迎来一波大爆发,这是要把苹果干废的节奏啊。

虽然国产AI大模型和GPT-4还有一点差距,但是在庞大的数据量下,相信很快就能弯道超车,小小的期待一下。

0 阅读:32