让高效AI无处不在

发布时间：2023-09-06 14:13:45 所属栏目：动态来源：

导读：高通公司中国区研发负责人徐晧博士分享了高通公司在人工智能（AI）方面的愿景，以及高通在前沿科技领域的研究和探索。

徐晧认为，一个更重要的趋势是在去年年底ChatGPT发布之后，大家对大语言模型以及生成式AI有了

高通公司中国区研发负责人徐晧博士分享了高通公司在人工智能（AI）方面的愿景，以及高通在前沿科技领域的研究和探索。

徐晧认为，一个更重要的趋势是在去年年底ChatGPT发布之后，大家对大语言模型以及生成式AI有了更好的了解。而随着生成式AI快速发展，日活用户数已经达到几亿。对于生成式AI的特点以及对今后人工智能的发展有哪些巨大影响，徐晧有着自己的理解。

在他看来，首先，人们以前理解的AI往往只能处理指定的工作，现在有了生成式AI以及大模型以后，其展示出来的人工智能的能力，已经实现了革命性的突破。经过自主开发大量训练模型以及提供大量有用的数据资料阅览，AI已经有了一定的数据创造和生成的能力，这在我看来是一个很重要的新特点；其次，越来越多多模态的人工智能应用正在拓展。

但由于大语言模型和多模态模型都需要大量的数据训练以及GPU的运算环境和能力，因此这部分功能在大部分时间中都停留在云端运行，而基于这种大模型进行搜索，产生的实际成本将是原先搜索引擎的约10倍，因此从成本层面来讲较难普及。

在终端侧处理存在的好处包括：无需将图像和视频推到云端，可以节约很多能耗和网络流量、具有一定的隐私性，并具备更快速的处理能力。而面对什么样的应用适合在终端执行，什么样的应用更适合留在云端这一问题，徐晧提出“可以让终端判断什么样的运算能够直接在终端侧处理”。

据介绍，高通在终端侧人工智能方面有着非常多的研发和产品：目前，在全世界范围内，搭载骁龙和高通平台的已上市用户终端数量已达到数十亿台，每年还有数亿台搭载骁龙和高通平台的终端进入市场；从研发层面来说，高通注重三个方向，高效硬件、算法改进和软件工具。基于高通的平台，开发者可以通过跨层的模型、硬件和软件创新等全栈AI优化，将同样的应用快速部署到不同类型的终端上。

而整体模型效率研究是高通推动AI落地到终端的最重要的研究方向之一，主要包括四大领域：第一，是如何通过量化将模型从浮点运算转换为定点运算；第二是条件计算，即仅基于输入信息执行大型推理模型部分组件，实现运算简化，降低终端能耗；第三是神经网络架构搜索；第四是编译，即学习编译AI模型以实现高效的硬件执行。

在生成式AI的未来应用方面，徐晧预测，在未来几年各类终端上，可能会有影响力极大的应用场景落地。在XR方面，通过生成式AI，未来终端可以基于简单提示创作3D环境和场景；在汽车方面，生成式AI也能帮助汽车做一系列自动驾驶的优化和改进；此外，手机上能看到更多的在终端侧运行的生成式AI应用；生成式AI还将影响PC和物联网。

（编辑：汽车网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!