安谋科技应战AI新时代 推出新一代NPU
发布时间：2023-03-29 09:47:11 所属栏目：动态 来源：
导读：在生成式人工智能（AIGC）热潮的催化下，澎湃旺盛的研发和应用需求，令算力产业空前兴奋，连带着AI芯片产业也铆足干劲，蓄势待发。
作为构筑AI芯片大厦的“砖瓦”，神经网络处理器（NPU）的设计会影响A
作为构筑AI芯片大厦的“砖瓦”，神经网络处理器（NPU）的设计会影响A
|
在生成式人工智能（AIGC）热潮的催化下，澎湃旺盛的研发和应用需求，令算力产业空前兴奋，连带着AI芯片产业也铆足干劲，蓄势待发。 作为构筑AI芯片大厦的“砖瓦”，神经网络处理器（NPU）的设计会影响AI推理的性能、能效、灵活性、扩展性、安全性。智能计算的多元化场景，正在改变新一代NPU的设计理念。 国内头部芯片IP设计与服务供应商安谋科技推出其自研人工智能（AI）产品线的最新AI处理器产品——“周易”X2 NPU，将支持的算力提升至最高320TOPS，针对车载、电脑、手机等特定场景做了性能优化，并正式发布NPU软件开源计划。 AI应用热潮日渐高涨，正值国际形势日益复杂，这些推力共同将国产AI芯片引入难得的历史机遇期。企业基于NPU研发加速AI计算芯片的需求,有望从降低设计成本、缩短研发周期、加速产品走向规模落地等角度考虑,不断壮大。 在愈发热闹的AI算力军备竞赛中，安谋科技的打法是一边通过本土研发创新抬高NPU的技术壁垒，另一边借助开源力量携手更多伙伴共建更好用的软件工具，以更开阔的视野来做大本土NPU生态。 安谋科技执行副总裁、产品研发负责人刘澍向智东透露，除前述软件开源外，安谋科技后续还将逐步开放更多资源。合作伙伴在软件层面加入“周易”软件开源计划，硬件层面则兼容“周易”架构，以便企业基于“周易”架构开发全新NPU产品。这将催生更广泛的芯片设计创新。 发展通用人工智能是计算机行业一直以来的伟大梦想，而大模型与生成式AI取得的突破性进展，正以日新月异的速度缩短现实与想象之间的距离，也正重新制定AI芯片的规则。 “在应用层面，ChatGPT把数据处理的热度推向一个高峰。”安谋科技执行副总裁、产品研发负责人刘澍告诉智东西，ChatGPT的背后结合了知识图谱、数据库、数据收集和分析等一整套技术体系，开创了很多NPU在不同行业应用的窗口和前景，并带动NPU、CPU、GPU等多种异构算力的结合。 动辄参数规模上亿的AI模型大多训练和运行于云上。科研人员正在探索如何将它们放到性价比更高的终端硬件上。最近十几天，国内外研究人员已经成功实现用单张消费级显卡、苹果M1/M2芯片跑大型语言模型，展现了在性价比更高的终端硬件上运行认知智能的可能性。 近年来，智能汽车、AIoT等产业智能化进程提速。一方面，智能汽车、边缘计算、智能家居、移动设备等对AI处理图像分辨率的要求越来越高；另一方面，AI正在与各个行业中的典型应用场景融为一体,逐渐向传统的ToB端产业渗透。 相比将所有计算放在云上，终端NPU处理能够降低数据传输造成的延时，节省大量开销。特别是对于视觉、语音等人机交互以及自动驾驶等对实时处理要求严苛的应用场景，终端NPU的发展是必然且必需的。 据刘澍观察，为了适应下游AI算法的发展，未来终端算力可能有两个发展路径：一是终端算力越来越强，终端算力的持续扩展是未来趋势，但会受限于成本和功耗；二是不断为终端裁剪网络，这是安谋科技长期在做的尝试，通过量化剪裁等措施将模型变得更小。 这个软件平台支持TensorFlow、Caffe、ONNX、 PyTorch等主流AI框架，Android、Linux、RTOS、QNX等不同操作系统，以及TVM、Arm NN的SoC异构计算，并拥有丰富的开放接口、调试工具和Bit精度的软件仿真平台。 对于软件工具而言，“能用”与“用好”是不同层次的事。刘澍认为，通过将软件开源及硬件架构免费开放，开发者无需在不同的硬件平台上进行开发，从而避免重复造论，进一步提升软件开发效率，让生态快速发展。 从成本角度考量，如果要完整做出一个比较好用的NPU，一家公司至少要投入两三百人，涉及到硬件、芯片、软件、上层应用等方方面面；但如果采用第三方NPU IP，可能只需投入100多人，用于应用层、中间层等开发。 从生态角度考量，如果上游芯片公司们各自推出一套自己的NPU生态，那么应用厂商可能会无所适从。而共建生态是合作共赢，在一个可复用的生态平台上开枝散叶，并有望激起更多以前不曾想过的场景创新。 据他透露，安谋科技将软件和工具开源后，企业开发者可以借此快速开发出自己的产品，或者是用这些工具结合对自家应用的深刻理解，从软硬件结合的角度对底层IP性能做优化。 未来,安谋科技还计划开放更多资源,使得芯片设计企业能够快速利用“周易”结构开发出自己的NCU产品并将其推出市场。 生成式AI的火爆出圈，正激发新一轮AI研发与商用热潮。各类硬件终端智能化渗透率不断提升，对作为底层算力基础设施“大脑”的AI芯片提出了更高的要求。 快速迭代的AI算法、日趋广泛的应用场景，既离不开高性能NPU来提供更强的算力支撑，也离不开易用的软件平台来加快芯片产品的部署和落地流程。可以看到，一直走在国内芯片IP赛道前排的安谋科技，正采用迭代更强NPU产品和开放软件源码的并行策略，拉动更多开发者及合作伙伴一起，共同加快NPU生态建设脚步。 在立足全球生态、聚焦本土需求、深耕本土创新的基础上，安谋科技逐渐发展成为产业链上下游的“黏合剂”，为提高芯片设计创新的效率、降低生产成本、优化资源配置提供重要支撑，通过推动NPU技术创新和产业发展，为芯片公司打通走向市场的必要通路，进而助益中国智能计算生态的创新与繁荣。 （编辑：汽车网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
推荐文章
站长推荐
