2021年2月1日,英国伦敦和中国北京– Imagination Technologies宣布,在Imagination和百度飞行桨(PaddlePaddle)的合作中,其IMGDNN API已集成到Paddle Lite中,从而丰富了AI(AI)的开发全球开发商。
) 生态系统。
Paddle Lite是百度深度学习框架的轻量级推理引擎。
IMGDNN API使开发人员能够在基于PowerVR架构的图形处理单元(GPU)和神经网络加速器(NNA)上实现应用程序的最高性能。
此举增加了Imagination硬件平台支持的框架数量,使开发人员更容易在异构系统(例如包含CPU,GPU和NNA的系统)中运行AI应用程序。
例如,更容易构建“ Imagination NNA + CPU”。
异构计算系统,使开发人员可以充分利用不同硬件的加速功能来进行更全面的调度。
通过这种集成,使用Imagination硬件的开发人员可以充分利用PaddlePaddle工具集。
例如,使用PaddleSlim压缩工具来量化预训练的神经网络模型,然后通过Paddle Lite将其部署到Imagination的NNA以便执行。
该代码已合并到Paddle Lite的Develop分支中,并将在下一个主要的稳定版本v2.8中提供。
百度飞行桨生态产品负责人王云凯说:``很高兴看到PaddlePaddle在AI领域与Imagination合作。
Paddle的Paddle Lite轻量级推理引擎可以完全支持多种类型的硬件,操作系统和AI模型。
这次与Imagination的硬件成功集成,进一步丰富了我们的生态系统。
我们希望将来与Imagination开展更多合作,以加快AI创新”。
Imagination屡获殊荣的NNA IP具有高度可扩展性,并且专门设计用于加速边缘端机器学习工作负载。
它已通过硅验证,并且已获准进入汽车,移动,AIoT和数据中心/台式机市场。
最新的多核体系结构IMG 4系列NNA具有超高的单位面积性能,并且通过多核计算可以将最大性能扩展到500 TOPS或更高。
该架构基于Tensor Tilling的新技术,可以减少带宽需求,并且支持的驱动程序和软件工具也非常完整。
Imagination Technologies AI高级总监安德鲁·格兰特(Andrew Grant)先生说:“我们很荣幸加入百度的PaddlePaddle硬件生态系统计划,并将在技术和生态系统方面为PaddlePadle团队提供支持。
Imagination NNA目前可以支持所有主流AI框架。
PaddleLite引擎的支持意味着我们在这一领域的能力将继续提高”。