Amazon WebServices 已经发布了来自其 SageMaker Neo 机器学习的相关代码,Neo-AI 是 Apache软件许可下的项目。SageMaker Neo 最初于2018年11月在 AWS Re:Invent 上推出,旨在帮助开发人员针对硬件平台优化现有机器学习模型。
同样,Neo-AI 将和芯片制造商、设备制造商和开发商一起,针对各种硬件平台优化机器学习模型。
AWS 表示,Neo-AI 会自动优化 TensorFlow、MXNet、PyTorch、ONNX和XGBoost框架的模型,并可能将这些模型的运行速度提高一倍,而不会损失准确性。
该平台还支持将不同模型转换为通用格式,以减少兼容性问题。
总的来说,AWS 开源 SageMaker 的目标是加快边缘设备上的机器学习部署速度。AWS 的 Sukwon Kim 和 Vin Sharma 在一篇博文中写道:“通常情况下,为多个硬件平台优化机器学习模型是很困难的,因为开发人员需要针对每个平台的硬件和软件配置手动调整模型。”这对于计算能力和存储方面往往受到限制的边缘设备来说尤其具有挑战性。
目前,英特尔、NVIDIA和ARM相关硬件目前支持 Neo-AI ,Xilinx、Cadence 和高通硬件将在晚些时候推出。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网
猜你喜欢:- 开源 AI 模型开发平台「天枢平台」已在 Gitee 开源
- 向 OpenAI 喊话:语言模型啥时候开源?
- Facebook开源深度学习推荐模型DLRM
- Oracle开源机器学习模型云端部署工具Graphpipe
- 完胜 BERT,谷歌最佳 NLP 预训练模型开源
- 微软开源基于模型的机器学习框架 Infer.NET
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。