炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 一直以来,Pytorch在Mac上仅支持使用CPU进行训练。 就在刚刚炼丹,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。 只要是搭载了M1系列芯片的Mac都行。 这也就意味着在Mac本机用Pytorch“炼速度丹”会更方便了! 训练速度可提升约7倍 此功能由Pytorch与Apple的Metal工程团队合作推出。 它使用Apple的Metal Performance×7 Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。 为了优化计算性能,MPS还针对Metal GPU系列的独特特性对每个内核!你进行了微调。 Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/MacOS平台的M,不过也兼顾了性能和易用性。 MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。 苹果官方在搭载了acM1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。 (这阵容差不多能算是豪华配置了)。 他电脑们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch size=64的也能VGG16。 从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20倍。 看到这儿,在P有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。 有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不错。yT未来苹果很有可能慢慢追上性能。 总的来说,Mac Studio现在看起来实在太香了。 他进一步解释道: “毕竟它是你花4800美元就能买到的最便宜、包含or128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。 对于我所做的那种DL工作ch,数据加载比实际的原始计算能力更容易成为瓶颈。” 你心动了吗? 现在就试试? 只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原训练生Python,然后去官网下载最新的Pytorch预览版就可以了。 地址:
https://pytorch.org/blog/introducing-acce中用lerated-pytorch-training-on-mac/
- 最近发表
- 随机阅读
-
- 标签: 任庚 郎咸朋 具身智能 特斯拉人形机器人
- 云安全日报210909:思科ASR9000系列路由器发现拒绝服务漏洞,需要尽快升级
- 昏睡红茶是什么梗
- 华人女博士提出高效NAS算法:AutoML一次「训练」适配亿万硬件
- Atlassian 6.1亿美元收购浏览器初创公司 押注AI驱动的职场浏览器
- 亚马逊云科技与伦敦证券交易所集团扩展多年云合作关系
- 边缘(Edge)应用技术将惠及所有行业
- 第三轮降价!阿里云通义千问视觉理解模型降价超80%
- 阿里云将在沙特提供公共云服务 未来五年投资5亿美元
- 标签: 极越 百度 吉利 夏一平
- 标签: 九阳股份 哈基米 小家电
- Verizon和本田希望利用5G和边缘计算让驾驶更安全
- 2022年六个要避免的顶级云成本优化问题以及应对方式 译文
- 云计算公司Fastly:已修复造成多个网站宕机的故障
- 云计算开发:Python内置函数-slice()函数详解
- OpenAI官宣IPO路线图!奥特曼:1.4万亿美元基建投入,每周新增1吉瓦算力,AI巨头冲刺上市
- 标签: 美图公司 影像与设计 付费订阅 阿里巴巴
- 与高通分手?谷歌Pixel 6系列手机将搭载自研芯片
- HKU和美团联手破解AI数学难题:CodePlot-CoT让大模型学会用代码画图思考,性能飙升21%
- 可以优化成本和性能的六种云计算数据管理技术
- 搜索
-
- 友情链接