修复苹果M3神经引擎性能缺陷提升吞吐量

AI·硬件

针对M3芯片神经引擎在特定权重大小下的性能瓶颈,通过优化内核DMA引擎的预取机制,显著提升了大语言模型的推理速度和内存带宽利用率。

来源:原文链接 (新窗口)

← 返回搜罗吧首页


本页由搜罗吧(Solo8.cn)信息精选服务自动生成,内容仅供参考,不构成任何建议。