Read moreThe private notes and secret documents that tell the inside story of the UK's Covid response
2024年12月20日 星期五 新京报
，推荐阅读旺商聊官方下载获取更多信息
这意味着想让模型以及模型驱动的功能运行在 Windows AI PC 上，在推理后端方面的工作会更加复杂。微软有 ONNX Runtime 和 DirectML（已进入续命状态）作为统一抽象层，但统一的代价是牺牲各厂商的峰值性能。苹果是目前唯一一家为自家 PC 硬件专门开发并持续维护 LLM 推理框架的 PC 厂商，这个框架就是 MLX。
"Although I am not an expert, this suggests that there needs to be some steps taken to make this area safe," Walker said.