Rapid-MLX被低估

在 Apple 晶片上本地執行開源模型，並暴露 OpenAI / Anthropic 相容介面。

適合誰

想讓 Claude Code、Codex、Cursor 跑在本地模型上、而不是付費 API 的 Mac 使用者。

為什麼值得關注

Rapid-MLX 一條命令裝好，從 240 多個開源模型裡下載，並同時提供 OpenAI 與 Anthropic 兩種風格的介面，現有 Agent 工具改個 base URL 就能接上。它基於 Apple 的 MLX，宣稱在同等硬體上吞吐可達原生 MLX 的四倍，模型覆蓋文本、視覺、語音和影片。全部在本機推理，提示詞和檔案不出裝置，Apache-2.0 許可、免費。限制也很明確：只支援 Apple 晶片和 macOS 14+；它是服務端而不是圖形介面；模型能力受機器的記憶體限制；速度數字來自專案自測，最好在自己的硬體上覆測。