什麼是 apple-on-device-ai?
在整合 Foundation Models 框架、使用 Apple Intelligence 實作裝置上 AI、建置工具呼叫 AI 功能、使用開機產生模式、使用 Core ML 和 coremltools 轉換模型或在 Apple Silicon 上執行開源 LLM 時使用。涵蓋基礎模型(LanguageModelSession、@Generable、@Guide、SystemLanguageModel、結構化輸出、工具調用)、Core ML(coremltools、模型轉換、量化、調色板化、修剪、神經引擎、MLTensor)、MLX Swift(變壓器推理、統一平台內存)和 llama. LLMc LLMc。 來源:dpearson2699/swift-ios-skills。