apple-on-device-ai

Guide for selecting, deploying, and optimizing on-device ML models. Covers Apple Foundation Models, Core ML, MLX Swift, and llama.cpp.

Use this decision tree to pick the right framework for your use case.

When to use: Text generation, summarization, entity extraction, structured output, and short dialog on iOS 26+ / macOS 26+ devices with Apple Intelligence enabled. Zero setup -- no API keys, no network, no model downloads.

Используйте при интеграции платформы Foundation Models, внедрении искусственного интеллекта на устройстве с Apple Intelligence, создании функций искусственного интеллекта, вызывающих инструменты, работе со схемами управляемой генерации, преобразовании моделей с помощью Core ML и coremltools или запуске LLM с открытым исходным кодом на Apple Silicon. Охватывает базовые модели (LanguageModelSession, @Generable, @Guide, SystemLanguageModel, структурированный вывод, вызов инструментов), Core ML (coremltools, преобразование модели, квантование, палеттизация, обрезка, Neural Engine, MLTensor), MLX Swift (вывод трансформатора, унифицированная память) и llama.cpp (GGUF, кросс-платформенный LLM). Источник: dpearson2699/swift-ios-skills.