apple-on-device-ai

Guide for selecting, deploying, and optimizing on-device ML models. Covers Apple Foundation Models, Core ML, MLX Swift, and llama.cpp.

Use this decision tree to pick the right framework for your use case.

When to use: Text generation, summarization, entity extraction, structured output, and short dialog on iOS 26+ / macOS 26+ devices with Apple Intelligence enabled. Zero setup -- no API keys, no network, no model downloads.

Da utilizzare quando si integra il framework Foundation Models, si implementa l'intelligenza artificiale sul dispositivo con Apple Intelligence, si creano funzionalità di intelligenza artificiale che chiamano strumenti, si lavora con schemi di generazione guidata, si convertono modelli con Core ML e coremltools o si eseguono LLM open source su Apple Silicon. Copre Foundation Models (LanguageModelSession, @Generable, @Guide, SystemLanguageModel, output strutturato, chiamata di strumenti), Core ML (coremltools, conversione del modello, quantizzazione, palettizzazione, potatura, Neural Engine, MLTensor), MLX Swift (inferenza del trasformatore, memoria unificata) e llama.cpp (GGUF, LLM multipiattaforma). Fonte: dpearson2699/swift-ios-skills.