Was ist apple-on-device-ai?
Verwendung bei der Integration des Foundation Models-Frameworks, der Implementierung von KI auf dem Gerät mit Apple Intelligence, der Erstellung von Tool-Calling-KI-Funktionen, der Arbeit mit geführten Generierungsschemata, der Konvertierung von Modellen mit Core ML und coremltools oder der Ausführung von Open-Source-LLMs auf Apple Silicon. Deckt Foundation Models (LanguageModelSession, @Generable, @Guide, SystemLanguageModel, strukturierte Ausgabe, Tool-Aufruf), Core ML (Coremltools, Modellkonvertierung, Quantisierung, Palettierung, Bereinigung, Neural Engine, MLTensor), MLX Swift (Transformer-Inferenz, Unified Memory) und llama.cpp (GGUF, plattformübergreifendes LLM) ab. Quelle: dpearson2699/swift-ios-skills.