Apple ha introducido el framework Foundation Models, una API nativa de Swift diseñada para simplificar la forma en que los desarrolladores integran modelos de lenguaje de gran tamaño (LLM) en sus aplicaciones. Al proporcionar una interfaz unificada, el framework permite a los desarrolladores alternar entre modelos locales en el dispositivo y modelos remotos en el servidor sin tener que reescribir la lógica central, reduciendo significativamente la barrera para crear experiencias de IA complejas y multimodelo.
Acceso unificado a modelos en el dispositivo y en la nube
El framework Foundation Models proporciona una forma estandarizada de interactuar con varios LLM. Otorga a los desarrolladores acceso directo a los modelos base en el dispositivo que impulsan Apple Intelligence, los cuales son ideales para tareas que requieren alta privacidad y funcionalidad sin conexión.
Esta imagen ilustra el concepto central de la interfaz unificada del framework para la integración de modelos.
Para flujos de trabajo más complejos, el framework se extiende a modelos del lado del servidor, incluidos Claude y Gemini. Esto se logra a través de un protocolo 'Language Model', un componente fundamental que permite a cualquier proveedor crear un paquete Swift para unirse al ecosistema.
“El framework Foundation Models es la mejor manera de usar cualquier modelo de lenguaje de gran tamaño en tu aplicación.”
— Foundation Models framework - Apple Developer
Capacidades multimodales y perfiles dinámicos
El framework integra directamente el framework Vision en sus capacidades de comprensión de imágenes. Esto permite que las aplicaciones realicen tareas como OCR para la extracción de texto o el escaneo de códigos de barras simplemente adjuntando una imagen a un prompt de texto.
Este recurso visual apoya la explicación de cómo el framework maneja la comprensión de imágenes y los prompts multimodales.
Una innovación clave son los 'Perfiles Dinámicos', que son APIs declarativas para actualizar el modelo, las herramientas y las instrucciones de una sesión sobre la marcha. Debido a que la transcripción de la sesión se comparte entre los cambios de perfil, las aplicaciones pueden mantener el contexto mientras cambian el nivel de razonamiento subyacente o el conjunto de herramientas.
Herramientas para desarrolladores y consideraciones de costos
Para ayudar con las pruebas, Apple incluyó un framework de Evaluaciones para ayudar a los desarrolladores a 'subir la colina' y refinar los prompts. Esta herramienta está diseñada para detectar inconsistencias de comportamiento que las pruebas unitarias estándar podrían pasar por alto al cambiar de modelos o ajustar perfiles.
Si bien el framework ofrece un acceso amplio, existen estructuras de costos específicas para el uso en la nube. Los desarrolladores inscritos en el Programa para Pequeñas Empresas de la App Store con menos de dos millones de descargas iniciales pueden acceder a los modelos Foundation de Apple en Private Cloud Compute sin costo de API en la nube.
Esta imagen se relaciona con la capacidad del framework para utilizar Private Cloud Compute para la ejecución de modelos en el servidor.