Reducir el coste de una aplicación basada en inteligencia artificial (IA) no debería implicar renunciar a la calidad de la que depende una empresa. Pero, con varios modelos y prompts entre los que elegir, ¿cómo pueden saber los equipos qué configuración satisfará sus requisitos de calidad con un coste menor?
Piensa en una aplicación de mensajería, como una plataforma de citas o una aplicación de atención al cliente. La aplicación puede usar Cortex AI Functions para resumir conversaciones e identificar temas recurrentes, lo que ayuda a los equipos a mejorar el servicio u ofrecer recomendaciones más relevantes a los usuarios. A medida que aumenta la adopción y el número de mensajes pasa de miles a decenas de millones, el equipo debe mantener la utilidad de esa información y, al mismo tiempo, gestionar el coste de generarlos. Aunque un modelo más pequeño o un prompt más eficiente podrían reducir el coste, los equipos deben evaluar si esos cambios seguirán ofreciendo la calidad que necesita su aplicación.
Para ayudar a los ingenieros de datos de IA a escalar workloads de forma más rentable sin sacrificar la calidad de la que depende su empresa, hemos creado un sistema nativo de evaluación y optimización para Cortex AI Functions. Con AI_FUNCTION_EVALUATION, los equipos pueden medir la calidad de los resultados para su caso de uso. AI_FUNCTION_OPTIMIZATION reduce el ajuste manual y ayuda a los equipos a identificar configuraciones que disminuyen los costes de inferencia y cumplen los requisitos de calidad, o que mejoran la calidad cuando los resultados iniciales no son suficientes.
Conectar las capacidades de IA con la experiencia del cliente
Imagina una aplicación para hacer amistades, de atención al cliente o de compras que utilice las conversaciones para ofrecer recomendaciones más relevantes. Con Cortex AI Functions, los equipos pueden transformar datos multimodales en resúmenes, temas recurrentes, indicadores de riesgo de fraude y preferencias expresadas por los usuarios que orienten esas recomendaciones. Por ejemplo, en la siguiente conversación, una plataforma para hacer amistades querría marcarla como posible estafa:

Figura 1. Ejemplo de conversación en una plataforma para hacer amistades que Cortex AI Functions marcaría como posible estafa.
Para crear aplicaciones que proporcionen la información adecuada, los equipos necesitan una forma repetible de evaluar los resultados de la IA según las expectativas empresariales y comparar prompts y modelos sin probar manualmente cada cambio.
Esto ayuda a los equipos a responder a dos preguntas empresariales:
¿Producen nuestras funciones de IA resultados con la calidad suficiente para respaldar recomendaciones que aporten valor a los usuarios?
¿Podemos ofrecer esa calidad de forma más rentable?
El siguiente flujo de trabajo conecta cuatro fases —crear, evaluar, optimizar e implementar— que llevan a los equipos desde la selección de funciones de IA, modelos y prompts hasta la validación de la calidad, la mejora de la rentabilidad y la puesta en producción de las mejoras seleccionadas.

Figura 2. Ciclo de vida de las funciones de IA: crear, evaluar, optimizar e implementar.
A continuación, seguimos este ciclo de vida para una aplicación para conectar personas que recomienda la siguiente acción en distintas conversaciones de usuarios.
Crear: convierte las conversaciones en recomendaciones útiles
Muchos clientes usan AI_COMPLETE para convertir datos no estructurados en información, desde resumir conversaciones hasta identificar posibles riesgos y recomendar la siguiente mejor acción.
Ahora, los clientes también pueden definir funciones de IA personalizadas (en disponibilidad general) para facilitar la reutilización de esta lógica en toda su organización. Los equipos pueden agrupar sus instrucciones y la elección del modelo en una función que las aplicaciones invocan mediante SQL, cuyo acceso se gestiona con los controles existentes de Snowflake. Esto significa que los equipos pueden definir funciones de IA personalizadas de forma centralizada, en lugar de volver a crearlas en cada aplicación.
Nuestra primera función, RECOMMEND_NEXT_ACTION, usa AI_COMPLETE para recomendar una acción para cada conversación:
CREATE OR REPLACE AI FUNCTION RECOMMEND_NEXT_ACTION(CONVERSATION VARCHAR)
RETURNS VARCHAR
COMMENT = 'Baseline: recommend next action for a dating-app chat'
AS
$$
SELECT AI_COMPLETE(
'claude-opus-5',
'You review a chat between two users on a dating platform and recommend the next action for the platform. Return exactly one label in lowercase: suggest_date (strong mutual interest, a meetup is being proposed), send_icebreaker (low-effort chat that is stalling), recommend_similar_profiles (polite incompatibility or dealbreaker), safety_review (scams, money requests, harassment, explicit pressure, underage, threats, phishing links), keep_chatting (healthy rapport, no plan yet). Return only the label. Chat: ' || CONVERSATION
)::VARCHAR
$$;
A continuación, los clientes deben determinar si los resultados de su función de IA personalizada cumplen sus expectativas de calidad y coste.
Evaluar: mide la calidad de las recomendaciones
AI_FUNCTION_EVALUATION (ahora en disponibilidad general) permite medir la calidad directamente en Snowflake. Prueba funciones de IA con ejemplos etiquetados e informa sobre la calidad, el uso de tokens y el coste. Así, ayuda a los equipos a evaluar si su implementación cumple los requisitos de calidad y a calcular el coste por conversación antes del escalado a workloads mayores. Por ejemplo, la siguiente tabla FRIENDS_PLATFORM_CHAT_EVAL vincula cada conversación de usuario con un valor expected_action, lo que proporciona una referencia para medir la eficacia con la que la función identifica la acción adecuada.

Figura 3. La tabla FRIENDS_PLATFORM_CHATS_EVAL vincula cada conversación de usuario con una etiqueta expected_action, que sirve de referencia para puntuar el resultado de la función.
Los equipos pueden elegir un método de puntuación adecuado para su tarea de transformación mediante IA. A continuación, usamos llm_judge para comparar las recomendaciones de la función con las acciones esperadas. Para etiquetas fijas como estas, exact_match es otra opción. AI_FUNCTION_EVALUATION admite diversas métricas de evaluación para distintas tareas de transformación mediante IA. Consulta la documentación.
CREATE OR REPLACE EXPERIMENT DATING_CHAT_ACTION_EVAL
TYPE = 'AI_FUNCTION_EVALUATION'
FROM SPECIFICATION $$
query_text: MY_DATABASE.PUBLIC.RECOMMEND_NEXT_ACTION(conversation)
metrics:
- name: llm_judge
dataset:
name: MY_DATABASE.PUBLIC.FRIENDS_PLATFORM_CHATS_EVAL
version: v1
ground_truth: expected_action
evaluation:
num_eval_runs: 1
$$;
EXECUTE EXPERIMENT DATING_CHAT_ACTION_EVAL;
Los resultados establecen una referencia de base para comparar alternativas. También ayudan a los equipos a distinguir entre los cambios que parecen prometedores y los que producen mejores resultados.
Optimizar: identifica la opción de mayor calidad con el menor coste para un caso de uso
Una vez comprendida la referencia de base, podemos analizar si otro modelo o unas instrucciones mejores permiten ofrecer la calidad que necesitamos de forma más económica.
AI_FUNCTION_OPTIMIZATION (ahora en disponibilidad general) automatiza esa búsqueda. El producto incorpora a tu workload de producción, con unos pocos clics, una selección de algoritmos de optimización agénticos, como CoCoEvolve de Snowflake y GEPA. Estos algoritmos de optimización agénticos utilizan los comentarios de la evaluación para generar y probar implementaciones alternativas, lo que reduce la necesidad de ajustar manualmente los prompts.
A partir de los modelos, los datos de evaluación, los criterios de puntuación y el presupuesto proporcionados, explora combinaciones de prompt, modelo e implementación de funciones, y registra la calidad y el coste de cada candidato. Estos resultados ayudan a los equipos a identificar configuraciones que reducen los costes de inferencia y cumplen los requisitos de calidad, o que mejoran la calidad cuando la referencia de base no es suficiente.
Para nuestra aplicación para conectar personas, incluimos tanto el modelo prémium como alternativas de menor coste. En lugar de ajustar manualmente cada opción, dejamos que AI_FUNCTION_OPTIMIZATION explore lo que cada una puede conseguir con mejores instrucciones. Los equipos pueden configurar una optimización mediante un flujo de trabajo guiado en la interfaz de Snowsight, con CoCo o directamente mediante SQL. Para hacerlo mediante SQL, el siguiente ejemplo configura un experimento de optimización para la función RECOMMEND_NEXT_ACTION de nuestra aplicación para conectar personas:
CREATE OR REPLACE EXPERIMENT DATING_CHAT_ACTION_OPT
TYPE = 'AI_FUNCTION_OPTIMIZATION'
FROM SPECIFICATION $$
function:
function_name: MY_DATABASE.PUBLIC.RECOMMEND_NEXT_ACTION
dataset:
name: MY_DATABASE.PUBLIC.FRIENDS_PLATFORM_CHATS_EVAL
version: v1
column_mapping:
argument_mapping:
CONVERSATION: conversation
ground_truth: expected_action
metrics:
- name: llm_judge
optimization:
budget: medium
models:
- claude-opus-5
- claude-sonnet-5
- claude-haiku-4-5
reflection_model: gpt-5-5
algorithm: CoCoEvolve
$$;
Los resultados muestran cómo la optimización puede mejorar la calidad y, al mismo tiempo, reducir el coste de ejecutar una aplicación a gran escala. En este ejemplo, un candidato Haiku optimizado obtiene una puntuación de validación de 0,98, frente al 0,95 de la referencia de base de Opus, con un coste de inferencia un 89 % menor. Otros candidatos obtienen puntuaciones más altas, pero esta opción mejora la referencia de base y, al mismo tiempo, reduce considerablemente el coste.

Figura 4. Los resultados de AI_FUNCTION_OPTIMIZATION comparan las configuraciones candidatas según su puntuación de calidad y su coste de inferencia. Un candidato Haiku optimizado obtiene una puntuación de 0,98, frente al 0,95 de la referencia de base de Opus, con un coste un 89 % menor.
Nota: Este material contiene escenarios hipotéticos creados únicamente con fines informativos. El escenario y los datos son sintéticos. Los escenarios no pretenden predecir ni garantizar ningún resultado o ahorro de costes específico. La precisión potencial de estos escenarios depende de numerosos factores, y Snowflake no garantiza que consigas ninguno de los resultados indicados.
Implementar: pon en funcionamiento la mejor función de IA
Una vez seleccionada y validada una implementación, podemos registrarla como una función de IA personalizada directamente desde el experimento, como se muestra en la siguiente figura con Snowsight. Esto incorpora el prompt optimizado y la configuración del modelo a una función reutilizable, de modo que los equipos pueden aplicar la mejora sin volver a crear la lógica.

Figura 5. Registro del candidato seleccionado como función de IA personalizada directamente desde el experimento en Snowsight.
En nuestra aplicación para conectar personas, usar la función optimizada solo requiere una sencilla llamada SQL, como con cualquier Cortex AI Function. La aplicamos a las conversaciones de producción para recomendar la siguiente acción:
SELECT
chat_id,
user_id,
conversation,
RECOMMEND_NEXT_ACTION(conversation) AS predicted_action
FROM FRIENDS_PLATFORM_CHATS
La aplicación sigue recibiendo las mismas etiquetas de acción, pero ahora utiliza la implementación que hemos seleccionado por su calidad y coste. En nuestro ejemplo, esto supone poner en funcionamiento el modelo de menor coste y el prompt optimizado en el pipeline de producción, convirtiendo el resultado de un experimento en una forma más económica de prestar servicio a los usuarios.
Conclusión
Las funciones de IA personalizadas permiten reutilizar las capacidades. La evaluación permite medir la calidad. La optimización ayuda a los equipos a identificar formas más económicas de ofrecerla. En conjunto, estos elementos proporcionan a los equipos un proceso repetible para pasar de una implementación inicial a una decisión de producción mejor fundamentada.
Cabe destacar que mejorar un flujo de trabajo de IA no tiene por qué implicar cambiar a un modelo más caro. Puede consistir en sacar más partido a los modelos disponibles y saber cuándo merece la pena pagar por capacidades adicionales.
Primeros pasos
Sigue la guía quickstart de optimización de funciones de IA para crear una función de IA, evaluarla con ejemplos etiquetados, comparar candidatos optimizados e implementar la opción que hayas seleccionado. Después, aplica el mismo flujo de trabajo a tu propio caso de uso, empezando por una función y un conjunto representativo de ejemplos etiquetados.
¿Ya tienes una función de IA que quieras evaluar? Pide a Snowflake CoCo que te ayude a empezar. Introduce /cortex-ai-function-studio en CoCo y selecciona Evaluate para configurar una evaluación con tu función y tus datos etiquetados. También puedes usar un flujo guiado de la interfaz de usuario directamente desde la interfaz de Snowflake: “AI > AI Functions > Evaluation | Optimization”.
Para conocer más a fondo la tecnología que sustenta la optimización, descubre cómo funciona CoCoEvolve.
Aviso legal: Este material contiene escenarios hipotéticos creados únicamente con fines informativos. El escenario y los datos son sintéticos. Los escenarios no pretenden predecir ni garantizar ningún resultado o ahorro de costes específico. La precisión potencial de estos escenarios depende de numerosos factores, y Snowflake no garantiza que consigas ninguno de los resultados indicados.





