Quiero clarificar donde se imputan los costos para un modelo Global Standard desplegado en el AI Foundry

Hola Nicolás Lazarte,

Bienvenido a la sección de preguntas y respuestas de Microsoft. Gracias por contactarnos.

Entiendo que necesita aclaración sobre cómo funciona la facturación al usar AI Foundry con un modelo Estándar Global implementado en una región diferente a la de la ubicación del recurso. A continuación, se detalla cómo funciona normalmente:

Región de facturación: Se le facturarán los recursos de Azure OpenAI según la región donde se implementen. En su caso, si el recurso de AI Foundry está en la región central de Canadá, pero el modelo de transcripción (Estándar Global) está en la región este de EE. UU. 2, cualquier uso del modelo generará cargos según los precios de la región este de EE. UU. 2.

Impacto de la discrepancia regional: Implementar el modelo en una región diferente puede generar mayor latencia y posibles problemas de rendimiento, ya que los datos deben viajar más lejos. Además, si el modelo no está disponible en la región central de Canadá, usarlo desde una región diferente podría complicar la residencia de los datos y las consideraciones de cumplimiento normativo.

Resumen de costos: Los costos pueden acumularse por diversos motivos, como:

Horas de alojamiento para el modelo implementado en East US 2.

Inferencias cobradas por cada 1000 tokens, tanto de entrada como de salida.

Podrían generarse costos adicionales si utiliza otros servicios de Azure vinculados a esta implementación.

Supervisión de costos: Puede supervisar y administrar sus costos de forma eficaz mediante las herramientas de Azure Cost Management + Billing. Configurar presupuestos y alertas puede ayudarle a garantizar que no exceda el gasto previsto.

Recomendaciones:

Si es posible, considere implementar el modelo en la misma región que su recurso de AI Foundry para optimizar el rendimiento y la gestión de costos.

Revise periódicamente su análisis de costos para comprender de dónde provienen sus costos y ajuste sus implementaciones según sea necesario.

Consulte esto.

• Azure OpenAI Pricing
• Manage Costs
• Understanding the Provisioned Throughput Purchase Model
• Cost Analysis

Espero que le sea útil. Si tiene alguna otra pregunta, no dude en contactarme.

Si esto responde a su pregunta, haga clic en "Aceptar respuesta" y "Sí" para ver si le resultó útil.

¡Gracias!