Versiones de los modelos en Microsoft Foundry (clásico)

Visualización actual:Versión - Cambio a la versión del nuevo portal de Foundry

Microsoft Foundry Models publica periódicamente nuevas versiones de modelos que incorporan las características y mejoras más recientes de los proveedores de modelos. En este artículo se explica cómo funciona el versionado de modelos, qué directivas de actualización están disponibles para tus implementaciones y cómo Azure OpenAI y las versiones de modelos de socios son administradas.

Después de leer este artículo, sabrá qué política de actualización elegir al implementar un modelo, cómo Azure administra automáticamente las actualizaciones de versiones y cómo difiere el control de versiones del modelo de un socio respecto del modelo de OpenAI de Azure.

Funcionamiento de las versiones del modelo

Puede elegir empezar con una versión de modelo determinada y mantenerse en ella, o actualizar automáticamente a medida que se publiquen nuevas versiones.

Hay dos versiones diferentes que se deben tener en cuenta al trabajar con modelos:

• Versión del propio modelo.
• Versión de la API que se usa para consumir una implementación de modelos.

Versión del modelo

Las directivas de actualización se configuran al implementar un modelo en el portal de Foundry. También puede cambiar la directiva más adelante en la configuración de implementación. Las directivas de actualización se configuran por implementación y varían según el modelo y el proveedor.

Las directivas de actualización de versiones incluyen las siguientes opciones:

• Las implementaciones establecidas en No participar en las actualizaciones automáticas de la versión del modelo requieren una actualización manual si se publica una nueva versión. Cuando se retira el modelo, esas implementaciones dejan de funcionar.
• Las implementaciones configuradas para actualizar cuando la nueva versión predeterminada esté disponible se actualizan automáticamente para usar la nueva versión predeterminada.
• Implementaciones establecidas en Una vez que la versión actual expira se actualizan automáticamente cuando se retira su versión actual.

Por ejemplo, una implementación de gpt-4o podría tener como destino la versión 2024-08-06. Cuando la versión 2024-11-20 esté disponible, las implementaciones configuradas para la actualización automática se cambiarán a la nueva versión automáticamente.

Para comprobar la versión actual de una implementación, use cualquiera de los métodos siguientes:

• Portal de Foundry: vaya a la implementación en el portal de Foundry y, a continuación, abra la pestaña Detalles para ver la versión del modelo actual.
• API REST: consulte el punto de conexión de implementaciones del recurso. La respuesta incluye la versión del modelo para cada implementación.

Versión de la API que se usa para consumir una implementación de modelos

La versión de la API indica el contrato que se usa para interactuar con el modelo en el código. Al usar las API REST, se indica la versión de la API mediante el parámetro api-versionde consulta . SDK de Azure versiones normalmente se emparejan con versiones de API específicas, pero puede especificar la versión de API que desea usar.

Una implementación de modelo determinada podría admitir varias versiones de API. El lanzamiento de una nueva versión del modelo no siempre requiere que actualices a una nueva versión de la API, como es el caso cuando hay una actualización de los pesos del modelo. Azure mantiene la versión principal anterior de un modelo hasta su fecha de retirada, por lo que puede volver a ella si es necesario.

actualizaciones de modelos de OpenAI de Azure

Azure trabaja estrechamente con OpenAI para publicar nuevas versiones de modelo. Cuando se publica una nueva versión de un modelo, puede probarla inmediatamente en nuevas implementaciones. Azure publica cuando se publican nuevas versiones de modelos y notifica a los clientes al menos dos semanas antes de que una nueva versión se convierta en la versión predeterminada del modelo. Azure también mantiene la versión principal anterior del modelo hasta su fecha de retirada, por lo que los clientes pueden volver a ella si lo desea.

Preparación de las actualizaciones de la versión del modelo openAI de Azure

Como cliente de los modelos de Azure OpenAI, es posible que observe algunos cambios en el comportamiento del modelo y la compatibilidad después de una actualización de versión. Estos cambios pueden afectar a las aplicaciones y los flujos de trabajo que dependen de los modelos. Estas son algunas sugerencias que le ayudarán a prepararse para las actualizaciones de versiones y minimizar el impacto:

• Lea las novedades y los modelos para comprender los cambios y las nuevas características.
• Lea la documentación sobre Deploy Foundry Models and version upgrades (Implementar modelos de Foundry y actualizaciones de versiones) para comprender cómo trabajar con versiones de modelo.
• Pruebe las aplicaciones y los flujos de trabajo con la nueva versión del modelo después del lanzamiento.
• Actualice el código y la configuración para usar las nuevas características y funcionalidades de la nueva versión del modelo.

¿Se producirá una actualización del modelo si la nueva versión del modelo aún no está disponible en esa región?

Sí, incluso en los casos en los que la versión del modelo más reciente aún no está disponible en una región, Azure actualiza automáticamente las implementaciones durante la ventana de actualización programada. Nuestro equipo de ingeniería comienza el lanzamiento de la nueva versión del modelo a partir de la fecha de actualización anunciada. Por ejemplo, si gpt-35-turbo-0125 aún no está disponible en Japón Oriental, Azure equipo de ingeniería implementa gpt-35-turbo-0125 en Japón Oriental para actualizar versiones de modelos anteriores como parte del proceso de actualización de la versión del modelo predeterminada.

Actualizaciones del modelo de asociado

Azure trabaja estrechamente con los proveedores de modelos para publicar nuevas versiones del modelo. Cuando se publica una nueva versión de un modelo, puede probarla inmediatamente en nuevas implementaciones.

Las nuevas versiones del modelo podrían dar lugar a que se publique un nuevo identificador de modelo. Por ejemplo, Meta-Llama-3-70B-Instruct y Meta-Llama-3.1-70B-Instruct se retiraron a favor de Llama-3.3-70B-Instruct. Cada generación usa un identificador de modelo diferente. En algunos casos, todas las versiones del modelo podrían estar disponibles en la misma versión de API. En otros casos, es posible que también tenga que ajustar la versión de API que se usa para consumir el modelo, ya que el contrato de API puede haber cambiado de un modelo a otro.

¿Qué ocurre cuando se retiran los modelos?

Cuando una versión del modelo alcanza su fecha de retirada, lo que sucede a continuación depende de la directiva de actualización configurada para esa implementación:

• No participar en las actualizaciones automáticas de la versión del modelo: el despliegue deja de aceptar solicitudes y devuelve errores cuando el modelo se retira. Actualice la implementación a una versión de modelo compatible antes de la fecha de retirada para evitar la interrupción del servicio.
• Actualizar una vez que la nueva versión predeterminada esté disponible: la implementación se actualiza automáticamente a la versión predeterminada actual. No se requiere ninguna acción.
• Una vez que expire la versión actual: la implementación se actualiza automáticamente a la siguiente versión disponible cuando expira la versión actual.

Azure le notifica las próximas retiradas por correo electrónico a los propietarios y colaboradores de la suscripción, las alertas de Azure Service Health y las tablas de retirada próximas en Desuso y retirada de modelos para Microsoft Foundry Models.

Contenido relacionado

• Foundry Models vendido directamente por Azure
• Modelos de foundry de asociados y comunidad
• Modelo desuso programado y retirada de Modelos de Foundry de Microsoft
• Implementación de modelos foundry
• Tipos de implementación en modelos de Foundry