Consumo de APIs sin servidor desde un proyecto o hub diferente de Microsoft Foundry (clásico)

Solo se aplica a:portal Foundry (clásico). Este artículo no está disponible para el nuevo portal de Foundry. Obtenga más información sobre el nuevo portal.

Nota

Los vínculos de este artículo pueden abrir contenido en la nueva documentación de Microsoft Foundry en lugar de la documentación de Foundry (clásico) que está viendo ahora.

En este artículo, aprenderá a configurar una API sin servidor existente en un proyecto o centro diferente al que se usó para crear la implementación.

Importante

Los modelos que están en versión preliminar se marcan como versión preliminar en sus tarjetas de modelo en el catálogo de modelos.

Algunos modelos del catálogo de modelos se pueden implementar como API sin servidor. Este tipo de implementación proporciona una manera de consumir modelos como UNA API sin hospedarlos en su suscripción, a la vez que mantiene la seguridad y el cumplimiento empresariales que necesitan las organizaciones. Esta opción de implementación no requiere cuota de la suscripción.

La necesidad de consumir un punto de conexión de API sin servidor en un proyecto o centro diferente al que se usó para crear la implementación podría surgir en situaciones como las siguientes:

  • Quiere centralizar sus implementaciones en un proyecto o hub determinado y consumirlas desde diferentes proyectos o hubs dentro de su organización.
  • Debe implementar un modelo en un centro de conectividad en una región de Azure determinada en la que esté disponible la implementación sin servidor para ese modelo. Sin embargo, debe consumirlo desde otra región, donde la implementación sin servidor no está disponible para los modelos concretos.

Requisitos previos

  • Una suscripción Azure con un método de pago válido. Las suscripciones de Azure gratis o de prueba no funcionarán. Si no tiene una suscripción de Azure, cree un cuenta de Azure de pago para comenzar.

  • Un Microsoft Foundry hub, si está utilizando un proyecto basado en hub. Un proyecto "Foundry" no usa un concentrador. Para obtener más información, consulte Tipos de proyectos.

  • Si no tiene uno, cree un proyecto basado en hub.

  • Un modelo implementado en una API sin servidor. En este artículo se da por supuesto que ha implementado previamente el modelo Meta-Llama-3-8B-Instruct . Para obtener información sobre cómo implementar este modelo como UNA API sin servidor, consulte Implementación de modelos como API sin servidor.

  • Debe instalar el siguiente software para trabajar con Foundry:

    Puede usar cualquier explorador web compatible para navegar por Foundry.

Crear una conexión a un terminal de API sin servidor

Siga estos pasos para crear una conexión:

  1. Conéctese al proyecto o al centro donde se implementa el punto de conexión:

    Propina

    Dado que puede customizar el panel izquierdo en el portal de Microsoft Foundry, es posible que vea elementos diferentes de los que se muestran en estos pasos. Si no ve lo que busca, seleccione ... Más en la parte inferior del panel izquierdo.

    Vaya a Foundry y vaya al proyecto donde se implementa el punto de conexión al que desea conectarse.

  2. Obtenga la dirección URL y las credenciales del punto de conexión al que desea conectarse. En este ejemplo, obtendrá los detalles para un nombre de punto de conexión meta-llama3-8b-qwerty.

    1. En la barra lateral izquierda del proyecto en el portal de Foundry, vaya a Mis recursos>Modelos y puntos de conexión para ver la lista de implementaciones en el proyecto.

    2. Seleccione la implementación a la que desea conectarse.

    3. Copie los valores de URI de destino y clave.

  3. Ahora, conéctese al proyecto o al centro donde desea crear la conexión:

    Vaya al proyecto en el que se debe crear la conexión.

  4. Cree la conexión en el proyecto:

    1. En el proyecto en el portal de Foundry, vaya a la parte inferior de la barra lateral izquierda y seleccione Centro de administración.

    2. En la barra lateral izquierda del centro de administración, seleccione Recursos conectados.

    3. Seleccione Nueva conexión.

    4. Seleccione Modelo sin servidor.

    5. Para el URI de destino, pegue el valor que copió anteriormente.

    6. En Clave, pegue el valor que copió anteriormente.

    7. Asigne un nombre a la conexión, en este caso meta-llama3-8b-connection.

    8. Seleccione Agregar conexión.

  5. En este punto, la conexión está lista para su uso.

  6. Para validar que la conexión funciona:

    1. Vuelva al proyecto en el portal de Foundry.

    2. En la barra lateral izquierda del proyecto, vaya a Compilar y personalizar>Prompt Flow.

    3. Seleccione Crear para crear un flujo.

    4. Seleccione Crear en el cuadro Flujo de chat .

    5. Asigne un nombre al flujo de solicitud y seleccione Crear.

    6. Seleccione el nodo chat del grafo para ir a la sección chat.

    7. En Connection (Conexión), abra la lista desplegable para seleccionar la conexión que acaba de crear, en este caso meta-llama3-8b-connection.

    8. Seleccione Iniciar sesión de cálculo en la barra de navegación superior para iniciar un tiempo de ejecución automático de flujo rápido.

    9. Seleccione la opción Chat ( Chat ). Ahora puede enviar mensajes y obtener respuestas.

Contenido relacionado

  • Last updated on