Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
Gäller endast för:Foundry-portalen (klassisk). Den här artikeln är inte tillgänglig för den nya Foundry-portalen.
Läs mer om den nya portalen.
Observera
Länkar i den här artikeln kan öppna innehåll i den nya Microsoft Foundry-dokumentationen i stället för den foundry-dokumentation (klassisk) som du visar nu.
I den här artikeln distribuerar du en företagschattwebbapp som använder dina data med en stor språkmodell i Microsoft Foundry-portalen.
Din datakälla motiverar modellen med specifika data. Jordning innebär att modellen använder dina data för att förstå kontexten för din fråga. Du ändrar inte den distribuerade modellen själv. Dina data förblir separata och säkra i den ursprungliga datakällan.
Stegen i den här självstudien är:
- Konfigurera resurser.
- Lägg till dina data.
- Testa modellen med dina data.
- Distribuera din webbapplikation.
Förutsättningar
Viktigt
Den här artikeln innehåller äldre stöd för hubbbaserade projekt. Det fungerar inte för Foundry-projekt. Se Hur vet jag vilken typ av projekt jag har?
SDK-kompatibilitetsanteckning: Kodexempel kräver en specifik Microsoft Foundry SDK-version. Om du stöter på kompatibilitetsproblem kan du överväga att migrera från en hubbbaserad till ett Foundry-projekt.
- Ett Azure konto med en aktiv prenumeration. Om du inte har ett skapar du ett fritt Azure konto, som innehåller en kostnadsfri utvärderingsprenumeration.
- Om du inte har något skapar du ett hubbbaserat projekt.
En utplacerad Azure OpenAI chattmodell. Slutför snabbstarten för Foundry Playground för att skapa den här resursen om du inte har någon.
En söktjänstanslutning för att indexering av exempelproduktdata. Om du inte har någon följer du stegen för att skapa och ansluta en söktjänst.
En lokal kopia av produktdata. Repositoryn Azure-Samples/rag-data-openai-python-promptflow på GitHub har exempel på detaljhandelsproduktinformation för det här handledningsscenariot. Filen
product_info_11.mdinnehåller produktinformation om TrailWalker-vandringsskorna för det här självstudieexemplet. Ladda ned exempeldata för Contoso Trek-detaljhandeln i en ZIP-fil till den lokala datorn.En Microsoft.Web resursleverantör registrerad i den valda abonnemanget så att du kan implementera till en webb-app. Mer information om hur du registrerar en resursprovider finns i Registrera resursprovider.
Nödvändiga behörigheter för att lägga till rolltilldelningar i din Azure-prenumeration. Endast ägaren av de specifika Azure resurser kan bevilja behörigheter efter rolltilldelning.
Foundry-portalen och Azure portalen
I den här självstudien utför du vissa uppgifter i Foundry-portalen och några uppgifter i Azure-portalen.
Foundry-portalen är en webbaserad miljö för att skapa, träna och distribuera AI-modeller. Som utvecklare är det här du skapar och distribuerar chattwebbappen.
Med Azure-portalen kan en administratör hantera och övervaka Azure resurser. Som administratör använder du portalen för att konfigurera inställningar för olika Azure tjänster som krävs för åtkomst från webbappen.
Konfigurera resurser
Viktigt
Du måste ha de behörigheter som krävs för att lägga till rolltilldelningar i din Azure-prenumeration. Beviljande av behörigheter efter rolltilldelning tillåts endast av ägaren av de specifika Azure resurserna. Du kan behöva be din Azure prenumerationsägare (som kan vara IT-administratör) att slutföra det här avsnittet åt dig.
Konfigurera rätt behörigheter i Azure portalen för att få resurserna att fungera korrekt i en webbapp.
Identifiera först de resurser som du behöver konfigurera i Foundry-portalen.
Öppna Foundry-portalen och välj sedan det hubbbaserade projekt som du använde för att distribuera chattmodellen Azure OpenAI.
Välj Hanteringscenter i den vänstra rutan.
Välj Anslutna resurser under projektet.
Identifiera de tre resurser som du behöver konfigurera: Azure OpenAI, Azure AI-sökning och Azure Blob Storage som motsvarar din workspaceblobstore.
Tips
Om du inte ser Typ i tabellen väljer du Kolumner i det övre högra hörnet och lägger till eller ändrar ordning på de markerade kolumnerna. Om du har flera Azure OpenAI resurser använder du den som innehåller din distribuerade chattmodell.
Sök efter vart och ett av dessa namn i portalen Azure. Öppna var och en på en ny webbläsarflik så att du kan växla mellan dem.
När du är klar har du tre nya webbläsarflikar öppna: Söktjänst, Foundry och blobstore-container. Håll alla tre flikarna öppna eftersom du växlar mellan dem för att konfigurera resurserna.
Aktivera hanterad identitet
Aktivera hanterad identitet på webbläsarfliken för resursen Search i Azure-portalen:
- I den vänstra rutan, under Inställningar, väljer du Identitet.
- Växla status till På.
- Välj Spara.
Aktivera hanterad identitet på webbläsarfliken för resursen Foundry i Azure-portalen:
- I den vänstra rutan går du till Resurshantering och väljer Identitet.
- Växla status till På.
- Välj Spara.
Ange åtkomstkontroll för sökning
På webbläsarfliken för resursen Search i Azure-portalen anger du API-åtkomstprincipen:
- I den vänstra rutan går du till Inställningar och väljer Nycklar.
- Under API-åtkomstkontroll väljer du Båda.
- När du uppmanas till det väljer du Ja för att bekräfta.
Tilldela roller
Upprepa det här mönstret för varje resurs i stegen nedan.
Det allmänna mönstret för att tilldela rollbaserad åtkomstkontroll (RBAC) för alla resurser är:
- Gå till Azure-portalen för den aktuella resursen.
- På den vänstra sidan i Azure-portalen väljer du Access control (IAM).
- Välj + Lägg till>Lägg till rolltilldelning.
- Sök efter den roll som du behöver tilldela och välj den. Välj sedan Nästa.
- När du tilldelar en roll till dig själv:
- Välj Användare, grupp eller tjänstens huvudnamn.
- Välj Välj medlemmar.
- Sök efter ditt namn och välj det.
- När du tilldelar en roll till en annan resurs:
- Välj Hanterad identitet.
- Välj Välj medlemmar.
- Använd listrutan för att hitta den typ av resurs som du vill tilldela. Till exempel Foundry Tools eller Search-tjänsten.
- Välj resursen i listan som visas. Det kanske bara finns en, men du behöver fortfarande välja den.
- Fortsätt genom guiden och välj Granska + tilldela för att lägga till rolltilldelningen.
Använd de här stegen för att tilldela roller för de resurser som du har konfigurerat i den här självstudien:
Tilldela dessa roller på webbläsarfliken för Search-tjänsten i Azure-portalen:
- Sökindexdata läsare till den Foundry-hanterade identiteten
- Söktjänstdeltagare för Foundry-hanterade identiteten
- Deltagare till dig själv (om du vill hitta Deltagare växlar du till fliken Privilegierade administratörsroller högst upp. Alla andra roller finns på fliken Jobbfunktionsroller .)
Tilldela dessa roller på webbläsarfliken för Foundry i Azure-portalen:
- Cognitive Services OpenAI-bidragsgivare till söktjänstens hanterade identitet
- Bidragsgivare till dig själv.
Tilldela dessa roller på webbläsarfliken för Azure Blob Storage i Azure-portalen:
- Storage Blob Data-deltagare till den foundry-hanterade identiteten
- Storage Blob Data Reader till söktjänstens hanterade identitet
- Bidragande till dig själv
Du har konfigurerat resurser. Du kan stänga Azure portalens webbläsarflikar nu om du vill.
Lägg till dina data och försök chattmodellen igen
I snabbstarten för Foundry Playground (det är en förutsättning för den här självstudien) ser du hur din modell svarar utan dina data. Lägg till dina data i modellen så att den kan svara på frågor om dina produkter.
För att slutföra det här avsnittet behöver du en lokal kopia av produktdata. Lagringsplatsen Azure-Samples/rag-data-openai-python-promptflow på GitHub innehåller exempel på detaljhandelsproduktinformation som är relevant för det här självstudiescenariot.
product_info_11.md Mer specifikt innehåller filen produktinformation om TrailWalker-vandringsskorna som är relevanta för det här självstudieexemplet.
Ladda ned exempeldata för Contoso Trek-detaljhandeln i en ZIP-fil till den lokala datorn.
Följ dessa steg för att lägga till dina data i chattlekplatsen för att hjälpa assistenten att svara på frågor om dina produkter. Du ändrar inte den distribuerade modellen i sig. Dina data lagras separat och säkert i din Azure-prenumeration.
Gå till projektet i Microsoft Foundry.
Välj Lekplatser i den vänstra rutan.
Välj Prova chattlekplatsen.
Välj din distribuerade chattmodell i listrutan Distribution .
Till vänster i chattlekplatsen väljer du Lägg till dina data>+ Lägg till en ny datakälla.
I listrutan Datakälla väljer du Ladda upp filer.
Välj Ladda upp>uppladdningsfiler för att bläddra bland dina lokala filer.
Välj de filer som du vill ladda upp. Välj de produktinformationsfiler som du laddade ned eller skapade tidigare. Lägg till alla filer nu. Du kommer inte att kunna lägga till fler filer senare i samma lekplatssession.
Välj Upload för att ladda upp filen till ditt Azure Blob Storage-konto. Välj sedan Nästa.
Välj tjänsten Azure AI-sökning.
Som Vektorindexnamn anger du produktinformation och väljer Nästa.
På sidan Sökinställningar under Vektorinställningar avmarkerar du kryssrutan Lägg till vektorsökning i den här sökresursen . Den här inställningen hjälper dig att avgöra hur modellen svarar på begäranden. Välj sedan Nästa.
Observera
Om du lägger till vektorsökning skulle fler alternativ vara tillgängliga här mot en extra kostnad.
Granska inställningarna och välj Skapa vektorindex.
På lekplatsen kan du se att datainmatningen pågår. Den här processen kan ta flera minuter. Vänta tills du ser datakällan och indexnamnet i stället för statusen innan du fortsätter.
Nu kan du chatta med modellen och ställa samma fråga som tidigare ("Hur mycket är TrailWalker-vandringsskorna") och den här gången använder den information från dina data för att konstruera svaret. Du kan expandera referensknappen för att se de data som användes.
Distribuera din webbapp
När du är nöjd med upplevelsen i Foundry-portalen distribuerar du modellen som ett fristående webbprogram.
Hitta resursgruppen i Azure-portalen
I den här genomgången implementerar du din webbapplikation till samma resursgrupp som Foundry-hubben. Du konfigurerar autentisering för webbappen i Azure-portalen.
Följ dessa steg för att gå till resursgruppen i Azure-portalen:
Gå till projektet i Foundry. Välj Hanteringscenter i den vänstra rutan.
Under rubriken Project väljer du Overview.
Välj resursgruppens namn för att öppna resursgruppen i Azure-portalen. I det här exemplet heter
rg-sdg-airesursgruppen .Nu är du i Azure portalen och visar innehållet i resursgruppen där du distribuerade hubben. Observera resursgruppens namn och plats. Du använder den här informationen i nästa avsnitt.
Håll den här sidan öppen på en webbläsarflik. Du återgår till det senare.
Distribuera webbapplikationen
Publicering skapar en Azure App Service i din prenumeration. Du kan medföra kostnader beroende på vilken prisplan du väljer. När du är klar med din app tar du bort den från Azure-portalen.
Så här distribuerar du webbappen:
Viktigt
Registrera Microsoft. Web som resursprovider innan du distribuerar till en webbapp.
Slutför stegen i föregående avsnitt för att lägga till dina data på lekplatsen. Du kan distribuera en webbapp med eller utan egna data, men du behöver en distribuerad modell enligt beskrivningen i snabbstarten för Foundry Playground.
Välj Distribuera > ... som en webbapp.
På sidan Distribuera till en webbapp anger du följande information:
- Namn: Ett unikt namn för webbappen.
- Subscription: Din Azure-prenumeration. Om du inte ser några tillgängliga prenumerationer registrera Microsoft. Web som resursprovider.
- Resursgrupp: Välj en resursgrupp där webbappen ska distribueras. Använd samma resursgrupp som hubben.
- Plats: Välj en plats där webbappen ska distribueras. Använd samma plats som hubben.
- Prisplan: Välj en prisplan för webbappen.
- Aktivera chatthistorik i webbappen: För självstudien är inte rutan för chatthistorik markerad. Om du aktiverar funktionen har användarna åtkomst till sina enskilda tidigare frågor och svar. Mer information finns i kommentarer om chatthistorik.
Välj Distribuera.
Vänta tills appen har distribuerats. Den här processen kan ta några minuter.
När den är klar aktiveras knappen Starta i verktygsfältet. Starta inte appen ännu och stäng inte sidan för chattlekplats – du kommer tillbaka till den senare.
Konfigurera webbappautentisering
Som standard är det bara du som har åtkomst till webbappen. I den här handledningen lägger du till autentisering för att begränsa åtkomsten till medlemmar i din Azure-konto. Användare loggar in med sitt Microsoft Entra konto för att få åtkomst till din app. Du kan följa en liknande process för att lägga till en annan identitetsprovider om du vill. Appen använder bara användarens inloggningsinformation för att verifiera att de är medlemmar i din klientorganisation.
Gå tillbaka till webbläsarfliken med Azure-portalen eller öppna Azure-portalen på en ny webbläsarflik. Visa innehållet i den resursgrupp där du distribuerade webbappen. Du kan behöva uppdatera vyn för att se webbappen.
Välj App Service-resursen i listan över resurser i resursgruppen.
Välj Autentisering på den komprimerade vänstra menyn under Inställningar.
Om du ser Microsoft utpekad som en identitetsleverantör på den här sidan behövs inget mer. Du kan hoppa över nästa steg.
Lägg till en identitetsprovider med följande inställningar:
- Identity provider: Välj Microsoft som identitetsprovider. Standardinställningarna på den här sidan begränsar appen endast till din klientorganisation, så du behöver inte ändra något annat här.
- Hyrestagartyp: Arbetsstyrka
- Appregistrering: Skapa en ny appregistrering
- Namn: Namnet på webbapptjänsten
- Kontotyper som stöds: Aktuell klientorganisation – enskild klientorganisation
- Begränsa åtkomst: Kräver autentisering
- Oautentiserade förfrågningar: HTTP 302 Hittades omdirigering – rekommenderas för webbplatser
Använda webbappen
Du är nästan där. Nu kan du testa webbappen.
Om du har ändrat inställningarna väntar du cirka 10 minuter tills autentiseringsinställningarna börjar gälla.
Gå tillbaka till webbläsarfliken med sidan för chattlekplats i Foundry-portalen.
Välj Starta för att öppna den distribuerade webbappen. Om du uppmanas att göra det godkänner du behörighetsbegäran.
Om du inte ser Starta på lekplatsen väljer du Webbappar i den vänstra rutan och väljer sedan din app i listan för att öppna den.
Om autentiseringsinställningarna inte är aktiva ännu stänger du webbläsarfliken för webbappen och återgår till chattlekplatsen i Foundry-portalen. Vänta lite längre och försök sedan igen.
I webbappen ställer du samma fråga som tidigare ("Hur mycket är TrailWalker-vandringsskorna"). Den här gången använder appen information från dina data för att konstruera svaret. Expandera referensknappen för att se de data som används.
Förstå chatthistorik
Med funktionen chatthistorik kan användarna se sina tidigare frågor och svar.
Aktivera chatthistorik när du distribuerar webbappen. Markera kryssrutan Aktivera chatthistorik i webbappen .
Viktigt
När du aktiverar chatthistorik skapas en Cosmos DB-instans i resursgruppen och extra avgifter tillkommer för den lagring som används. Om du tar bort webbappen tas inte Cosmos DB-instansen bort automatiskt. Om du vill ta bort din Cosmos DB-instans och alla lagrade chattar går du till den associerade resursen i Azure-portalen och tar bort den.
När du har aktiverat chatthistorik kan användarna visa eller dölja den i appens övre högra hörn. När historiken visas kan de byta namn på eller ta bort konversationer. När de är inloggade i appen sorteras konversationer från den senaste till den äldsta och namnges baserat på den första frågan i konversationen.
Om du tar bort Cosmos DB-resursen men har alternativet chatthistorik aktiverat i studion ser användarna ett anslutningsfel men kan fortsätta använda webbappen utan chatthistorik.
Uppdatera webbappen
Använd lekplatsen för att lägga till mer data eller testa modellen med olika scenarier. När du är redo att uppdatera webbappen med den nya modellen väljer du Distribuera > ... som en webbapp igen. Välj Uppdatera en befintlig webbapp och välj den befintliga webbappen i listan. Den nya modellen distribueras till den befintliga webbappen.
Rensa resurser
För att undvika onödiga Azure kostnader tar du bort de resurser som du skapade i den här snabbstarten om du inte behöver dem. Hantera resurser i Azure-portalen.