Model dat waarneembaarheid bedient met Genie Code

In dit artikel wordt beschreven hoe Genie Code u kan helpen bij het diagnosticeren van problemen, het analyseren van prestaties en het verkrijgen van richtlijnen voor uw model voor eindpunten.

Requirements

Om Genie Code te gebruiken voor de observeerbaarheid van modelserving, heeft uw werkruimte het volgende nodig:

• AI-functies aangedreven door partners, beschikbaar voor zowel het account als de werkruimte. Zie ai-functies die door partners worden aangedreven.
• Uw werkruimte moet zich in een ondersteunde regio bevinden. Genie Code is een Aangewezen Service die gebruikmaakt van Geos voor het beheren van gegevensresidentie. Bekijk de geografische beschikbaarheid van Genie Code-functies.

Wat kan Genie Code helpen?

Wanneer u Genie Code op een model-servicingspagina gebruikt, wordt het een observatiepartner voor modellevering. Het kan de eindpuntstatus analyseren, implementatiefouten diagnosticeren, latentieproblemen onderzoeken en richtlijnen bieden voor aanbevolen procedures, allemaal vanuit het deelvenster Genie Code.

Genie Code is een alleen-lezen adviseur in deze modus. Het kan uw eindpunten inspecteren en aanbevelingen doen, maar kan geen configuraties of implementaties wijzigen. Het bevat duidelijke, stapsgewijze instructies en koppelingen naar documentatie, zodat u zelf wijzigingen kunt aanbrengen.

Aan de slag

Om aan de slag te gaan:

1. Ga naar een modellenserver-eindpuntpagina.
2. Klik op het deelvenster Genie Code te openen.
3. Selecteer Agent in de rechterbenedenhoek. Hiermee schakelt u de agentmodus van Genie Code in.
4. Voer een prompt in waarin wordt beschreven waar u hulp bij nodig hebt. Bijvoorbeeld 'Controleer de status van dit eindpunt' of 'Waarom is mijn latentie zo hoog?'

Mogelijkheden

Statuscontroles en diagnostische gegevens

Genie Code kan de status en configuratie van uw eindpunt analyseren om potentiële problemen te identificeren:

• Controleer de status en implementatiestatus van het eindpunt.
• Controleer de configuratie op basis van best practices.
• Schaal- en resourcegebruik beoordelen.

Problemen oplossen en analyseren

Genie Code kan helpen bij het oplossen van problemen met uw eindpunten:

• Diagnose van implementatiefouten met behulp van buildlogboeken, gebeurtenissen en eindpuntstatus.
• Onderzoek problemen met hoge latentie of time-out met metrische gegevens, gebeurtenissen en deductietabelgegevens.
• Analyseer foutpatronen uit servicelogboeken en deductietabellen.
• Identificeer onjuiste configuraties of hulpbronbeperkingen.
• Vergelijk de huidige en in behandeling zijnde configuraties met een risicoanalyse.

Richtlijnen en beste praktijken

Genie Code heeft aanbevelingen op basis van de configuratie van uw eindpunt:

• Aanbevolen optimale schaalconfiguraties voor productie- en ontwikkelingsworkloads.
• Eindpuntstatussen en -overgangen uitleggen.
• Gids voor het instellen van bewaking en waarneembaarheid.
• Zoek Azure Databricks documentatie en geef koppelingen naar relevante artikelen.

Gebruikssituaties

Probeer deze aanwijzingen om aan de slag te gaan:

• Systeemcontroles
  • 'Controleer de status van dit eindpunt'.
  • 'Is mijn eindpunt correct geconfigureerd?'
  • 'Controleer de schaalconfiguratie van mijn eindpunt.'
• Implementatiefouten:
  • '/diagnose' of 'Waarom is mijn implementatie mislukt?'
  • 'Help me implementatiefouten op te lossen'.
  • Mijn eindpunt is vastgelopen in de status in afwachting.
• Latentiefoutopsporing
  • Waarom is mijn latentie zo hoog?
  • "Analyseer de piek in de latentie vanmorgen."
  • "Toon de metrische prestatiegegevens voor de afgelopen 24 uur."
• Configuratiebeoordeling:
  • Wat is er gewijzigd in mijn wachtende configuratie?
  • Is mijn gelijktijdigheidsinstelling geschikt voor gebruik in de productieomgeving?
  • 'Mijn configuratie van deductietabel weergeven'.
• Aanvraaggeschiedenis:
  • "Toon recente aanvragen voor dit eindpunt."
  • Welke fouten komen mijn gebruikers tegen?
  • "Analyseer foutpatronen van de afgelopen week."

Aanvullende informatie

• Genie Code
• Genie Code gebruiken
• Modelkwaliteit en eindpuntstatus bewaken
• Handleiding voor foutopsporing voor Model Serving
• Eindpunten voor modelbediening optimaliseren voor productie