Microsoft.Extensions.AI.Evaluation.Safety Namnområde
Viktigt
En del information gäller för förhandsversionen av en produkt och kan komma att ändras avsevärt innan produkten blir allmänt tillgänglig. Microsoft lämnar inga garantier, uttryckliga eller underförstådda, avseende informationen som visas här.
Klasser
| Name | Description |
|---|---|
| CodeVulnerabilityEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera kodkompletteringssvar som skapats av en AI-modell för förekomsten av sårbar kod. |
| ContentHarmEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av en mängd olika skadliga innehåll som våld, hatpropaganda osv. |
| ContentSafetyEvaluator |
En |
| ContentSafetyServiceConfiguration |
Anger konfigurationsparametrar, till exempel Azure AI Foundry-projektet och de autentiseringsuppgifter som ska användas, när en ContentSafetyEvaluator kommunicerar med tjänsten Azure AI Foundry Evaluation för att utföra utvärderingar. |
| ContentSafetyServiceConfigurationExtensions |
Tilläggsmetoder för ContentSafetyServiceConfiguration. |
| GroundednessProEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera grunderna för svar som skapas av en AI-modell. |
| GroundednessProEvaluatorContext |
Sammanhangsbaserad information som GroundednessProEvaluator används för att utvärdera grunderna för ett svar. |
| HateAndUnfairnessEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av innehåll som är hatiskt eller orättvist. |
| IndirectAttackEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av indirekta attacker, till exempel manipulerat innehåll, intrång och insamling av information. |
| ProtectedMaterialEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomst av skyddat material. |
| SelfHarmEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av innehåll som indikerar självskada. |
| SexualEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av sexuellt innehåll. |
| UngroundedAttributesEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomst av innehåll som indikerar ogrundad slutsatsdragning av mänskliga attribut. |
| UngroundedAttributesEvaluatorContext |
Sammanhangsinformation som UngroundedAttributesEvaluator används för att utvärdera om ett svar är ogrundat. |
| ViolenceEvaluator |
En IEvaluator som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av våldsamt innehåll. |
