ContentSafetyEvaluator Klass

Definition

Namnområde:
Microsoft.Extensions.AI.Evaluation.Safety
Sammansättning:
Microsoft.Extensions.AI.Evaluation.Safety.dll
Paket:
Microsoft.Extensions.AI.Evaluation.Safety v10.6.0-preview.1.26261.4
Källa:
ContentSafetyEvaluator.cs

En abstract basklass som kan användas för att implementera IEvaluators som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av en mängd osäkra innehåll, till exempel skyddat material, sårbar kod, skadligt innehåll osv.

public ref class ContentSafetyEvaluator abstract : Microsoft::Extensions::AI::Evaluation::IEvaluator
public abstract class ContentSafetyEvaluator : Microsoft.Extensions.AI.Evaluation.IEvaluator
type ContentSafetyEvaluator = class
    interface IEvaluator
Public MustInherit Class ContentSafetyEvaluator
Implements IEvaluator
Arv
Object
ContentSafetyEvaluator
Härledda
Implementeringar
IEvaluator

Konstruktorer

Name Description
ContentSafetyEvaluator(String, IDictionary<String,String>)

En abstract basklass som kan användas för att implementera IEvaluators som använder tjänsten Azure AI Foundry Evaluation för att utvärdera svar som skapats av en AI-modell för förekomsten av en mängd osäkra innehåll, till exempel skyddat material, sårbar kod, skadligt innehåll osv.

Egenskaper

Name Description
EvaluationMetricNames

Hämtar s:erna NameEvaluationMetricsom produceras av den här IEvaluator.

Metoder

Name Description
EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken)

Utvärderar den angivna modelResponse med hjälp av Azure AI Foundry Evaluation Service och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
FilterAdditionalContext(IEnumerable<EvaluationContext>)

Filtrerar de EvaluationContexts som tillhandahålls av anroparen via additionalContext ned till bara de EvaluationContextsom är relevanta för utvärderingen som utförs av detta ContentSafetyEvaluator.

Tilläggsmetoder

Name Description
EvaluateAsync(IEvaluator, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
EvaluateAsync(IEvaluator, ChatMessage, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
EvaluateAsync(IEvaluator, ChatMessage, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
EvaluateAsync(IEvaluator, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
EvaluateAsync(IEvaluator, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.
EvaluateAsync(IEvaluator, String, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Utvärderar den angivna modelResponse och returnerar en EvaluationResult som innehåller en eller flera EvaluationMetrics.

Gäller för