ContentSafetyEvaluator Klas

Definitie

Naamruimte:
Microsoft.Extensions.AI.Evaluation.Safety
Assembly:
Microsoft.Extensions.AI.Evaluation.Safety.dll
Pakket:
Microsoft.Extensions.AI.Evaluation.Safety v10.6.0-preview.1.26261.4
Bron:
ContentSafetyEvaluator.cs

Een abstract basisklasse die kan worden gebruikt voor het implementeren van IEvaluators die gebruikmaken van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van een verscheidenheid aan onveilige inhoud, zoals beveiligd materiaal, kwetsbare code, schadelijke inhoud, enzovoort.

public ref class ContentSafetyEvaluator abstract : Microsoft::Extensions::AI::Evaluation::IEvaluator
public abstract class ContentSafetyEvaluator : Microsoft.Extensions.AI.Evaluation.IEvaluator
type ContentSafetyEvaluator = class
    interface IEvaluator
Public MustInherit Class ContentSafetyEvaluator
Implements IEvaluator
Overname
Object
ContentSafetyEvaluator
Afgeleid
Implementeringen
IEvaluator

Constructors

Name Description
ContentSafetyEvaluator(String, IDictionary<String,String>)

Een abstract basisklasse die kan worden gebruikt voor het implementeren van IEvaluators die gebruikmaken van de Azure AI Foundry Evaluation-service om reacties te evalueren die zijn geproduceerd door een AI-model voor de aanwezigheid van een verscheidenheid aan onveilige inhoud, zoals beveiligd materiaal, kwetsbare code, schadelijke inhoud, enzovoort.

Eigenschappen

Name Description
EvaluationMetricNames

Haalt de Names van de EvaluationMetrics geproduceerd door deze IEvaluator.

Methoden

Name Description
EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.
EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken)

Evalueert de opgegeven modelResponse met behulp van de Azure AI Foundry Evaluation Service en retourneert een EvaluationResult met een of meer EvaluationMetrics.
FilterAdditionalContext(IEnumerable<EvaluationContext>)

Filtert de EvaluationContextdoor de beller geleverde s via additionalContext down naar alleen de EvaluationContexts die relevant zijn voor de evaluatie die door deze ContentSafetyEvaluatorwordt uitgevoerd.

Extensiemethoden

Name Description
EvaluateAsync(IEvaluator, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.
EvaluateAsync(IEvaluator, ChatMessage, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.
EvaluateAsync(IEvaluator, ChatMessage, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.
EvaluateAsync(IEvaluator, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.
EvaluateAsync(IEvaluator, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.
EvaluateAsync(IEvaluator, String, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Evalueert de opgegeven modelResponse en retourneert een EvaluationResult met een of meer EvaluationMetrics.

Van toepassing op