ContentSafetyEvaluator Classe

Définition

Espace de noms:
Microsoft.Extensions.AI.Evaluation.Safety
Assembly:
Microsoft.Extensions.AI.Evaluation.Safety.dll
Paquet:
Microsoft.Extensions.AI.Evaluation.Safety v10.6.0-preview.1.26261.4
Source:
ContentSafetyEvaluator.cs

Classe de base abstract qui peut être utilisée pour implémenter IEvaluators qui utilisent le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence d’une variété de contenu dangereux, comme du matériel protégé, du code vulnérable, du contenu dangereux, etc.

public ref class ContentSafetyEvaluator abstract : Microsoft::Extensions::AI::Evaluation::IEvaluator
public abstract class ContentSafetyEvaluator : Microsoft.Extensions.AI.Evaluation.IEvaluator
type ContentSafetyEvaluator = class
    interface IEvaluator
Public MustInherit Class ContentSafetyEvaluator
Implements IEvaluator
Héritage
Object
ContentSafetyEvaluator
Dérivé
Implémente
IEvaluator

Constructeurs

Nom Description
ContentSafetyEvaluator(String, IDictionary<String,String>)

Classe de base abstract qui peut être utilisée pour implémenter IEvaluators qui utilisent le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence d’une variété de contenu dangereux, comme du matériel protégé, du code vulnérable, du contenu dangereux, etc.

Propriétés

Nom Description
EvaluationMetricNames

Obtient les Names des EvaluationMetrics produites par ce IEvaluator.

Méthodes

Nom Description
EvaluateAsync(IEnumerable<ChatMessage>, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.
EvaluateContentSafetyAsync(IChatClient, IEnumerable<ChatMessage>, ChatResponse, IEnumerable<EvaluationContext>, String, Boolean, CancellationToken)

Évalue le modelResponse fourni à l’aide du service d’évaluation Azure AI Foundry et retourne un EvaluationResult contenant un ou plusieurs EvaluationMetrics.
FilterAdditionalContext(IEnumerable<EvaluationContext>)

Filtre les EvaluationContexts fournis par l’appelant via additionalContext uniquement les EvaluationContexts pertinentes pour l’évaluation effectuée par cet ContentSafetyEvaluatorappelant.

Méthodes d’extension

Nom Description
EvaluateAsync(IEvaluator, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.
EvaluateAsync(IEvaluator, ChatMessage, ChatMessage, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.
EvaluateAsync(IEvaluator, ChatMessage, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.
EvaluateAsync(IEvaluator, ChatResponse, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.
EvaluateAsync(IEvaluator, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.
EvaluateAsync(IEvaluator, String, String, ChatConfiguration, IEnumerable<EvaluationContext>, CancellationToken)

Évalue l’élément fourni modelResponse et retourne un EvaluationResult ou plusieurs EvaluationMetrics contenant.

S’applique à