Microsoft.Extensions.AI.Evaluation.Safety Espace de noms
Important
Certaines informations portent sur la préversion du produit qui est susceptible d’être en grande partie modifiée avant sa publication. Microsoft exclut toute garantie, expresse ou implicite, concernant les informations fournies ici.
Classes
| Nom | Description |
|---|---|
| CodeVulnerabilityEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses d’achèvement du code produites par un modèle IA pour la présence de code vulnérable. |
| ContentHarmEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle d’IA pour la présence d’une variété de contenus nuisibles tels que la violence, le discours haineux, etc. |
| ContentSafetyEvaluator |
Classe de base |
| ContentSafetyServiceConfiguration |
Spécifie les paramètres de configuration, tels que le projet Azure AI Foundry et les informations d’identification qui doivent être utilisées, lorsqu’un ContentSafetyEvaluator communique avec le service d’évaluation Azure AI Foundry pour effectuer des évaluations. |
| ContentSafetyServiceConfigurationExtensions |
Méthodes d’extension pour ContentSafetyServiceConfiguration. |
| GroundednessProEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer la base des réponses produites par un modèle IA. |
| GroundednessProEvaluatorContext |
Informations contextuelles que l’utilisation GroundednessProEvaluator utilise pour évaluer l’étendue d’une réponse. |
| HateAndUnfairnessEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu haineux ou injuste. |
| IndirectAttackEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence d’attaques indirectes telles que le contenu manipulé, l’intrusion et la collecte d’informations. |
| ProtectedMaterialEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de matériel protégé. |
| SelfHarmEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu qui indique l’auto-préjudice. |
| SexualEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu sexuel. |
| UngroundedAttributesEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu qui indique l’inférence sans premier plan des attributs humains. |
| UngroundedAttributesEvaluatorContext |
Informations contextuelles que l’utilisation UngroundedAttributesEvaluator utilise pour déterminer si une réponse n’est pas au premier plan. |
| ViolenceEvaluator |
Un IEvaluator qui utilise le service d’évaluation Azure AI Foundry pour évaluer les réponses produites par un modèle IA pour la présence de contenu violent. |
