Exécuter dans le cloud l’agent IA de Red Teaming (préversion) (classique)

Affichage actuel :Version du portail - Passer à la version du nouveau portail Foundry

Bien que l'agent d'IA de Red Teaming (préversion) puisse être exécuté localement pendant le prototypage et le développement pour aider à identifier les risques de sécurité, leur exécution dans le cloud permet d'exécuter le Red Teaming des agents d'IA en prédéploiement sur une combinaison augmentée de stratégies d'attaque et de catégories de risques pour une analyse plus complète.

Conditions préalables

Si vous le souhaitez, vous pouvez utiliser votre propre compte de stockage pour exécuter des évaluations.

Commencer

Tout d'abord, installez le client de projet du Kit de développement logiciel (SDK) Microsoft Foundry, qui exécute l'agent de red teaming IA sur le cloud.

pip install azure-ai-projects==1.1.0b3 azure-identity

Ensuite, définissez vos variables d’environnement pour vos ressources Microsoft Foundry

import os

endpoint = os.environ["PROJECT_ENDPOINT"] # Sample : https://<account_name>.services.ai.azure.com/api/projects/<project_name>

Cibles prises en charge

L’exécution de l'agent d'équipe rouge IA dans le cloud prend actuellement uniquement en charge les déploiements de modèles OpenAI sur Azure comme cible dans votre projet Foundry.

Configurer votre modèle cible

Vous pouvez configurer votre déploiement de modèle cible de deux façons :

Option 1 : Déploiements de projets Foundry

Si vous utilisez des déploiements de modèles qui font partie de votre projet Foundry, configurez les variables d’environnement suivantes :

import os

model_endpoint = os.environ["MODEL_ENDPOINT"] # Sample : https://<account_name>.openai.azure.com
model_api_key = os.environ["MODEL_API_KEY"]
model_deployment_name = os.environ["MODEL_DEPLOYMENT_NAME"] # Sample : gpt-4o-mini

Option 2 : déploiements des outils Azure OpenAI/Foundry

Si vous souhaitez utiliser des déploiements à partir de vos comptes OpenAI ou Foundry Tools Azure, vous devez d’abord connecter ces ressources à votre projet Foundry via des connexions.

1. Créer une connexion : suivez les instructions de Configurer les connexions de projet pour connecter votre ressource Azure OpenAI ou AI Services à votre projet Foundry.

2. Obtenez le nom de la connexion : après avoir connecté le compte, vous verrez la connexion créée avec un nom généré dans votre projet Foundry.

3. Configurez la cible : utilisez le format "connectionName/deploymentName" de votre configuration de déploiement de modèle :

# Format: "connectionName/deploymentName"
model_deployment_name = "my-openai-connection/gpt-4o-mini"

Créer une session de red teaming d’IA

from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
from azure.ai.projects.models import (
    RedTeam,
    AzureOpenAIModelConfiguration,
    AttackStrategy,
    RiskCategory,
)

with AIProjectClient(
  endpoint=endpoint,
  credential=DefaultAzureCredential(exclude_interactive_browser_credential=False),
) as project_client:

  # Create target configuration for testing an Azure OpenAI model
  target_config = AzureOpenAIModelConfiguration(model_deployment_name=model_deployment_name)

  # Instantiate the AI Red Teaming Agent
  red_team_agent = RedTeam(
      attack_strategies=[AttackStrategy.BASE64],
      risk_categories=[RiskCategory.VIOLENCE],
      display_name="red-team-cloud-run", 
      target=target_config,
  )

  # Create and run the red teaming scan
  # If you configured target using Option 1, use:
  # headers = {"model-endpoint": model_endpoint, "api-key": model_api_key}
  # If you configured target using Option 2, use:
  # headers = {}

  # Choose one of the following based on your configuration option:
  headers = {"model-endpoint": model_endpoint, "api-key": model_api_key}  # For Option 1
  # headers = {}  # For Option 2

  red_team_response = project_client.red_teams.create(red_team=red_team_agent, headers=headers)

curl --request POST \  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs:run \  --header 'content-type: application/json' \  --header 'authorization: Bearer {{ai_token}}'  --data '{  "displayName": "Red Team Scan #1",  "riskCategories": [ "Violence" ],  "attackStrategy": [ "Flip" ],  "numTurns": 1,  "target": {    "type": "AzureOpenAIModel",    "modelDeploymentName": "{{connectionName}}/{{deploymentName}}"  }}'

Obtenir un exercice de red teaming d’IA

# Use the name returned by the create operation for the get call
get_red_team_response = project_client.red_teams.get(name=red_team_response.name)
print(f"Red Team scan status: {get_red_team_response.status}")

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs/{{scan_id}}

Lister toutes les exécutions de l'équipe rouge IA

for scan in project_client.red_teams.list():
  print(f"Found scan: {scan.name}, Status: {scan.status}")

curl --request GET \  --header 'authorization: Bearer {{ai_token}}'  --url https://{{account}}.services.ai.azure.com/api/projects/{{project}}/redteams/runs

Affichage des résultats d'équipe rouge d'IA dans le projet Microsoft Foundry (aperçu)

Une fois votre analyse automatisée terminée, les résultats sont également enregistrés dans votre projet Foundry, que vous avez spécifié lors de la création de votre agent d’association rouge IA.

Afficher le rapport de chaque analyse

Dans votre projet Foundry ou votre projet hub, accédez à la page Évaluation . Sélectionnez l'équipe rouge IA pour consulter le rapport avec des résultats détaillés de chaque analyse.

Lorsque vous sélectionnez l’analyse, vous pouvez afficher le rapport par catégories de risques, qui indique le nombre global d’attaques réussies et une répartition des attaques réussies par catégories de risques :

Ou par classification de complexité des attaques :

L’exploration plus loin dans l’onglet données fournit une vue au niveau des lignes de chaque paire attaque-réponse. Ces informations offrent des insights plus approfondis sur les problèmes et les comportements système. Pour chaque paire attaque-réponse, vous pouvez voir plus d’informations, telles que si l’attaque a réussi ou non réussi, quelle stratégie d’attaque a été utilisée et sa complexité d’attaque. Un réviseur de type 'humain dans la boucle' peut fournir des commentaires humains en sélectionnant l'icône pouce levé ou pouce baissé.

Pour afficher chaque conversation, sélectionnez Afficher plus pour afficher la conversation complète pour obtenir une analyse plus détaillée de la réponse du système IA.

Contenu connexe

• Exemple de flux de travail pour le red teaming agent dans le cloud
• Documentation de référence sur l’API REST