Was sind Tools?

Microsoft Foundry Models enthält Modelle, die Tools verwenden können, um Informationen zu finden oder Aufgaben auszuführen. Sie können die Toolunterstützung in Modellen verwenden, indem Sie angeben, welche Tools das Modell in Aufforderungen verwenden soll, die über die OpenAI-Antwort-API übermittelt werden.

Wenn Sie eine generative KI-Anwendung mit Microsoft Foundry entwickeln, können Sie in den Foundry-Modellen nach einem Modell suchen, das Funktionen zum Aufrufen von Tools unterstützt und dieses bereitstellen. Anschließend können Sie Clientanwendungen entwickeln, die die OpenAI-Antwort-API verwenden, um Aufforderungen an das bereitgestellte Modell zu senden und die Tools anzugeben, die das Modell verwenden kann.

Einige der häufig verwendeten Tools, die in der Antwort-API verfügbar sind, umfassen:

• code_interpreter: Eine Python-Umgebung, in der das Modell Code generieren und ausführen kann.
• web_search: Ein Tool, das es dem Modell ermöglicht, allgemeine Informationen im Internet zu finden, was es ermöglicht, Antworten auf aktuellere Daten zu basieren, als es trainiert wurde.
• file_search: Ein Tool, mit dem das Modell bestimmte Dateien durchsuchen kann, die Sie in einen dedizierten Vektorsuchindex hochladen . Dies ermöglicht es, Antworten in bestimmten Kenntnissen zu finden.
• funktion: Ein Tool, mit dem das Modell benutzerdefinierte Funktionen in Ihrem Anwendungscode aufrufen kann.

Wir untersuchen diese Tools in diesem Modul.

Angeben von Tools in der Antwort-API

Sie können ein oder mehrere Tools in einem Aufruf der responses.create() Methode angeben, wenn Sie eine Antwort aus einem Modell generieren. Das folgende Python-Pseudocodebeispiel gibt an, wo die Liste der aufrufbaren Tools angegeben ist:

from openai import OpenAI

client = OpenAI(
    base_url={openai_endpoint},
    api_key={auth_key_or_token}
)

response = client.responses.create(
    model={model_deployment},
    instructions="You are a helpful AI assistant.",
    input="Find me some information about vintage computers.",
    # Specify available tools as a JSON list
    tools=[
        { 
            # A tool definition
            "type": "{tool_type}",
            "{tool-specific-setting}": "{value}",
                ...
        },
        { 
            # Another tool definition
            "type": "{another_tool_type}",
            "{tool-specific-setting}": "{value}",
                ...
        }
    ]
)
print(response.output_text)