4D AIKit: Strukturierte Ausgaben

Wenn Sie KI in Ihrer Anwendung einsetzen, benötigen Sie oft Ausgaben, die Ihr Code analysieren kann, und nicht nur Freiformtext. Ganz gleich, ob Sie Daten für eine Benutzeroberfläche generieren, Geschäftslogik automatisieren oder eine mehrstufige Entscheidungsfindung orchestrieren, vorhersehbare, maschinenlesbare Antworten sind unerlässlich.

Aus diesem Grund führt 4D 21 mit 4D AIKit das neue response_format Attribut ein, mit dem Sie die genaue Struktur der Modellausgabe definieren können, um Konsistenz, Validierung und reibungslose Integration in Ihre Anwendungslogik zu gewährleisten.

WARUM STRUKTURIERTE AUSGABEN WICHTIG SIND

Strukturierte Ausgaben sind immer dann nützlich, wenn Sie die Ergebnisse eines KI-Modells analysieren oder interpretieren müssen.

Zum Beispiel:

• Datengenerierung: Erstellen Sie automatisch strukturierte Inhalte wie Produktdatensätze, CRM-Einträge oder Konfigurationsdaten, die Ihre Anwendung sofort nutzen kann.
• Reasoning & Planung: Sie können das Modell auffordern, nächste Schritte oder Workflow-Optionen vorzuschlagen, die Ihre App anzeigen oder automatisch ausführen kann.
• Agenten mit mehreren Schritten (ReAct-Muster): Kombinieren Sie Denken und Handeln, wobei die KI bestimmten Formaten folgt, um ihre nächste Aktion zu steuern.
• Steuerung der Gedankenkette (nur sichtbarer Teil): Erfassen Sie die Denkschritte, die Sie den Benutzern zur Transparenz oder zur Fehlersuche zugänglich machen wollen.
• Debugging / Überwachung der KI-Schlussfolgerungen: Erzwingen Sie eine Struktur, damit die interne Logik der KI protokolliert und analysiert werden kann.

Hier ein einfaches Beispiel dafür, wie ein KI-Modell strukturierte Argumentationsdaten zurückliefern kann, die Sie sofort in 4D analysieren können:

{
"thought": "The customer seems satisfied overall but mentioned slow delivery.",
"next_step": "offer_discount"
}

Anwendungsfall: Die KI fasst die Überlegungen zusammen und schlägt eine nächste Aktion vor, die Ihr Code automatisch anwenden kann.

Strukturierte Ausgabedaten mit response_format

Bei der Interaktion mit einem KI-Modell benötigen Entwickler oft Ergebnisse in einem bestimmten Format, sei es einfacher Text, JSON-Objekte oder Daten, die anhand eines Schemas validiert wurden. Mit dem neuen response_format Attribut können Sie nun das Modell anweisen, seine Antwort in genau der von Ihnen gewünschten Struktur zurückzugeben.

Hier ist ein weiterer Fall, in dem die strukturierte Ausgabe konsistente, validierte Daten gewährleistet: eine Finanzübersicht, die als striktes JSON zurückgegeben wird:

var $client:=cs.AIKit.OpenAI.new($openAIKey)
var $chatHelper:=$ai.chat.create("You are a financial data analyst.")

// Define the expected response format for the AI
var $response_format:={type: "json_schema"; json_schema: {}}
$response_format.json_schema.name:="sales_summary"
$response_format.json_schema.schema:={type: "object"; properties: {}}
$response_format.json_schema.schema.properties.total_revenue:={type: "number"}
$response_format.json_schema.schema.properties.gross_margin:={type: "number"}
$response_format.json_schema.schema.properties.top_products:={Type: "array"; items: {Type: "String"}}
$response_format.json_schema.schema.required:=["total_revenue"; "gross_margin"; "top_products"]
$response_format.json_schema.schema.additionalProperties:=False

// Attach the JSON Schema format to the chat helper
$chatHelper.parameters.response_format:=$jsonFormat

// Compose the message to send to the AI:
var $message:="Here are the sales figures for Q3:\n"
$message+="- Product A: $120,000 in sales, 40% margin\n"
$message+="- Product B: $85,000 in sales, 35% margin\n"
$message+="- Product C: $60,000 in sales, 50% margin\n"
$message+="Please calculate the total revenue, the overall gross margin, "
$message+="and list the top 2 products by revenue."

var $result:=$chatHelper.prompt($message)
//$result.choice.message.text:="{
//    "total_revenue": 265000,
//    "gross_margin": 0,406603773,
//    "top_products": ["Product A","Product B"]
//    ]
//}"

Die KI antwortet mit einem validierten JSON-Objekt, das in Ihrer Datenbank oder Benutzeroberfläche verwendet werden kann, ohne dass eine Nachbearbeitung erforderlich ist.

MODELLUNTERSTÜTZUNGSLANDSCHAFT

Die Unterstützung für strukturierte Ausgaben variiert je nach dem von Ihnen verwendeten Modell:

• OpenAI GPT-4o und GPT-4-Turbo unterstützen von Haus aus response_format.

• Lokale oder andere Cloud-Modelle (z. B. Claude-, Gemini- oder Ollama-Modelle) können strukturierte Ausgaben auf unterschiedliche Weise unterstützen, manchmal durch strikte Funktionsaufrufe, manchmal durch textbasierte Schemaerzwingung.

Und nicht vergessen: response_format Das Modell ist nicht auf JSON beschränkt. Je nach Modell können auch andere Formate wie einfacher Text, XML oder domänenspezifische Syntaxen unterstützt werden.

Fazit

Mit dem response_format in 4D AIKit können Sie sicherstellen, dass Ihre KI-Ausgaben genau so sind, wie Sie sie brauchen: konsistent, zuverlässig und bereit, direkt in Ihre Benutzeroberfläche, Datenbank oder ein anderes System eingebunden zu werden. Diese Funktion hilft Entwicklern, KI-Vorgänge mühelos zu analysieren und Intelligenz tief in ihre 4D Anwendungen zu integrieren. Sie verwandelt KI von einem einfachen Chat-Partner in eine leistungsstarke, strukturierte Denkmaschine, die intelligentere, dynamischere Funktionen ermöglicht, als sich die Benutzer je vorstellen konnten.