LLM prompten
Der AirOps-LLM-Schritt: Prompten Sie Modelle von OpenAI, Anthropic und Google (oder mit Ihren eigenen Schlüsseln) mit Prompt Engineering, strukturierten Ausgaben und MCP-Toolzugriff.
Große Sprachmodelle (LLMs) sind eine Kategorie von Machine-Learning-Modellen, die menschenähnlichen Text erzeugen. Sie werden mit umfangreichen Datenmengen trainiert und sind in der Lage, Antworten basierend auf gegebenen Eingaben zu verstehen und zu generieren sowie Konversationserlebnisse zu ermöglichen
In AirOps ermöglicht dir der LLM-Schritt, Modelle von OpenAI, Anthropic und Google (oder deine eigenen Modellschlüssel) anzusprechen – mit Kontrolle über Prompt-Engineering, Temperature, strukturierte Ausgaben und den Zugriff auf MCP-Tools.
Wir haben AirOps gegründet, um es einfacher zu machen, leistungsstarke Lösungen mit diesen Modellen zu entwickeln, da sie in Geschäftsprozessen eine immer größere Rolle spielen.
Einrichten eines LLM-Schritts
Beim Einrichten eines LLM-Schritts gibt es mehrere Parameter, die so konfiguriert werden können, dass sie optimal zu deinem Anwendungsfall passen. Hier geben wir einen kurzen Überblick über jeden Parameter.

Wähle ein KI-Modell aus
Die Auswahl eines Modells hängt vom Kontextfenster, der Komplexität der Aufgabe, den Kosten und der Geschwindigkeit ab. Im Allgemeinen liefern leistungsfähigere Modelle eine höhere Ausgabequalität bei höheren Kosten und geringerer Geschwindigkeit.
Für Hinweise zur Modellauswahl sieh dir unsere Dokumentationsseite zu Modellauswahl.

MCP-Connectors
MCP-Connectoren geben dem LLM Zugriff auf externe Tools, die auf Model Context Protocol Servern gehostet werden. Wenn Connectoren ausgewählt sind, kann das Modell diese Tools während der Ausführung aufrufen, um Daten abzurufen, Aktionen auszulösen oder mit Diensten von Drittanbietern zu interagieren.
Unterstützte Modelle
MCP-Connectoren sind mit den folgenden Modellen verfügbar:
OpenAI
gpt-4o, gpt-4o-mini, gpt-4.1, gpt-4.1-mini, gpt-5, gpt-5.1, gpt-5.2, gpt-5-mini, gpt-5-nano, o3, o3-pro, o4-mini und neuer
Anthropic
Claude Sonnet 4, Claude Opus 4, Claude Haiku 4.5 und neuer
Connectoren auswählen
Wenn ein unterstütztes Modell ausgewählt ist, erscheint ein MCP-Connectors Dropdown in der Schrittkonfiguration. Wähle einen oder mehrere Connectoren aus, um ihre Tools dem Modell zur Verfügung zu stellen.

So funktioniert es zur Laufzeit
AirOps übergibt die ausgewählten Connectoren als verfügbare Tools an die LLM-API.
Das LLM entscheidet anhand des Prompts und des Gesprächskontexts, ob Tools aufgerufen werden sollen.
Wenn das LLM ein Tool aufruft, leitet AirOps die Anfrage an den entsprechenden externen MCP-Server weiter.
Der MCP-Server verarbeitet die Anfrage und gibt eine Antwort zurück.
Die Antwort fließt zurück zum LLM, das sie in die endgültige Antwort einbaut.
Das LLM kann bei einem einzelnen Schritt mehrere Tools aufrufen und es kann sich auch dafür entscheiden, keine Tools aufzurufen, wenn sie für den Prompt nicht relevant sind.
MCP-Tool-Aufrufe in Traces anzeigen
Wenn ein LLM-Schritt MCP-Connectoren verwendet, protokolliert der Schritt-Trace jeden Tool-Aufruf mit seinen Eingaben und Ausgaben. So lässt sich leicht debuggen und nachvollziehen, wie das Modell mit externen Tools interagiert hat.

Temperature
Temperature bestimmt das Maß an Variabilität in der Antwort der KI:
Für mehr Variabilität und kreativere Antworten wähle eine höhere Temperature.
Für weniger Variabilität und deterministischere Antworten wähle eine niedrigere Temperature.
Max. Länge (optional)
Begrenzt die maximale Anzahl der Ausgabe-Tokens. Wenn leer gelassen, werden keine Grenzen erzwungen.

Streaming
Streaming ermöglicht es dir, die Ausgabe tokenweise zu sehen, ähnlich wie bei ChatGPT. Der Text wird im Test-Panel des Workflow Studios oder beim Ausführen deines Workflows in AirOps gestreamt.
Gründe für Streaming:
Prompts schnell testen: Wenn du Prompts schnell testen möchtest, kannst du beobachten, wie deine Ausgabe in Echtzeit erzeugt wird, und deinen Prompt schneller validieren, anstatt zu warten, bis die gesamte Antwort fertig ist.
Eine API mit Streaming bereitstellen: Wenn das Streamen von Text in Echtzeit für deinen Endnutzer eine bessere Benutzererfahrung ist, solltest du Streaming als Option in Betracht ziehen. Wenn du hingegen große Textmengen erzeugst, ist Streaming für deinen Endnutzer vielleicht nicht die ideale Option.
AirOps Frontend-SDK: Unser SDK ermöglicht es dir, Workflow-Ausgaben direkt in deine Benutzererfahrung zu streamen
Ausgabeformat
Für OpenAI-Modelle kannst du zwischen „Text“ (Standard) und „JSON“ wählen.
Wenn du JSON auswählst, gibt der LLM-Schritt seine Ausgabe immer in einem gültigen JSON-Format zurück. Du solltest in deinem Prompt angeben, welchem JSON-Ausgabeformat das LLM folgen soll. Wenn du zum Beispiel möchtest, dass das JSON Schlüssel wie „title“ und „content“ enthält, solltest du das im Prompt angeben.
Strukturierte Ausgaben
Für OpenAI-Modelle kannst du bei der Angabe eines JSON-Ausgabeformats auch die Option „Spaltenausgaben definieren“ verwenden, um das Format festzulegen, dem das JSON folgen wird. Das ist eine formellere Spezifikation, als nur in deinem Prompt zu beschreiben, wie das Ausgabeformat aussehen soll. Sie ist aber auch eingeschränkter. Derzeit kannst du strukturierte Ausgaben nur für ein flaches JSON mit Schlüsseln auf oberster Ebene und ohne Arrays verwenden.
Konsistente Ergebnisse
Wenn du „Konsistente Ergebnisse anfordern“ aktivierst, wird das Modell aufgefordert, sich nach bestem Bemühen um konsistente Ausgabenergebnisse bei wiederholter Eingabe desselben Inputs zu bemühen.
Das kann für Testzwecke nützlich sein, da die Konsistenz der Ergebnisse oft eine Voraussetzung ist, während du den gesamten Workflow testest.
Die Funktion „Konsistente Ergebnisse anfordern“ ist nur für OpenAI-Modelle verfügbar.
Fordere dein Modell auf
Sobald du dein Modell ausgewählt und die gewünschten Parameter festgelegt hast, besteht der nächste große Schritt darin, es mit einem Prompt zu versehen. Prompts sollten so gründlich und beschreibend wie möglich sein, und wir empfehlen, unsere Doku-Seiten dazu zu lesen, wie man am besten "Mit GPT prompten" und "Mit Claude prompten."
Wir empfehlen dir außerdem, dir unsere Sammlung bestehender Vorlagen anzusehen. Fast alle enthalten einen LLM-Schritt und können dir Inspiration sowie Leitlinien dafür geben, wie dein Prompt aussehen könnte, z. B.
Benutzer-Prompt
Das Feld „Benutzer-Prompt“ gibt dem Modell Beispiel-Eingaben oder einen Gesprächsverlauf, um die gewünschte Ausgabe zu erhalten, z. B.
Assistenten-Prompt
Der Assistenten-Prompt hilft dem Modell, das gewünschte Ausgabeformat „zu lernen“. Dies ist besonders hilfreich, um Arrays, JSON oder HTML ohne zusätzlichen „Chat“-Text zu erzeugen („Klar! Das ist ein Array..."), z. B.
Wie du fortfährst, wenn der LLM-Schritt fehlschlägt
Standardmäßig beendet der LLM-Schritt den Workflow, wenn er fehlschlägt. Um den Workflow jedoch fortzusetzen, wenn der Schritt fehlschlägt, klicke einfach auf die Einstellungen und klicke Weiter am unteren Rand der Einstellungen:

Der Schritt gibt die folgenden Schlüssel zurück:
Ausgabe: dies wirdnullFehler:Meldung: die vom Schritt zurückgegebene MeldungCode: der den Fehler repräsentierende Fehlercode

Wie du es erneut versuchst, wenn der LLM-Schritt fehlschlägt
Um den LLM-Schritt erneut zu versuchen, wenn er fehlschlägt,
Wählen Sie
WeiteranstattWorkflow beendenwenn der Schritt fehlschlägtFügen Sie eine Bedingung hinzu, die prüft, ob der
Fehleraus dem Schritt vorhanden ist, z. B.step_1.errorFügen Sie den Schritt hinzu, den Sie im Fehlerfall erneut ausführen möchten

Prompt mit KI generieren
Beim Konfigurieren deines LLM-Schritts kannst du unser Tool „Mit KI generieren“ verwenden, um dich beim Ausfüllen des Prompts zu unterstützen:

Wir geben unten eine kurze Übersicht über jede der anpassbaren Optionen, die mit dieser Funktion einhergehen, und zeigen dir anschließend eine Beispiel-Durchführung.
Aufgabentyp
Du musst zuerst deinen Aufgabentyp festlegen. Die Liste der derzeit unterstützten Typen umfasst:
Content-Erstellung -- eine gute Wahl, wenn du Inhalte erzeugen möchtest, z. B. einen Blogbeitrag, ein Bild, eine Marketing-E-Mail usw.
Frage + Antwort -- wähle diese Option, wenn deine Eingabe eine Frage sein soll und deine Ausgabe die Antwort
Entitätsextraktion -- wähle diese Option, wenn du bestimmte Werte aus einem Text oder Bild extrahieren möchtest
Textextraktion -- ähnlich wie bei der Entitätsextraktion kann dies nützlich sein, um bestimmte Textwerte herauszuziehen
Klassifizierung -- wähle diese Option, wenn deine Ausgabe verschiedene Werte deiner Eingabe in ähnliche Kategorien einordnen soll
Ausgabetyp
Sobald du deinen Aufgabentyp definiert hast, ist die nächste Entscheidung, wie der LLM-Schritt die Ergebnisse ausgeben soll. Die Liste der derzeit unterstützten Ausgabetypen umfasst:
Klartext
Markdown
HTML
JSON
YAML
Durch die Auswahl eines Werts hier sparst du dir den zusätzlichen Aufwand, den Ausgabetyp in deinem Prompt anzugeben (oder einen nachfolgenden Text-Schritt zu benötigen, um die Ausgabe neu zu formatieren)
Prompt
Der Abschnitt Prompt ist ähnlich wie das, was wir zuvor in „Fordere dein Modell auf.“ Der entscheidende Unterschied hier ist jedoch, dass wir uns auf unsere KI verlassen können, um die Beschreibung weiter auszuarbeiten. Wenn du dir also unsicher warst, wie du deinen Prompt genau formulieren sollst, wird OpenAI versuchen, ihn zu erweitern.
Erweiterte Einstellungen
Ausgabebeispiel (optional) -- wenn die KI Schwierigkeiten hat, die Ergebnisse im angegebenen Format auszugeben, kannst du hier manuell ein Beispiel eingeben, an dem sie sich orientieren kann. Das ist ähnlich wie bei den Benutzer-/Assistenten-Prompts oben.
Ausgewählte Variablen -- füllt sich mit allen Eingabevariablen, die in den Schritt hineinreichen
Beispiel
Als Beispiel gehen wir den Einsatz der Funktion „Mit KI generieren“ durch, um einen einfachen Workflow zu erstellen. Wir imitieren die Restaurantbewertung, die wir in unserem Workflow-Schnellstart.
Unexpected error with integration arcade: Integration is not installed on this space
Zuletzt aktualisiert
War das hilfreich?