OpenAI hat gestern Abend die GPT4.1-Serie neu aufgelegt, hier die Details:https://openai.com/index/gpt-4-1/
Sie müssen sich nur auf diese Punkte konzentrieren:
- GPT4.1 ersetzt 4o, das billig und einfach zu benutzen ist (innerhalb des OpenAI-Systems)
- 1M super langen Kontext und große Leistung, 4.1 nano und mini sind super billig und gut für lange Textaufgaben mit hohem Volumen
- GPT 4.1 hat Code-Fähigkeiten, die über die von GPT 4.5 hinausgehen, aber nicht so gut wie Inferenzmodelle wie o1


🎓 Populäre Interpretationsversion des GPT-4 Tip Guide
🧱 I. Grundlegende Prinzipien für das Schreiben guter Prompts (Top 5 Tipps)
Dies sind die goldenen Regeln für die Kommunikation mit KI, und jede davon ist wichtig:
1. Sagen Sie mir genau, was Sie tun.(Seien Sie konkret)
- Verallgemeinern Sie nicht: "Bitte helfen Sie mir, einen Aufsatz zu schreiben".
- Genauer gesagt: "Schreiben Sie einen Aufsatz mit 500 Wörtern darüber, wie künstliche Intelligenz die Bildung verändert, und zwar in einer Sprache, die ein Oberstufenschüler verstehen kann."
Je spezifischer Sie sind, desto mehr weiß die KI, was Sie wollen, und desto besser sind die Ergebnisse.
2. Sagen Sie ihm, was es tun soll und wie es aussehen soll(Struktur vorgeben)
- Angenommen, Sie möchten eine Tabelle, eine Liste oder einen Text mit festem Format erstellen.
- Sie können damit beginnen, eine Vorlage zu erstellen oder ein Beispiel zu geben.
🧩 Beispiel:
Schreibe fünf Früchte in folgendem Format auf:Name | Farbe | Geschmack
Apfel | Rot | Süß & sauer3. Seien Sie nicht zweideutig.(Vermeiden Sie Mehrdeutigkeit)
- Wenn Sie sagen "listen Sie einige Projekte auf", dann könnte "Projekte" "Programmprojekte" oder "Softwareprojekte" bedeuten. ", wird das Modell verwirrt sein.
- Seien Sie also genau, was Sie sagen.
Lies: "Nenne fünf quelloffene Python-Projekte".
4. Lassen Sie das GPT eine Rolle spielen(Verhalten/Rolle festlegen)
- Sie können ihm sagen: "Du bist jetzt Englischlehrer", "Du bist Rechtsberater", "Du bist Arzt".
- Sie wird Ihnen in dieser Eigenschaft antworten.
BEISPIEL: Sie sind ein professioneller Ernährungsberater, bitte erstellen Sie für mich einen gesunden Ernährungsplan für eine Woche.
5. Teilen Sie die Aufgabe auf.(Aufgaben zergliedern)
- Manche Themen sind zu komplex, als dass GPT sie auf einmal behandeln könnte.
- Sie können das Problem analysieren lassen, bevor Sie es lösen.
🪜 Ein Beispiel:
Schritt 1: Bitte beginnen Sie mit einer Auflistung der Punkte, die für die Erstellung eines Geschäftsplans erforderlich sind. Schritt 2: Bitte helfen Sie mir, einen Plan auf der Grundlage dieser Punkte zu schreiben.
💡 II. Praktische Tipps (stärkere und fortgeschrittenere Anwendungen)
Dies sind weitere großartige Anwendungen von GPT, die Ihnen helfen, genauer und intelligenter zu schreiben.
✨ Technik 1: Wenige Aufforderungen (Lehren durch Beispiel)
Sie können dem Programm zunächst einige Beispiele geben und es wird wissen, welche Art von Ausgabe Sie wünschen.
📌 Beispiel:
Input: Ich bin heute glücklich. Output: Stimmung: positiv, Grund: glückliche Dinge sind passiert.
Input: Ich fühle mich so gestresst. OUTPUT: Stimmung: Negativ, Grund: Ich fühle mich durch Stress gestört.Dann geben Sie einen neuen Satz ein, der diesem Stil folgt.
🧠 Tipp #2: Gedankenkette
Die Anleitung zum "Schritt-für-Schritt-Denken" ist besonders effektiv bei der Lösung komplexer Probleme!
📌 Aufforderung zum Schreiben: Überlege dir Schritt für Schritt die Antwort auf diese Mathefrage.✍️ Tipp 3: Erst die Antwort schreiben, dann überprüfen und überarbeiten (Critique & Revise)
Sie können das GPT eine Antwort schreiben lassen und sie dann selbst kritisieren und überarbeiten lassen.
📌 Ein Beispiel: Schritt 1: Bitte schreiben Sie eine Kurzgeschichte. Schritt 2: Bitte kommentieren Sie diesen Roman und überarbeiten Sie ihn zu einer spannenderen Version.Dies führt zu einer höheren Qualität des Ergebnisses!
🔄 Tipp 4: Den "Denkprozess" modellieren (Interner Monolog)
Sie können das GPT denken und sprechen lassen, als würde es das Problem analysieren.
BEISPIEL: Sie werden gebeten, den Denkprozess eines Anwalts zu simulieren, indem Sie den Fall Schritt für Schritt analysieren und Schlussfolgerungen ziehen.Dies eignet sich für analytische, entscheidungsbezogene Fragen.
🛠 III. Praktische Anwendungstipps (Details machen den Unterschied)
- Das Hinzufügen des Satzes "Wir denken Schritt für Schritt" kann die Genauigkeit drastisch verbessern.
- Möchten Sie JSON, Tabellen, Code? Geben Sie unbedingt das Format an und nennen Sie ein Beispiel.
- Möchten Sie mehrere Schritte ausgeben? Fügen Sie eine Nummer hinzu, z. B. "Schritt 1... Schritt 2...".
- Wenn die Musterantwort nicht zufriedenstellend ist, wird dieProbieren Sie einige weitere Möglichkeiten aus, die Aufforderungen umzuschreiben.
✅ Kurz und bündig.
✨ "Gut geschriebene Prompts und explosive GPT-Leistung!" ✨
In diesem Leitfaden geht es darum, Ihnen beizubringen, in welchem Ton, in welchem Format, mit welcher Struktur und mit welchem Wortschatz Sie mit Ihrem GPT sprechen sollten, damit es Ihnen die besten Antworten geben kann.
Hier finden Sie den vollständigen technischen Leitfaden für Ihre GPT-4.1-Tipps
Original auf Englisch:GPT 4.1 Anleitung zur Eingabeaufforderung | OpenAI Kochbuch
Übersetzung: Die GPT-4.1-Modellfamilie bietet im Vergleich zu GPT-4o erhebliche Verbesserungen in Bezug auf Kodierung, Einhaltung von Anweisungen und Fähigkeiten zur Handhabung langer Kontexte. Dieser Leitfaden enthält wichtige Tipps aus umfangreichen internen Tests, die Entwicklern helfen sollen, die Verbesserungen dieser neuen Modellfamilie voll auszuschöpfen.
Viele der typischen Best Practices für Prompts gelten auch für GPT-4.1, z. B. die Bereitstellung kontextbezogener Beispiele, die Formulierung möglichst expliziter und klarer Anweisungen und die Führung des Modells durch die Planung mit Prompts, um die Modellintelligenz zu maximieren. Allerdings kann eine gewisse Umstellung der Hinweise erforderlich sein, um das volle Potenzial des Modells auszuschöpfen. Im Vergleich zu seinem Vorgängermodell wurde GPT-4.1 mit einem stärkeren Fokus auf die strikte Befolgung von Anweisungen und ein wörtlicheres Verständnis von Benutzer- und Systemhinweisen trainiert, anstatt frei auf Absichten zu schließen. Dies bedeutet auch, dass GPT-4.1 in hohem Maße steuerbar ist und auf explizit vorgegebene Hinweise reagiert - wenn das Verhalten des Modells nicht den Erwartungen entspricht, genügt in der Regel ein fester und expliziter Satz, um das Modell wieder auf den richtigen Weg zu bringen.
Bitte lesen Sie die folgenden Beispiele von Hinweisen als Referenz weiter und bedenken Sie, dass die Empfehlungen in diesem Leitfaden zwar breit anwendbar sind, aber keine von ihnen universell sind. Die Technik der künstlichen Intelligenz ist von Natur aus eine empirische Disziplin, und große Sprachmodelle sind von Natur aus nicht deterministisch. Zusätzlich zur Befolgung dieses Leitfadens empfehlen wir, aussagekräftige Auswertungen zu erstellen und häufig zu iterieren, um sicherzustellen, dass Änderungen am Cue Engineering zu greifbaren Vorteilen für Ihren Anwendungsfall führen.
1. der Proxy-Workflow
GPT-4.1 ist eine ausgezeichnete Wahl für den Aufbau von Agenten-Workflows. Bei der Modellschulung legen wir den Schwerpunkt auf die Bereitstellung verschiedener Problemlösungspfade für Agenten, und unser Agenten-Framework erreicht bei der SWE-Bench Verified für Nicht-Inferenzmodelle eine führende Leistung bei der Lösung des 55%-Problems.
System-Tipp-Erinnerung
Um die Agentenfähigkeiten von GPT-4.1 voll auszunutzen, empfehlen wir, die folgenden drei wichtigen Hinweise in alle Agentenaufforderungen aufzunehmen. Diese Aufforderungen sind für Agenten-Codierungs-Workflows optimiert, können aber leicht an allgemeine Agenten-Anwendungsfälle angepasst werden.
HaltbarkeitSicherstellen, dass das Modell weiß, dass es sich inmitten einer Runde mit mehreren Nachrichten befindet, um zu verhindern, dass die Kontrolle vorzeitig an den Benutzer zurückgegeben wird.
Beispiel: Sie sind ein Agent - bitte machen Sie so lange weiter, bis die Frage des Nutzers vollständig gelöst ist, bevor Sie Ihren Zug beenden und sich wieder dem Nutzer zuwenden. Beenden Sie Ihren Zug erst, wenn Sie sicher sind, dass das Problem gelöst ist.Werkzeug AufrufErmutigen Sie die Modelle, ihre Hilfsmittel voll auszuschöpfen, und verringern Sie die Wahrscheinlichkeit, dass sie halluzinieren oder Antworten erraten.
Beispiel:Wenn Sie sich nicht sicher sind, ob der Inhalt der Datei oder die Struktur der Codebasis mit der Anfrage des Benutzers übereinstimmt, verwenden Sie Ihre Werkzeuge, um die Dateien zu lesen und die relevanten Informationen zu sammeln. Wenn Sie sich nicht sicher sind, ob der Inhalt der Datei oder die Struktur der Codebasis mit der Anfrage des Benutzers übereinstimmt, verwenden Sie Ihre Werkzeuge, um die Dateien zu lesen und die relevanten Informationen zu sammeln: Raten Sie nicht und denken Sie sich keine Antwort aus.Planung (fakultativ)Falls erforderlich, zwingen Sie das Modell dazu, vor jedem Werkzeugaufruf explizit zu planen und im Text zu reflektieren, anstatt die Aufgabe nur durch eine Reihe von Werkzeugaufrufen zu erledigen.
Beispiel: Sie MÜSSEN vor jedem Funktionsaufruf ausgiebig planen und die Ergebnisse der vorherigen Funktionsaufrufe ausgiebig reflektieren. Führen Sie diesen gesamten Prozess NICHT nur durch Funktionsaufrufe durch, da dies Ihre Fähigkeit, das Problem zu lösen und einsichtig zu denken, beeinträchtigen kann. Führen Sie den gesamten Prozess nicht nur durch Funktionsaufrufe durch, da dies Ihre Fähigkeit, das Problem zu lösen und aufschlussreich zu denken, beeinträchtigen kann.GPT-4.1 wurde in der Agentenumgebung darauf trainiert, Benutzeranweisungen und Systemaufforderungen genau zu befolgen. Die strikte Befolgung dieser drei einfachen Befehle durch das Modell verbesserte unsere interne SWE-Bench Verified-Punktzahl um fast 20% - wir empfehlen daher dringend, zu Beginn jeder Agentenaufforderung klare Hinweise zu allen drei Kategorien einzufügen. Insgesamt haben diese drei Befehle das Modell von einem Chatbot-ähnlichen Zustand in einen "proaktiven" Agenten verwandelt, der Interaktionen autonom und unabhängig steuert.
Werkzeug Aufruf
Im Vergleich zu den Vorgängermodellen wurde GPT-4.1 stärker auf die Verwendung von Werkzeugen geschult, die über OpenAI-API-Anfragen übergeben werden. Wir ermutigen Entwickler, Tools nur über das Tool-Feld zu übergeben, anstatt Tool-Beschreibungen manuell in Hints einzubauen und separate Parser für Tool-Aufrufe zu schreiben (wie es einige Entwickler in der Vergangenheit getan haben). Dies ist der beste Weg, um Fehler zu reduzieren und sicherzustellen, dass das Modell über den Werkzeugaufrufpfad verteilt bleibt - in unseren eigenen Experimenten verbesserte die Verwendung von API-geparsten Werkzeugbeschreibungen die SWE-Bench Verified Pass-Raten um 2% im Vergleich zum manuellen Einfügen von Mustern in System-Hints.
Die Entwickler sollten das Werkzeug so benennen, dass sein Zweck klar erkennbar ist, und eine klare, detaillierte Beschreibung in das Feld Beschreibung des Werkzeugs eingeben. Ebenso sollten Sie sich bei jedem Werkzeugparameter auf eine gute Benennung und Beschreibung verlassen, um die richtige Verwendung zu gewährleisten. Wenn Ihr Werkzeug besonders komplex ist und Sie ein Beispiel für die Verwendung des Werkzeugs geben möchten, empfehlen wir, eine Systemaufforderung für das Werkzeug zu erstellen. # Beispiele und platzieren Sie die Beispiele dort, anstatt sie in das Feld "Beschreibung" einzufügen, das ausführlich, aber relativ kurz gehalten werden sollte. Anhand von Beispielen können Sie angeben, wann das Werkzeug verwendet werden soll, ob der Aufruf des Werkzeugs Benutzertext enthalten soll und welche Parameter für die verschiedenen Eingaben geeignet sind. Denken Sie daran, dass Sie die Funktion "Generate Anything" im Prompt Playground verwenden können, um einen guten Ausgangspunkt für Ihre neue Werkzeugdefinition zu erhalten.
Stichwortgeleitete Planung und Gedankenkette
Wie bereits erwähnt, können die Entwickler, anstatt die Tools stillschweigend und kontinuierlich aufzurufen, Agenten, die auf GPT-4.1 aufbauen, auffordern, zwischen den Toolaufrufen zu planen und zu reflektieren.GPT-4.1 ist kein schlussfolgerndes Modell - was bedeutet, dass es vor der Antwort keine interne Gedankenkette erzeugt. GPT-4.1 ist kein schlussfolgerndes Modell - d.h. es erzeugt keine interne Gedankenkette vor der Beantwortung - aber in den Prompts kann der Entwickler das Modell veranlassen, einen expliziten, schrittweisen Plan zu erstellen, indem er eine beliebige Variante der oben beschriebenen Komponente Planning Prompts verwendet. Dies kann als "lautes Denken" des Modells angesehen werden. In unseren Experimenten mit der SWE-Bench Verified-Agent-Aufgabe erhöhte die explizite Planung die Erfolgsquote um 4%.
Beispieltipp: SWE-Bank Geprüft
Nachfolgend finden Sie die Agentenaufforderungen, die wir verwendet haben, um die höchste Punktzahl bei SWE-bench Verified zu erreichen, und die detaillierte Anweisungen zu Arbeitsabläufen und Problemlösungsstrategien enthalten. Dieses generische Modell kann für jede Agentenaufgabe verwendet werden.
SYS_PROMPT_SWEBENCH = """
Sie erhalten die Aufgabe, ein Problem aus einem Open-Source-Repository zu beheben.
Ihre Überlegungen sollten gründlich sein, daher ist es in Ordnung, wenn sie sehr lang sind. Sie können vor und nach jeder Aktion, die Sie beschließen, Schritt für Schritt überlegen.
Sie MÜSSEN iterieren und weitermachen, bis das Problem gelöst ist.
Sie haben bereits alles, was Sie brauchen, um dieses Problem zu lösen, im Ordner /testbed, auch ohne Internetverbindung. Ich möchte, dass Sie das Problem vollständig selbständig lösen, bevor Sie zu mir zurückkommen. Ich möchte, dass Sie das Problem selbstständig lösen, bevor Sie zu mir zurückkommen.
Sie haben bereits alles, was Sie zur Lösung dieses Problems brauchen, im Ordner /testbed, auch ohne Internetverbindung. Beende NIEMALS deinen Zug, ohne das Problem gelöst zu haben, und wenn du sagst, dass du einen Werkzeugaufruf machen wirst, achte darauf, dass du den Werkzeugaufruf TATSÄCHLICH machst, anstatt deinen Zug zu beenden. Beenden Sie NIEMALS Ihren Zug, ohne das Problem gelöst zu haben, und wenn Sie sagen, dass Sie einen Werkzeugaufruf machen werden, stellen Sie sicher, dass Sie den Werkzeugaufruf TATSÄCHLICH machen, anstatt Ihren Zug zu beenden.
die problématique kann definitiv ohne das Internet gelöst werden.
Nehmen Sie sich Zeit und durchdenken Sie jeden Schritt - denken Sie daran, Ihre Lösung genau zu überprüfen und achten Sie auf Grenzfälle, insbesondere bei den von Ihnen vorgenommenen Änderungen. Am Ende müssen Sie Ihren Code rigoros mit den zur Verfügung gestellten Werkzeugen testen, und zwar viele Male, um alle Grenzfälle zu erfassen. Am Ende müssen Sie Ihren Code rigoros mit den zur Verfügung gestellten Werkzeugen testen, und zwar viele Male, um alle Grenzfälle zu erfassen. Wenn er nicht robust ist, wiederholen Sie mehr und machen Sie ihn perfekt. Wenn Sie Ihren Code nicht ausreichend rigoros testen, ist das der Fehler Nr. 1 bei dieser Art von Aufgaben; stellen Sie sicher, dass Sie alle Randfälle abfangen, und führen Sie die vorhandenen Tests durch, wenn sie vorhanden sind.
Sie MÜSSEN vor jedem Funktionsaufruf ausgiebig planen und die Ergebnisse der vorangegangenen Funktionsaufrufe ausgiebig reflektieren. Machen Sie NICHT den gesamten Prozess, indem Sie nur Funktionsaufrufe machen, wie es hier der Fall ist. Sie MÜSSEN vor jedem Funktionsaufruf ausgiebig planen und die Ergebnisse der vorangegangenen Funktionsaufrufe ausgiebig reflektieren. Führen Sie diesen gesamten Prozess NICHT nur durch Funktionsaufrufe durch, da dies Ihre Fähigkeit, das Problem zu lösen und aufschlussreich zu denken, beeinträchtigen kann.
# Arbeitsablauf
## Problemlösungsstrategie auf höchster Ebene
1. tiefes Verständnis des Problems Sorgfältiges Lesen des Problems und kritisches Nachdenken über die Anforderungen 2. Untersuchung der Codebasis
2 Erforschen Sie die Codebasis. Untersuchen Sie relevante Dateien, suchen Sie nach Schlüsselfunktionen und sammeln Sie Kontext.
3. einen klaren Schritt-für-Schritt-Plan entwickeln. die Korrektur in überschaubare, inkrementelle Schritte aufteilen. 4.
4. implementieren Sie die Korrektur schrittweise. Nehmen Sie kleine, testbare Codeänderungen vor. 5. debuggen Sie nach Bedarf.
5. debuggen Sie nach Bedarf. Verwenden Sie Debugging-Techniken, um Probleme zu isolieren und zu beheben. 6. testen Sie häufig.
6 Testen Sie häufig. Führen Sie nach jeder Änderung Tests durch, um die Korrektheit zu überprüfen. 7.
7. wiederholen, bis die Grundursache behoben ist und alle Tests erfolgreich sind. 8.
8. reflektieren und validieren Sie umfassend. Nachdem die Tests bestanden sind, denken Sie über die ursprüngliche Absicht nach, schreiben Sie zusätzliche Tests, um die Korrektheit sicherzustellen, und erinnern Sie sich an Nachdem die Tests bestanden sind, denken Sie über die ursprüngliche Absicht nach, schreiben Sie zusätzliche Tests, um die Korrektheit sicherzustellen, und denken Sie daran, dass es versteckte Tests gibt, die ebenfalls bestanden werden müssen, bevor die Lösung wirklich vollständig ist.
## 1. das Problem gründlich verstehen
Lesen Sie sich das Problem sorgfältig durch und überlegen Sie sich einen Plan zur Lösung, bevor Sie kodieren.
## 2. Erkundung der Codebase
- Untersuchen Sie relevante Dateien und Verzeichnisse.
- Suchen Sie nach wichtigen Funktionen, Klassen oder Variablen, die mit dem Problem in Verbindung stehen.
- Lesen und verstehen Sie relevante Codeschnipsel.
- Identifizieren Sie die Grundursache des Problems.
- Überprüfen und aktualisieren Sie Ihr Verständnis kontinuierlich, wenn Sie mehr Kontext sammeln.
## 3. einen detaillierten Plan entwickeln
- Skizzieren Sie eine spezifische, einfache und überprüfbare Abfolge von Schritten zur Behebung des Problems.
- Teilen Sie die Lösung in kleine, schrittweise Änderungen auf.
## 4. Änderungen am Code vornehmen
- Lesen Sie vor der Bearbeitung immer den entsprechenden Dateiinhalt oder -abschnitt, um den vollständigen Kontext sicherzustellen.
- Wenn ein Patch nicht korrekt angewendet wird, versuchen Sie, ihn erneut anzuwenden.
- Nehmen Sie kleine, testbare, inkrementelle Änderungen vor, die sich logisch aus Ihrer Untersuchung und Ihrem Plan ergeben.
## 5. Fehlersuche
- Nehmen Sie Codeänderungen nur dann vor, wenn Sie sicher sind, dass sie das Problem lösen können.
- Versuchen Sie bei der Fehlersuche, die Grundursache zu ermitteln, anstatt nur die Symptome zu bekämpfen.
- Führen Sie das Debugging so lange durch, wie es nötig ist, um die Grundursache zu ermitteln und eine Lösung zu finden.
- Verwenden Sie Druckanweisungen, Protokolle oder temporären Code, um den Programmzustand zu untersuchen, einschließlich beschreibender Anweisungen oder Fehlermeldungen, um zu verstehen, was passiert. Was passiert.
- Um Hypothesen zu testen, können Sie auch Testanweisungen oder Funktionen hinzufügen.
- Überprüfen Sie Ihre Annahmen, wenn unerwartetes Verhalten auftritt.
## 6. Testen
- Führen Sie häufig Tests durch, indem Sie `!python3 run_tests.py` (oder ein gleichwertiges Programm) verwenden.
- Überprüfen Sie nach jeder Änderung die Korrektheit, indem Sie die entsprechenden Tests ausführen.
- Wenn Tests fehlschlagen, analysieren Sie die Fehler und überarbeiten Sie Ihren Patch.
- Schreiben Sie bei Bedarf zusätzliche Tests, um wichtige Verhaltensweisen oder Randfälle zu erfassen.
- Vergewissern Sie sich vor der Fertigstellung, dass alle Tests erfolgreich waren.
## 7. abschließende Überprüfung
- Bestätigen Sie, dass die Grundursache behoben ist.
- Überprüfen Sie Ihre Lösung auf logische Korrektheit und Robustheit.
- Iterieren Sie so lange, bis Sie sicher sind, dass die Lösung vollständig ist und alle Tests erfolgreich sind.
## 8. abschließende Reflexion und zusätzliche Tests
- Denken Sie sorgfältig über die ursprüngliche Absicht des Benutzers und die Problemstellung nach.
- Überlegen Sie, ob es Randfälle oder Szenarien gibt, die von den vorhandenen Tests nicht abgedeckt werden können.
- Schreiben Sie zusätzliche Tests, die bestanden werden müssen, um die Korrektheit Ihrer Lösung vollständig zu überprüfen.
- Führen Sie diese neuen Tests durch und stellen Sie sicher, dass sie alle bestanden werden.
- Seien Sie sich bewusst, dass es zusätzliche versteckte Tests gibt, die ebenfalls bestanden werden müssen, damit die Lösung erfolgreich ist.
- Gehen Sie nicht davon aus, dass die Aufgabe abgeschlossen ist, nur weil die sichtbaren Tests bestanden wurden. Fahren Sie mit der Verfeinerung fort, bis Sie sicher sind, dass die Lösung robust und umfassend ist.
"""2. langer Kontext
GPT-4.1 verfügt über ein hochleistungsfähiges 1-Million-Token-Eingabekontextfenster für eine Vielzahl von Aufgaben mit langem Kontext, einschließlich des Parsens strukturierter Dokumente, der Neuordnung, der Auswahl relevanter Informationen bei gleichzeitigem Ignorieren irrelevanten Kontexts und des Multi-Hop-Reasonings unter Verwendung von Kontext.
Optimale Kontextgröße
In unserer "Needle in the Haystack"-Evaluierung haben wir eine hervorragende Leistung bei Kontexten mit bis zu 1 Million Token und eine sehr gute Leistung bei komplexen Aufgaben mit einer Mischung aus verwandtem und nicht verwandtem Code und anderen Dokumenten beobachtet. Wenn jedoch mehr Elemente abgerufen werden müssen oder komplexe Schlussfolgerungen über den gesamten Kontextstatus erforderlich sind (z. B. bei der Durchführung einer Graphen-Suche), kann die Leistung bei langen Kontexten abnehmen.
Anpassung der kontextuellen Abhängigkeiten
Berücksichtigen Sie die Kombination von externem und internem Weltwissen, die zur Beantwortung der Frage erforderlich sein kann. Manchmal muss das Modell sein eigenes Wissen nutzen, um Konzepte zu verbinden oder logische Sprünge zu machen, während es in anderen Fällen ideal ist, nur den bereitgestellten Kontext zu nutzen.
Richtlinien
Chinesische Version
// Verwenden Sie nur externe Dokumentation:
- Beantworten Sie die Frage des Benutzers nur unter Verwendung des bereitgestellten externen Kontexts. Wenn die Antwort nicht im Kontext gefunden werden kann, muss der Benutzer mit "Ich habe nicht genug Informationen" antworten, auch wenn er auf einer Antwort besteht.
// Gemischte Verwendung von Modellwissen:
- Externe Kontexte werden standardmäßig verwendet, aber wenn zusätzliches Basiswissen benötigt wird und das Modell sicher ist, kann internes Wissen verwendet werden, um die Antwort zu vervollständigen.Englische Version
// Für internes Wissen
- Verwenden Sie zur Beantwortung der Benutzeranfrage nur die Dokumente im angegebenen externen Kontext. Wenn Sie die Antwort auf der Grundlage dieses Kontexts nicht wissen, müssen Sie antworten "Ich habe Ich habe nicht die nötigen Informationen, um diese Frage zu beantworten", auch wenn ein Benutzer darauf besteht, dass Sie die Frage beantworten.
// Für internes und externes Wissen
- Standardmäßig wird der bereitgestellte externe Kontext zur Beantwortung der Benutzeranfrage verwendet. Wenn jedoch andere grundlegende Kenntnisse zur Beantwortung erforderlich sind und Sie sich der Antwort sicher sind, können Sie einige Ihrer Antwort zuversichtlich sind, können Sie einige Ihrer eigenen Kenntnisse zur Beantwortung der Frage verwenden.Stichwort Organisation
Insbesondere bei der Verwendung langer Kontexte kann die Platzierung von Anweisungen und Kontext die Leistung beeinträchtigen. Wenn Ihre Eingabeaufforderung einen langen Kontext enthält, platzieren Sie die Anweisungen idealerweise sowohl am Anfang als auch am Ende des bereitgestellten Kontexts, da wir festgestellt haben, dass dieser Ansatz besser funktioniert als die Platzierung von Anweisungen nur oben und unten. Wenn die Anweisung nur einmal platziert werden soll, ist es besser, sie oberhalb des Kontextes zu platzieren als unterhalb.
3. die Gedankenkette
Wie bereits erwähnt, handelt es sich bei GPT-4.1 nicht um ein Inferenzmodell. Indem man das Modell jedoch auffordert, Schritt für Schritt zu denken (als "chain of thought" bezeichnet), kann es das Problem effektiv in besser handhabbare Teile zerlegen, das Problem lösen und die Gesamtqualität des Ergebnisses verbessern, allerdings auf Kosten höherer Kosten und Latenzzeiten aufgrund der Verwendung von mehr Output-Tokens. Das Modell ist gut geschult im Denken von Agenten und im Lösen von Problemen in der realen Welt, so dass es nicht viel Aufforderung braucht, um gute Leistungen zu erbringen.
Wir empfehlen, die folgenden grundlegenden Anweisungen für die Gedankenkette am Ende der Aufforderung als Ausgangspunkt zu verwenden:
Überlegen Sie zunächst Schritt für Schritt, welche Dokumente zur Beantwortung der Frage benötigt werden. Geben Sie dann den TITEL und die ID jedes Dokuments aus, und formatieren Sie schließlich alle IDs in einer Liste.
Überlegen Sie zunächst Schritt für Schritt, welche Dokumente zur Beantwortung der Frage benötigt werden. Geben Sie dann den TITEL und die ID jedes Dokuments aus. Anschließend formatieren Sie die IDs in einer Liste.Von hier aus sollten Sie Ihre Gedankenkettenaufforderungen verbessern, indem Sie Fehler in bestimmten Beispielen und Bewertungen überprüfen, systematische Planungs- und Denkfehler ansprechen und klarere Anweisungen verwenden. Bei Aufforderungen ohne Beschränkung der Gedankenkette kann es Variationen in den Strategien geben, die das Modell ausprobiert, und wenn Sie einen Ansatz beobachten, der gut funktioniert, können Sie diese Strategie in der Aufforderung verankern. Im Allgemeinen resultieren Fehler aus der Fehlinterpretation der Absicht des Benutzers, unzureichender Kontexterfassung oder -analyse oder unzureichendem oder inkorrektem Schritt-für-Schritt-Denken, also seien Sie sich dieser Probleme bewusst und versuchen Sie, sie mit klareren Anweisungen anzugehen.
Im Folgenden finden Sie ein Beispiel für eine Eingabeaufforderung, die das Modell dazu anleitet, die Absicht des Benutzers systematischer zu analysieren und den relevanten Kontext zu berücksichtigen, bevor es antwortet:
Chinesische Version
#-Reasoning-Strategie
1. die Analyse der Anfrage: Zerlegen und analysieren Sie das Problem des Benutzers, um die Anforderungen zu klären.
2. kontextuelle Analyse: Auswahl und Analyse einer Gruppe von potenziell relevanten Dokumenten.
- Analyse der Relevanz der Dokumente für das Problem
- Analyse der Relevanz des Dokuments für das Problem und Zuweisung einer Relevanzbewertung von [hoch, mittel, niedrig, keine].
3) Synthese: Fassen Sie zusammen, welche Dokumente am relevantesten sind, und erklären Sie, warum (behalten Sie Dokumente mit mittlerer oder höherer Relevanz bei).
# Benutzerfragen
{Benutzer_Frage}
# Externer Kontext
{externer_kontext}
Bitte halten Sie sich strikt an die obige Strategie, um Schritt für Schritt zu denken und den TITEL und die ID des Dokuments auszugeben, und geben Sie schließlich die ID als Liste zurück.Englische Version
#-Reasoning-Strategie
1 Analyse der Abfrage: Zerlegen und analysieren Sie die Abfrage, bis Sie sich sicher sind, worum es sich handeln könnte. Berücksichtigen Sie den angegebenen Kontext, um etwaige Berücksichtigen Sie den bereitgestellten Kontext, um zweideutige oder verwirrende Informationen zu klären.
2. kontextbezogene Analyse: Sorgfältige Auswahl und Analyse einer großen Menge potenziell relevanter Dokumente. Optimieren Sie den Rückruf - es ist in Ordnung, wenn einige irrelevant sind, aber die richtigen Dokumente müssen in diesem Kontext stehen. Optimieren Sie den Abruf - es ist in Ordnung, wenn einige irrelevant sind, aber die richtigen Dokumente müssen in dieser Liste enthalten sein, sonst wird Ihre endgültige Antwort falsch sein. Analyseschritte für jede.
a. Analyse: Eine Analyse, inwiefern das Dokument für die Beantwortung der Anfrage relevant sein könnte oder nicht. b. Relevanzbewertung: [Die Liste der relevanten Dokumente muss in dieser Liste enthalten sein.
b. Relevanzbewertung: [hoch, mittel, niedrig, keine]
3) Synthese: Zusammenfassung, welche Dokumente am relevantesten sind und warum, einschließlich aller Dokumente mit einer Relevanzbewertung von mittel oder höher.
# Benutzerfrage
{Benutzer_Frage}
# Externer Kontext
{externer_kontext}
Überlegen Sie zunächst sorgfältig Schritt für Schritt, welche Dokumente zur Beantwortung der Anfrage benötigt werden, und halten Sie sich dabei genau an die vorgegebene Reasoning Strategy. Drucken Sie dann den TITEL und die ID jedes Dokuments aus. Anschließend formatieren Sie die IDs in einer Liste.4. die Einhaltung der Richtlinie
GPT-4.1 zeigt eine hervorragende Leistung bei der Befolgung von Anweisungen, die Entwickler nutzen können, um die Ausgabe eines bestimmten Anwendungsfalls präzise zu gestalten und zu steuern. Die Entwickler werden oft ausführlich zu den Schritten der Agenteninferenz, zum Tonfall und Stil der Antworten, zu den Informationen über den Werkzeugaufruf, zu den Ausgabeformaten, zu den zu vermeidenden Themen usw. befragt. Da Modelle jedoch Anweisungen eher wörtlich befolgen, müssen Entwickler unter Umständen explizit angeben, was sie tun oder nicht tun sollen. Darüber hinaus sind bestehende Hinweise, die für andere Modelle optimiert wurden, möglicherweise nicht unmittelbar auf dieses Modell anwendbar, da bestehende Richtlinien genauer befolgt werden und implizite Regeln nicht mehr stark abgeleitet werden.
Empfohlene Arbeitsabläufe
Hier ist unser empfohlener Arbeitsablauf für die Entwicklung und das Debugging der Anweisungen in der Eingabeaufforderung:
- Geben Sie allgemeine Hinweise und Aufzählungspunkte, beginnend mit einer allgemeinen "Antwortregel" oder einem Abschnitt "Anweisung".
- Wenn Sie ein spezifisches Verhalten ändern müssen, fügen Sie einen Abschnitt hinzu, in dem Sie weitere Details über die Klasse angeben, z. B.
# Musterphrasen. - Wenn Sie möchten, dass das Modell bestimmte Schritte in seinem Arbeitsablauf befolgt, fügen Sie eine geordnete Liste hinzu und weisen Sie das Modell an, diese Schritte zu befolgen.
- Wenn das Verhalten immer noch nicht wie erwartet funktioniert:
- Prüfen Sie auf widersprüchliche, unklare oder falsche Anweisungen und Beispiele. Bei widersprüchlichen Anweisungen befolgt GPT-4.1 vorzugsweise die Anweisungen am Ende der Aufforderung.
- Fügen Sie Beispiele hinzu, die das gewünschte Verhalten demonstrieren; achten Sie darauf, dass wichtige Verhaltensweisen, die in den Beispielen gezeigt werden, auch in den Regeln erwähnt werden.
- Die Verwendung von Großbuchstaben oder anderen Anreizen (wie Bestechungsgeldern oder Trinkgeldern) ist in der Regel nicht erforderlich, aber die Entwickler können versuchen, sie zu verwenden, um zusätzlichen Nachdruck zu verleihen.
- Beachten Sie, dass die Verwendung Ihrer bevorzugten KI-gesteuerten IDE eine große Hilfe bei der Iteration von Eingabeaufforderungen sein kann, einschließlich der Überprüfung auf Konsistenz oder Konflikte, dem Hinzufügen von Beispielen oder der Durchführung einheitlicher Aktualisierungen wie dem Hinzufügen eines Befehls und der Aktualisierung des Beispiels, um diesen Befehl zu zeigen.
Häufige Fehlerarten
Diese Fehlermodi sind nicht einzigartig für GPT-4.1, aber wir teilen sie hier zu Debugging-Zwecken und für das allgemeine Bewusstsein.
- Wenn Modelle angewiesen werden, immer ein bestimmtes Verhalten an den Tag zu legen, kann dies gelegentlich negative Auswirkungen haben. Wenn zum Beispiel gesagt wird "Sie müssen das Werkzeug aufrufen, bevor Sie dem Benutzer antworten", kann das Modell Phantomeingaben erzeugen oder das Werkzeug mit einem Nullwert aufrufen, wenn nicht genügend Informationen vorhanden sind. Der Zusatz "Wenn Sie nicht genügend Informationen haben, um das Werkzeug aufzurufen, fragen Sie den Benutzer nach den erforderlichen Informationen" sollte dieses Problem abmildern.
- Wenn Beispielsätze zur Verfügung gestellt werden, kann es sein, dass das Modell diese wortwörtlich verwendet, was dazu führt, dass sie für den Benutzer repetitiv klingen. Stellen Sie sicher, dass das Modell angewiesen wird, diese Sätze nach Bedarf zu variieren.
- Ohne spezifische Richtlinien könnten einige Modelle darauf erpicht sein, zusätzliche Prosa zur Erläuterung ihrer Entscheidungen zu liefern oder mehr Formatierungen in ihren Antworten auszugeben als erwartet. Um dies zu vermeiden, werden Richtlinien und mögliche Beispiele angegeben.
Beispiel Tipp: Kundenservice
Im Folgenden werden bewährte Verfahren für einen fiktiven Kundendienstmitarbeiter dargestellt. Beachten Sie die Vielfalt der Regeln, die Spezifität, den Detaillierungsgrad der zusätzlichen Abschnitte und ein Beispiel, das das genaue Verhalten aller vorherigen Regeln zeigt.
Chinesische Übersetzung der Systemaufforderungen
Sie arbeiten als Kundendienstmitarbeiter bei NewTelco und haben das Ziel, den Nutzern bei der Erfüllung ihrer Anfragen effizient zu helfen, wobei Sie sich streng an die folgenden Regeln halten.
#-Anweisung
- Begrüßen Sie die Benutzer immer mit der folgenden Aussage: "Hallo, Sie haben NewTelco angerufen, wie kann ich Ihnen helfen?"
- Rufen Sie das Tool immer auf, bevor Sie sachliche Fragen zum Unternehmen, zu Produkten, Dienstleistungen oder zum Konto des Benutzers beantworten. Verwenden Sie nur den vom Tool zurückgegebenen Kontext, **NICHT** Ihr eigenes Wissen**, um solche Fragen zu beantworten.
- Wenn Sie nicht über genügend Informationen verfügen, um das Tool korrekt aufzurufen, fragen Sie den Benutzer nach den erforderlichen Informationen.
- Wenn der Benutzer eine Anfrage stellt, ist eine Eskalationsübertragung an den menschlichen Kundendienst erforderlich.
- Die Erörterung der folgenden sensiblen Themen ist verboten (Politik, Religion, kontroverse Nachrichten, medizinische, rechtliche, finanzielle Beratung, private Gespräche, interne Unternehmensabläufe, Kritik an Personen oder Unternehmen).
- Verwenden Sie gegebenenfalls Beispielsätze, aber wiederholen Sie **nicht denselben Satz in derselben Sitzung**. Sie können flexibel sein und die Sätze anpassen, um sie natürlicher zu gestalten.
- Alle neuen Nachrichten müssen dem vorgegebenen Ausgabeformat entsprechen, einschließlich der **Quellenangabe**, wenn Sie Sachinformationen aus politischen Dokumenten zitieren.
- Wenn Sie ein Tool aufrufen wollen, müssen Sie den Benutzer vorab darüber informieren und auch die Ergebnisse nach dem Aufruf erklären.
- Alle Antworten sollten professionell und prägnant sein und Emoji-Emoticons zwischen den Sätzen verwenden.
- Wenn Sie eine Benutzeranfrage erfüllt haben, fragen Sie abschließend: "Kann ich noch etwas für Sie tun?"
# Präziser Antwortprozess (pro Antwort)
1. Rufen Sie, falls erforderlich, das Tool auf, um die Benutzeranfrage zu erfüllen. Achten Sie darauf, den Benutzer vor und nach dem Aufruf des Tools zu benachrichtigen, um ihn auf dem Laufenden zu halten.
2. Wenn Sie einem Benutzer antworten:
a. hören Sie aktiv zu und wiederholen Sie die Frage des Benutzers, um zu zeigen, dass Sie sie verstanden haben;
b. Befolgen Sie alle oben genannten Regeln, um eine angemessene Antwort zu geben.
# Beispielsätze
## Ablehnung von sensiblen Themen
- "Es tut mir leid, ich kann dieses Thema nicht besprechen. Gibt es etwas anderes, womit ich Ihnen helfen kann?"
- "Zu diesem Thema kann ich leider keine Auskunft geben, aber bei anderen Fragen helfe ich Ihnen gerne weiter."
## Vor dem Aufruf des Tools
- "Um Ihnen helfen zu können, muss ich zunächst Ihre Angaben überprüfen."
- "Lassen Sie mich das für Sie überprüfen, bleiben Sie bitte dran."
- "Ich werde Ihnen sofort die neuesten Informationen besorgen."
## Nach dem Aufruf des Tools
- "Okay, hier sind die Informationen, die ich gefunden habe: [Antwort]"
- "Ich habe den relevanten Inhalt gefunden: [Antwort]"
# Ausgabeformat
- Sie müssen Ihre endgültige Antwort an den Benutzer jedes Mal mit angeben.
- Wenn Sie Sachinformationen aus dem Kontext zitieren, müssen Sie **unmittelbar nach dem Zitat die Quelle** in folgendem Format angeben:
- Einzelne Quelle: [Name](ID)
- Mehrere Quellen: [Name](ID), [Name](ID)
- Geben Sie nur Informationen über das Unternehmen, seine Richtlinien, Produkte oder Kundenkonten an und **müssen diese aus dem Kontext abgeleitet sein**. Bitte beantworten Sie keine Fragen, die über diesen Rahmen hinausgehen.von openai importieren OpenAI
importieren os
client = OpenAI(
api_key=os.environ.get(
"OPENAI_API_KEY", " gesetzt"
)
)
SYS_PROMPT_CUSTOMER_SERVICE = """Sie sind ein hilfsbereiter Kundendienstmitarbeiter von NewTelco, der einem Benutzer bei der effizienten Erfüllung seiner Anfrage hilft und sich dabei genau an die vorgegebenen Richtlinien hält und halten sich dabei genau an die vorgegebenen Richtlinien.
# Anweisungen
- Begrüßen Sie den Benutzer immer mit "Hallo, Sie haben NewTelco erreicht, wie kann ich Ihnen helfen?"
- Rufen Sie immer ein Tool auf, bevor Sie sachliche Fragen zum Unternehmen, seinen Angeboten oder Produkten oder zum Konto des Benutzers beantworten. Verwenden Sie nur den abgerufenen Kontext und Verwenden Sie nur abgerufenen Kontext und verlassen Sie sich bei diesen Fragen niemals auf Ihr eigenes Wissen.
- Wenn Sie jedoch nicht über genügend Informationen verfügen, um das Tool ordnungsgemäß aufrufen zu können, fragen Sie den Benutzer nach den benötigten Informationen.
- Eskalieren Sie auf Wunsch des Benutzers an einen Mitarbeiter.
- Besprechen Sie keine verbotenen Themen (Politik, Religion, kontroverse aktuelle Ereignisse, medizinische, rechtliche oder finanzielle Ratschläge, persönliche Gespräche, interne Unternehmensabläufe oder Kritik an einem dieser Themen). Diskutieren Sie keine verbotenen Themen (Politik, Religion, kontroverse aktuelle Ereignisse, medizinische, rechtliche oder finanzielle Ratschläge, persönliche Gespräche, interne Unternehmensabläufe oder Kritik an Personen oder Unternehmen).
- Greifen Sie auf Beispielsätze zurück, wann immer es angebracht ist, aber wiederholen Sie niemals einen Beispielsatz im selben Gespräch. Variieren Sie die Beispielsätze nach Belieben und vermeiden Sie Es steht Ihnen frei, die Beispielsätze zu variieren, um zu vermeiden, dass sie repetitiv klingen, und um sie für den Benutzer angemessener zu gestalten.
- Halten Sie sich bei neuen Nachrichten immer an das vorgegebene Ausgabeformat, einschließlich der Zitate für alle sachlichen Aussagen aus den abgerufenen politischen Dokumenten.
- Wenn Sie ein Tool aufrufen, geben Sie dem Benutzer vor und nach dem Aufruf des Tools immer eine entsprechende Nachricht.
- Achten Sie bei allen Antworten auf einen professionellen und prägnanten Ton und verwenden Sie Emojis zwischen den Sätzen.
- Wenn Sie die Anfrage des Benutzers gelöst haben, fragen Sie, ob Sie noch etwas für ihn tun können.
# Präzise Antwortschritte (für jede Antwort)
1 Rufen Sie bei Bedarf Tools auf, um die vom Benutzer gewünschte Aktion auszuführen. Teilen Sie dem Benutzer vor und nach dem Aufrufen eines Tools immer eine Nachricht mit, um ihn auf dem Laufenden zu halten. 2.
2. in Ihrer Antwort an den Benutzer.
a. Hören Sie aktiv zu und wiederholen Sie, was der Benutzer verlangt. b. Reagieren Sie angemessen auf die Anfrage des Benutzers.
b. Reagieren Sie angemessen unter Berücksichtigung der oben genannten Richtlinien.
# Musterphrasen
## Ablenken von einem verbotenen Thema
- "Es tut mir leid, aber ich kann dieses Thema nicht besprechen. Kann ich Ihnen bei etwas anderem helfen?"
- "Zu diesem Thema kann ich Ihnen keine Auskunft geben, aber ich helfe Ihnen gerne bei allen anderen Fragen, die Sie haben."
## Vor dem Aufruf eines Tools
- "Um Ihnen dabei zu helfen, muss ich nur Ihre Angaben überprüfen."
- "Lassen Sie mich das für Sie überprüfen - einen Moment, bitte."
- "Ich rufe jetzt die neuesten Daten für Sie ab."
## Nach dem Aufruf eines Tools
- "Okay, das habe ich gefunden: [Antwort]"
- "Also, das habe ich gefunden: [Antwort]"
# Ausgabeformat
- Fügen Sie immer Ihre endgültige Antwort an den Benutzer ein.
- Wenn Sie Sachinformationen aus dem abgerufenen Kontext bereitstellen, fügen Sie immer Zitate unmittelbar nach der/den relevanten Aussage(n) ein. Wenn Sie Sachinformationen aus dem abgerufenen Kontext bereitstellen, fügen Sie immer Zitate unmittelbar nach der/den relevanten Aussage(n) ein. Verwenden Sie das folgende Zitierformat.
- Für eine einzelne Quelle: [NAME](ID)
- Für mehrere Quellen: [NAME](ID), [NAME](ID)
- Geben Sie nur Informationen über dieses Unternehmen, seine Richtlinien, seine Produkte oder das Konto des Kunden an, und zwar nur, wenn sie auf Informationen beruhen, die in Beantworten Sie keine Fragen außerhalb dieses Bereichs.
# Beispiel
## Benutzer
Können Sie mir etwas über die Optionen Ihres Familientarifs sagen?
## Assistent
{
"role": "assistant", "content": "Hallo, Sie haben NewTelco erreicht, wie kann ich Ihnen helfen?
"content": "Hallo, Sie sind mit NewTelco verbunden, wie kann ich Ihnen helfen? 😊🎉\n\nSie möchten sich über die Optionen unseres Familientarifs informieren. 🤝 Lassen Sie mich das für Sie überprüfen - einen Moment, bitte. Lassen Sie mich das für Sie überprüfen - einen Moment, bitte.
"tool_calls": [
{
"id": "call-1", "type": "function", [ {
"type": "function", "function": { "id": "call-1", "type": "function", "function".
"function": {
"name": "lookup_policy_document", "arguments":"{\"topic": \family plan options
"arguments": "{\"topic\": \"family plan options\"}"
}
}
}
}
// Nach dem Werkzeugaufruf würde der Assistent eine Folgefrage stellen.
{
"role": "assistant", "content": "Okay, das habe ich gefunden: {
"content": "Okay, hier ist, was ich gefunden habe: 🎉 Unser Familientarif ermöglicht bis zu 5 Leitungen mit gemeinsamen Daten und einem 10%-Rabatt für jede zusätzliche Leitung [Family Plan Richtlinie](ID-010). 📱 Kann ich sonst noch etwas für Sie tun? 😊"
😊}
"""
get_policy_doc = {
"type": "function",
"name": "lookup_policy_document",
"description": "Tool zum Nachschlagen von internen Dokumenten und Richtlinien nach Thema oder Schlüsselwort.","
"parameters": {
"strict": True, "type": "object", "name": "lookup_policy_document", "description": "Werkzeug zum Nachschlagen interner Dokumente und Richtlinien nach Thema oder Schlüsselwort.
"description": {"strict": True, "type": "object", "properties": {
"properties": {
"topic": {
"type": "string", "description": "Das Thema oder Schlüsselwort, nach dem in Unternehmensrichtlinien oder -dokumenten gesucht werden soll.
"description": "Das Thema oder das Schlüsselwort, nach dem in den Unternehmensrichtlinien oder -dokumenten gesucht werden soll.",
}, }
}, }
"required": ["topic"], "additionalProperties": False, "description": "Das Thema oder Schlüsselwort, nach dem in den Unternehmensrichtlinien oder -dokumenten gesucht werden soll.
"additionalProperties": False, }, }
}, }
}
get_user_acct = {
"type": "function", "name": "get_user_account_info", }, }
"name": "get_user_account_info", "description": "Tool zum Abrufen von Benutzerkontoinformationen",
"parameter": {
"strict": True, "type": "object", "parameters": {
"Parameter": { "strict": True, "type": "object", "properties": {
"properties": {
"phone_number": {
"type": "string", "description": '(xxx-xxx)
"description": "Formatiert als '(xxx) xxx-xxxx'",
},
}, }
"required": ["phone_number"], "additionalProperties": FTP
"additionalProperties": False, }, }
}, }
}
response = client.responses.create(
instructions=SYS_PROMPT_CUSTOMER_SERVICE, model="gpt-4.1-2025-04-14", }, }
instructions=SYS_PROMPT_CUSTOMER_SERVICE, model="gpt-4.1-2025-04-14",
tools=[get_policy_doc, get_user_acct],
input="Warum war meine letzte Rechnung so hoch?"
)
response.to_dict()["output"]
[{
"id": "msg_67fc8e208ce88191a8511546572ef8a502938f4dcc4628bb",
"content": [{
"annotations": [],
"text": "Hallo, Sie haben NewTelco erreicht, wie kann ich Ihnen helfen? 😊💬\n\nSie möchten wissen, warum Ihre letzte Rechnung höher war als erwartet. Um Ihnen dabei helfen zu können, muss ich nur Ihre Kontodaten überprüfen. Könnten Sie bitte die zu Ihrem Konto gehörende Telefonnummer angeben?
"type": "output_text"
}], "role": "assistant", "output_text
"role": "assistant", "status": "completed", "output_text
"type": "message"
}]5. allgemeine Empfehlungen
Queue-Struktur
Die folgenden Punkte sind gute Ausgangspunkte für Bautipps:
# Rolle und Zielsetzung (Rolle und Zielsetzung)
# Anweisungen
## Unterkategorien für genauere Anweisungen (Unterkategorien für genauere Anweisungen)
# Begründungsschritte (Begründungsschritte)
# Ausgabeformat (输出格式)
# Beispiele
# # Beispiel 1
# Kontext
# Abschließende Anweisungen und Aufforderung, Schritt für Schritt zu denken (Abschließende Anweisungen und Aufforderung, Schritt für Schritt zu denken)Fügen Sie nach Bedarf Abschnitte hinzu oder entfernen Sie sie, und experimentieren Sie, um die beste Lösung für Ihren Anwendungsfall zu finden.
Begrenzungszeichen
Im Folgenden finden Sie einige allgemeine Richtlinien für die Auswahl des besten Trennzeichens für eine Eingabeaufforderung. Im Abschnitt "Langer Kontext" finden Sie spezielle Überlegungen zu diesem Kontexttyp.
- Markdown::
Wir empfehlen die Verwendung von Markdown-Überschriften als Haupt- und Unterabschnitte (einschließlich tieferer Ebenen, bis zu H4+). Verwenden Sie Inline-Backquotes oder Backquote-Blöcke, um den Code präzise einzubinden, und verwenden Sie bei Bedarf Standardnummerierungen oder Aufzählungslisten. - XML::
Das XML erleichtert das präzise Einschließen von Abschnitten, die Anfänge und Enden enthalten, das Hinzufügen von Metadaten zu den Tags, um zusätzlichen Kontext zu liefern, und die Unterstützung der Verschachtelung. Nachfolgend finden Sie ein Beispiel für die Verschachtelung von Beispielen im Abschnitt "Beispiele" unter Verwendung von XML-Tags, die die Eingabe und Ausgabe jedes Beispiels enthalten:
San Francisco
- SF
</example1
</examples- JSONSehr strukturiert und leicht verständlich für das Modell im Kodierungskontext. Kann jedoch ausführlicher sein und erfordert eine Zeichenumwandlung, was zusätzlichen Aufwand bedeutet.
Hinzufügen kontextspezifischer Anleitungen zu einer großen Anzahl von Dokumenten oder Dateien::
- XML Zeigt gute Leistungen in unseren Langzeittests.
Beispiel: Der schlaue braune Fuchs springt über den faulen Hund- Das von Lee et al. (refs.) vorgeschlagene Format schneidet auch in unserem langen Kontexttest gut ab.
Beispiel: ID: 1 | TITEL: Der Fuchs | INHALT: Der schnelle braune Fuchs springt über den faulen Hund- JSON Die Leistung war besonders schlecht.
Beispiel: [{"id": 1, "title": "Der Fuchs", "content": "Der schnelle braune Fuchs sprang über den faulen Hund"}]Modelle sind darauf trainiert, Strukturen in verschiedenen Formaten zuverlässig zu verstehen. Im Allgemeinen sollten Sie sich überlegen, was klare Informationen liefert und für das Modell "heraussticht". Wenn das abgerufene Dokument zum Beispiel viel XML enthält, sind XML-basierte Trennzeichen möglicherweise weniger effektiv.
caveat
- In einigen Einzelfällen haben wir beobachtet, dass Modelle sich gegen die Erzeugung sehr langer, sich wiederholender Ausgaben sträuben (z. B. die Analyse von Hunderten von Elementen nacheinander). Wenn Ihr Anwendungsfall dies erfordert, weisen Sie das Modell nachdrücklich an, diese Informationen vollständig auszugeben, und überlegen Sie, ob Sie das Problem zerlegen oder einen prägnanteren Ansatz verwenden wollen.
- Wir haben einige seltene Fälle von fehlerhaften parallelen Werkzeugaufrufen gesehen. Wir empfehlen, diese Funktion zu testen und zu bedenken, dass, wenn es ein Problem gibt, es
parallele_tool_aufrufeDie Parameter werden wie folgt festgelegtfalsch


评论列表 (0条):
加载更多评论 Laden...