OpenAI Announces Function Calling and Other API Updates

OpenAI hat kürzlich angekündigt eine Reihe von Aktualisierungen ihrer API-Modelle, darunter besser steuerbare API-Modelle, Funktionen zum Aufrufen von Funktionen, längerer Kontext und niedrigere Preise. Diese Updates sollen die Fähigkeiten der Modelle verbessern und Entwicklern mehr Flexibilität und Kontrolle bieten.

Eines der bedeutendsten Updates ist die Einführung von Funktionsaufruffunktionen für die Modelle gpt-4-0613 und gpt-3.5-turbo-0613. Entwickler können diesen Modellen nun Funktionen beschreiben, und die Modelle können auf intelligente Weise ein JSON-Objekt ausgeben, das Argumente zum Aufrufen dieser Funktionen enthält. Diese neue Funktion bietet eine zuverlässigere Möglichkeit, die Funktionen von GPT mit externen Tools und APIs zu verbinden.

Diese Modelle wurden so optimiert, dass sie sowohl erkennen, wann eine Funktion aufgerufen werden muss (basierend auf der Eingabe des Benutzers), als auch mit JSON reagieren, das der Funktionssignatur entspricht. Durch Funktionsaufrufe können Entwickler strukturiertere Daten zuverlässiger aus dem Modell abrufen.

Anwendungsfälle für Funktionsaufrufe

Hier sind einige Beispiele dafür, wie Entwickler Funktionsaufrufe nutzen können:

1. Chatbots erstellen: Entwickler können Chatbots erstellen, die Fragen beantworten, indem sie externe Tools aufrufen, ähnlich wie bei ChatGPT-Plugins.
2. Konvertieren von Abfragen: Abfragen wie „Schreiben Sie Anya eine E-Mail, um zu sehen, ob sie nächsten Freitag Kaffee trinken möchte“ können in einen Funktionsaufruf wie umgewandelt werden send_email(to: string, body: string)oder „Wie ist das Wetter in Boston?“ Zu get_current_weather(location: string, unit: 'celsius' | 'fahrenheit').
3. Konvertieren natürlicher Sprache in API-Aufrufe oder Datenbankabfragen: Entwickler können natürliche Sprache in API-Aufrufe oder Datenbankabfragen umwandeln. Zum Beispiel: „Wer sind meine Top-Ten-Kunden in diesem Monat?“ kann in einen internen API-Aufruf umgewandelt werden, z get_customers_by_revenue(start_date: string, end_date: string, limit: int)oder „Wie viele Bestellungen hat Acme, Inc. letzten Monat aufgegeben?“ zu einer SQL-Abfrage mit sql_query(query: string).
4. Extrahieren strukturierter Daten aus Text: Entwickler können eine aufgerufene Funktion definieren extract_people_data(people: ({name: string, birthday: string, location: string}))um alle in einem Wikipedia-Artikel erwähnten Personen zu extrahieren.

Diese Anwendungsfälle werden durch neue API-Parameter im ermöglicht /v1/chat/completions Endpunkt, functions Und function_calldie es Entwicklern ermöglichen, dem Modell Funktionen über das JSON-Schema zu beschreiben und es optional aufzufordern, eine bestimmte Funktion aufzurufen.

Entwickler können mit diesen neuen Funktionen beginnen, indem sie sich auf die von OpenAI bereitgestellte Entwicklerdokumentation beziehen. OpenAI ermutigt Entwickler außerdem, Auswertungen hinzuzufügen, wenn sie Fälle finden, in denen der Funktionsaufruf verbessert werden könnte.

Die Alpha-Veröffentlichung der ChatGPT-Plugins hat OpenAI Erkenntnisse zur Gewährleistung der sicheren Integration von Tools und Sprachmodellen geliefert. Es bleiben jedoch noch offene Forschungsfragen. Beispielsweise zeigt ein Proof-of-Concept-Exploit, wie das Modell durch nicht vertrauenswürdige Daten aus der Ausgabe eines Tools so manipuliert werden kann, dass es unbeabsichtigte Aktionen ausführt. Um ihre Anwendungen zu schützen, wird Entwicklern empfohlen, nur Daten von zuverlässigen Tools zu verwenden und Benutzerbestätigungsschritte einzubeziehen, bevor sie Aktionen mit konkreten Konsequenzen ausführen, wie z. B. das Versenden einer E-Mail, die Online-Veröffentlichung oder die Ausführung eines Kaufs.