OpenAI hat für seine Sprachmodelle GPT-3.5-Turbo und GPT-4 Funktionsupdates und günstigere Preise angekündigt.
GPT steht als Sprachmodell auch hinter den Tools ChatGPT von OpenAI und Bing von Microsoft. Mit der Preisreduzierung soll das Embedding-Modell um 75 Prozent günstiger werden. Die Eingabe-Tokens für GPT-3.5-Turbo seien um 25 Prozent günstiger. Bei GPT-3.5-Turbo kommt ein Update auf eine 16k-Kontext-Version gegenüber der Standard-4k-Version. Das bedeutet, dass sich die Kontextlänge vervierfacht und das zum doppelten Preis, teilt OpenAI mit. 16k-Kontext bedeute, dass das Modell nun ungefähr 20 Seiten in einem einzelnen Request verarbeiten kann.
Beim nach Angaben von OpenAI beliebtesten Modell „text-embedding-ada-002“ werde man die Kosten ab sofort um 75 Prozent auf 0,0001 US-Dollar pro 1000 Tokens senken.
Bei GPT-3.5-Turbo, dem beliebtesten Chat-Modell senke man die Kosten für Eingabe-Tokens um 25 Prozent. Entwickler könnten dieses Modell jetzt für 0,0015 US-Dollar pro 1000 Input-Tokens und 0,002 Dollar pro 1K Output-Tokens verwenden, was ungefähr 700 Seiten pro Dollar entspreche.
GPT-3.5-Turbo-16k werde zu einem Preis von 0,003 Dollar pro 1K Input-Token und 0,004 Dollar pro 1K Output-Token angeboten, heißt es weiter.
Mit Function Calling bringen GPT-4-0613 und GPT-3.5-turbo-0613 eine neue Funktion mit, über die Entwickler Funktionen beschreiben können und das Modell kann dann ein JSON-Objekt mit Argumenten zum Aufruf dieser Funktionen ausgeben. Dies sei eine neue Möglichkeit, die Fähigkeiten von GPT mit externen Tools und APIs zu verbinden.
OpenAI nennt als Beispiel dass man jetzt Abfragen wie “Schreiben Sie Anya eine E-Mail, um zu erfahren, ob sie nächsten Freitag einen Kaffee trinken möchte” in einen Funktionsaufruf wie send_email(to: string, body: string) oder “Wie ist das Wetter in Boston?” in get_current_weather(location: string, unit: ‘celsius’ | ‘fahrenheit’) konvertieren kann.
Im Blogbeitrag sind weitere Möglichkeiten beschrieben.
