OpenAI macht GPT-5.6 Sol bis zu 14-mal schneller
Das KI-Unternehmen OpenAI testet mit Ultrafast einen neuen API-Modus, der GPT-5.6 Sol bis zu 14-mal schneller ausführen soll.
Der neue Dienst erreicht laut OpenAI bis zu 750 ausgegebene Tokens pro Sekunde. Möglich wird dies durch die Zusammenarbeit mit Cerebras. Ultrafast startet zunächst als begrenzte Vorschau für ausgewählte API-Kunden.
OpenAI will damit anspruchsvolle KI-Aufgaben in Bereiche bringen, in denen geringe Latenzen entscheidend sind. Bisher erforderte hohe Geschwindigkeit häufig kleinere oder stärker spezialisierte Modelle.
GPT-5.6 Sol Ultrafast zielt auf Echtzeit-Anwendungen
OpenAI nennt mehrere Einsatzgebiete, die von der höheren Geschwindigkeit profitieren sollen:
- Analyse von Logs und Fehlerursachen bei laufenden Systemausfällen
- Finanzanalysen und Erkennung verdächtiger Transaktionen in Echtzeit
- komplexer Kundensupport und Sprachassistenten ohne lange Pausen
- Produktsuche, Lagerabfragen und Kaufberatung im Onlinehandel
- schnellere Forschungs- und Experimentierschleifen während des Arbeitstags
Auch OpenAI selbst setzt den Modus bereits intern ein. Entwickler lassen damit unter anderem Logs, Traces und Kommunikationsverläufe auswerten. In der Forschung sollen Experimente, deren Ergebnisse bislang teils erst am nächsten Morgen geprüft wurden, schneller hintereinander durchgeführt werden können.
Der Zugang bleibt vorerst beschränkt. OpenAI will Ultrafast mit wachsender Kapazität schrittweise für weitere Kunden öffnen.
Ich halte den Ansatz für interessanter als reine Benchmark-Rekorde. Wenn ein Spitzenmodell tatsächlich mit bis zu 750 Tokens pro Sekunde arbeitet, könnten komplexe KI-Funktionen deutlich natürlicher in interaktive Anwendungen integriert werden.
mobiFlip werbefrei lesen Mit deinem Plus-Abo unterstützt du unsere Arbeit direkt. Kostenlos testen ↗
Das neue Mobiflip Design sieht aus, als hätte es eine KI gemacht.
Seit 2008 hab ich das immer selbst gemacht und so bleibt es auch. Design entwickelt sich weiter und wird moderner. Und es gibt aktuell gewisse Trends, die auch wir umsetzen. Allerdings sehr behutsam. Wir haben aktuell auch nicht viel angepasst, nur die üblichen Details, die wir jedes Jahr im Sommerloch optimieren, wenn die Themenlage etwas dünner ist.
Ich sehe keinen großen Unterschied, etwas luftiger finde ich ganz gut. aber ich bemerke weniger Werbung?
Ja, viele obere Bereiche sind aktuell für Anzeigen gesperrt. Wir testen noch.
Cerebras ist superteuer. Das muss man sich leisten wollen.