OpenAI macht GPT-5.6 Sol bis zu 14-mal schneller
Das KI-Unternehmen OpenAI testet mit Ultrafast einen neuen API-Modus, der GPT-5.6 Sol bis zu 14-mal schneller ausführen soll.
Der neue Dienst erreicht laut OpenAI bis zu 750 ausgegebene Tokens pro Sekunde. Möglich wird dies durch die Zusammenarbeit mit Cerebras. Ultrafast startet zunächst als begrenzte Vorschau für ausgewählte API-Kunden.
OpenAI will damit anspruchsvolle KI-Aufgaben in Bereiche bringen, in denen geringe Latenzen entscheidend sind. Bisher erforderte hohe Geschwindigkeit häufig kleinere oder stärker spezialisierte Modelle.
GPT-5.6 Sol Ultrafast zielt auf Echtzeit-Anwendungen
OpenAI nennt mehrere Einsatzgebiete, die von der höheren Geschwindigkeit profitieren sollen:
- Analyse von Logs und Fehlerursachen bei laufenden Systemausfällen
- Finanzanalysen und Erkennung verdächtiger Transaktionen in Echtzeit
- komplexer Kundensupport und Sprachassistenten ohne lange Pausen
- Produktsuche, Lagerabfragen und Kaufberatung im Onlinehandel
- schnellere Forschungs- und Experimentierschleifen während des Arbeitstags
Auch OpenAI selbst setzt den Modus bereits intern ein. Entwickler lassen damit unter anderem Logs, Traces und Kommunikationsverläufe auswerten. In der Forschung sollen Experimente, deren Ergebnisse bislang teils erst am nächsten Morgen geprüft wurden, schneller hintereinander durchgeführt werden können.
Der Zugang bleibt vorerst beschränkt. OpenAI will Ultrafast mit wachsender Kapazität schrittweise für weitere Kunden öffnen.
Ich halte den Ansatz für interessanter als reine Benchmark-Rekorde. Wenn ein Spitzenmodell tatsächlich mit bis zu 750 Tokens pro Sekunde arbeitet, könnten komplexe KI-Funktionen deutlich natürlicher in interaktive Anwendungen integriert werden.
mobiFlip zuerst in deinen Google News – jetzt als Quelle setzen Haken setzen ↗
Cerebras ist superteuer. Das muss man sich leisten wollen.