OpenAI baut seine Infrastruktur weiter aus und hat gemeinsam mit Broadcom den ersten eigenen KI-Beschleuniger vorgestellt. Der Chip trägt den Namen Jalapeño und ist speziell für die Inferenz großer Sprachmodelle (LLMs) entwickelt worden. Nach Angaben der Unternehmen handelt es sich um den ersten Baustein einer mehrjährigen Plattform, die KI-Anwendungen schneller, effizienter und günstiger machen soll. Erste Systeme sollen Ende 2026 in Rechenzentren zum Einsatz kommen.
Im Gegensatz zu universellen KI-Beschleunigern wurde Jalapeño laut OpenAI von Grund auf für LLM-Inferenz entwickelt. Dabei flossen Erfahrungen aus ChatGPT, Codex, der API und künftigen KI-Produkten direkt in die Architektur ein. Ziel sei eine hohe Auslastung der Hardware bei gleichzeitig geringer Latenz. OpenAI spricht außerdem von einer deutlich besseren Leistung pro Watt im Vergleich zum aktuellen Stand der Technik. Unabhängige Leistungsdaten oder Benchmarks liegen allerdings noch nicht vor. Ein technischer Bericht soll in den kommenden Monaten folgen.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.