d-Matrix, 2019 in Santa Clara von Sid Sheth und Sudeep Bhoja gegründet, baut eine Full-Stack-KI-Inferenzplattform: Corsair-Beschleunigerkarten auf Basis von digitalem In-Memory-Computing mit SRAM, JetStream-Netzwerktechnik, die Aviator-Software und SquadRack-Systeme im Rack-Maßstab. Corsair wird im TSMC-N6-Prozess von Alchip gefertigt, nutzt LPDDR5 statt HBM und ist darauf ausgelegt, die Decode-Phase der LLM-Inferenz neben GPU-Clustern auszuführen. Microsofts Wagniskapitalfonds M12 ist Investor.

In-Memory-Computing kann GPUs bei der Inferenzökonomie schlagen: Matrixmathematik in SRAM verlagern, HBM überspringen, Decoding mit etwa 2 ms pro Token ausführen und Racks verkaufen, die GPU-Cluster ergänzen.

d-Matrix wurde 2019 von Sid Sheth und Sudeep Bhoja gegründet, um Hardware für das zu bauen, was ihrer Erwartung nach auf den Trainingsboom folgen würde: generative Modelle kontinuierlich im großen Maßstab auszuführen. Als das Unternehmen im November 2024 aus dem Stealth-Modus trat, hatte es 154 Mio. USD von mehr als 25 Investoren eingesammelt, wobei Temasek die Series B anführte und Microsofts M12 zu den Geldgebern zählte; damals wurden Corsair-Muster an Early-Access-Kunden ausgeliefert, mit breiter Verfügbarkeit ab Q2 2025.

Das Unternehmen nutzte 2025, um Behauptungen in technische Offenlegungen und Kapital umzuwandeln. Auf den Hot Chips im August 2025 beschrieb ServeTheHome die Corsair-Platine im Detail: zwei Chips aus vier Chiplets auf TSMC N6, 2 GB SRAM, 256 GB LPDDR5X pro Karte, PCIe 5.0, 38 TOPS pro Watt und rund 2 ms pro Ausgabe-Token bei Llama 3 70B. Am 12.11.2025 schloss d-Matrix eine Series C über 275 Mio. USD bei einer Bewertung von 2 Mrd. USD ab, womit sich die Gesamtfinanzierung auf 450 Mio. USD belief; Temasek, Bullhound Capital und Triatomic Capital führten gemeinsam an, Qatar Investment Authority, EDBI und M12 beteiligten sich, so technode.global. Im April 2026 übernahm das Unternehmen das Rechenzentrumsgeschäft von GigaIO für die Integration im Rack-Maßstab, und am 09.06.2026 berichtete Converge Digest, Corsair sei in die Vollproduktion gegangen, mit Serienlieferungen an Hyperscaler, Neoclouds und Frontier-KI-Labore ab jenem Sommer.

Die Vollproduktion unterscheidet d-Matrix von der Welle der Inferenzchip-Startups, die bei Benchmarks stehen blieben: Corsair wird in Serie an namentlich nicht genannte vorrangige Kunden ausgeliefert, SquadRack-Systeme werden parallel dazu geliefert, und Liefervereinbarungen decken den Hochlauf ab. Das Unternehmen verweist auf unabhängige Tests, die zeigen, dass die Kombination von Corsair mit GPUs die Antwortzeiten beim spekulativen Decoding von etwa 24 Sekunden auf unter zwei Sekunden senkte, doch Kundennamen, Preise und Umsatz bleiben unbekannt, sodass der kommerzielle Test noch bevorsteht.

Jedes Ausgabe-Token ist speichergebunden, sodass ein Compute-in-Memory-Baustein, der den Verkehr beim Abrufen der Gewichte verringert, die tatsächlichen Kosten der LLM-Bereitstellung angreift und nicht die Spitzen-Trainings-Flops.

Das Design umgeht knappe Lieferketten: SRAM-Chiplets mit LPDDR5 benötigen weder HBM noch CoWoS-Packaging und beseitigen damit den Engpass, auf den GPU-Konkurrenten warten.

Die Ergänzung von GPUs machte d-Matrix zu einem risikoarmen Kauf: Da das Prefill bei den GPUs bleibt, zeigten unabhängige, vom Unternehmen zitierte Tests, dass die Antwortzeiten von etwa 24 Sekunden auf unter zwei fielen.

Der Nachweis sammelte sich in überprüfbaren Schritten: Offenlegungen auf den Hot Chips im August 2025, eine Series C über 275 Mio. USD bei 2 Mrd. USD im November 2025 und die Vollproduktion im Juni 2026.

In den Engpass verkaufen, nicht ins Flaggschiff: Das Training Nvidia überlassen, argumentieren, dass Decoding speichergebunden ist, und einen SRAM-Beschleuniger bauen, der sich in GPU-Cluster einfügt – ein Keil, der bis zur Vollproduktion reichte.

Stand Juni 2026 befindet sich Corsair in Vollproduktion, mit Serienlieferungen ab jenem Sommer an namentlich nicht genannte Hyperscaler, Neoclouds und Frontier-KI-Labore, wobei SquadRack-Racksysteme parallel geliefert werden. Das Risiko liegt auf der Marktseite: Nvidia beschleunigt das Decoding in GPUs der nächsten Generation weiter, Hyperscaler bauen weiterhin eigene Siliziumlösungen, und d-Matrix hat weder Kundennamen noch Umsatz offengelegt. Die GigaIO-Übernahme und die Liefervereinbarungen mit Alchip decken Integration und Kapazität ab; ob sich gemessene Latenzgewinne in Folgeaufträge umwandeln lassen, ist der offene Test.

DEN BELEGEN FOLGEN

Die Quellen

  1. d-Matrix Emerges From Stealth With Strong AI Performance And Efficiency Cambrian AI Research (Karl Freund) · cambrian-ai.com ·
  2. d-Matrix Corsair In-Memory Computing For AI Inference at Hot Chips 2025 ServeTheHome · servethehome.com ·
  3. Temasek backs US AI chipmaker d-Matrix's $275M funding technode.global · technode.global ·
  4. d-Matrix Ramps Corsair AI Inference Platform Converge Digest · convergedigest.com ·