2019년 Sid Sheth와 Sudeep Bhoja가 산타클라라에서 설립한 d-Matrix는 풀스택 AI 추론 플랫폼을 구축한다. SRAM 디지털 인메모리 컴퓨팅 기반의 Corsair 가속기 카드, JetStream 네트워킹, Aviator 소프트웨어, SquadRack 랙 스케일 시스템이 그것이다. Corsair는 Alchip이 TSMC N6 공정으로 제조하며, HBM 대신 LPDDR5를 사용하고, GPU 클러스터와 함께 LLM 추론의 디코드 단계를 실행하도록 포지셔닝되어 있다. Microsoft의 M12 벤처 펀드가 투자자다.

인메모리 컴퓨팅은 추론 경제성에서 GPU를 앞설 수 있다. 행렬 연산을 SRAM에 넣고, HBM을 건너뛰고, 토큰당 약 2ms로 디코드를 실행하며, GPU 클러스터를 보완하는 랙을 판매한다.

d-Matrix는 2019년 Sid Sheth와 Sudeep Bhoja가 훈련 붐 뒤에 올 것으로 예상한 것, 즉 생성 모델을 대규모로 지속 실행하기 위한 하드웨어를 만들기 위해 설립되었다. 2024년 11월 스텔스에서 나왔을 때 25명 이상의 투자자로부터 1억 5,400만 달러를 유치했으며, Temasek이 시리즈 B를 주도하고 Microsoft의 M12가 후원자 중 하나였고, 얼리 액세스 고객에게 Corsair를 샘플링 중이었으며 광범위한 공급은 2025년 2분기로 계획되어 있었다.

회사는 2025년을 주장을 엔지니어링 공개와 자본으로 전환하는 데 보냈다. 2025년 8월 Hot Chips에서 ServeTheHome은 Corsair 보드를 상세히 보도했다. TSMC N6 위에 4개의 칩렛으로 구성된 2개의 칩, 2GB의 SRAM, 카드당 256GB의 LPDDR5X, PCIe 5.0, 와트당 38 TOPS, 그리고 Llama 3 70B에서 출력 토큰당 대략 2ms이다. 2025-11-12에 d-Matrix는 20억 달러 밸류에이션으로 2억 7,500만 달러 시리즈 C를 마감해 총 조달액을 4억 5,000만 달러로 늘렸으며, technode.global에 따르면 Temasek, Bullhound Capital, Triatomic Capital이 공동 주도하고 Qatar Investment Authority, EDBI, M12가 참여했다. 2026년 4월에는 랙 스케일 통합을 위해 GigaIO의 데이터센터 사업을 인수했고, 2026-06-09에 Converge Digest는 Corsair가 그해 여름부터 하이퍼스케일러, 네오클라우드, 프런티어 AI 랩에 볼륨 출하를 시작으로 완전 생산에 들어갔다고 보도했다.

완전 생산은 d-Matrix를 벤치마크에서 멈춘 추론 칩 스타트업 물결과 구분한다. Corsair는 이름이 밝혀지지 않은 우선 고객에게 볼륨으로 출하되고 있고, SquadRack 시스템이 함께 출하되며, 공급 계약이 램프업을 뒷받침한다. 회사는 Corsair를 GPU와 결합하면 추측 디코딩 응답 시간이 약 24초에서 2초 미만으로 줄었다는 독립 테스트를 인용하지만, 고객 이름, 가격, 매출은 여전히 공개되지 않았으므로 상업적 시험은 아직 남아 있다.

모든 출력 토큰은 메모리 바운드이므로, 가중치 페치 트래픽을 줄이는 컴퓨트 인 메모리 부품은 최대 훈련 플롭스가 아니라 LLM 서빙의 실제 비용을 공략한다.

이 설계는 부족한 공급망을 우회한다. LPDDR5를 쓰는 SRAM 칩렛은 HBM이나 CoWoS 패키징이 필요 없어, GPU 경쟁사들이 줄을 서서 기다리는 병목을 제거한다.

GPU를 보완함으로써 d-Matrix는 저위험 구매가 되었다. 프리필은 GPU에 맡기고, 회사가 인용한 독립 테스트는 응답 시간이 약 24초에서 2초 미만으로 떨어졌음을 보여주었다.

증거는 검증 가능한 단계로 축적되었다. 2025년 8월 Hot Chips 공개, 2025년 11월 20억 달러 밸류에이션의 2억 7,500만 달러 시리즈 C, 그리고 2026년 6월 완전 생산이다.

플래그십이 아니라 병목에 판매하라. 훈련은 Nvidia에 맡기고, 디코드는 메모리 바운드라고 주장하며, GPU 클러스터에 꽂히는 SRAM 가속기를 만들어라. 완전 생산에 도달한 쐐기다.

2026년 6월 현재 Corsair는 완전 생산 상태이며 그해 여름부터 이름이 밝혀지지 않은 하이퍼스케일러, 네오클라우드, 프런티어 AI 랩에 볼륨 출하가 시작되고, SquadRack 랙 시스템이 함께 출하된다. 위험은 시장 측에 있다. Nvidia는 차세대 GPU에서 디코드를 계속 가속하고, 하이퍼스케일러는 계속 자체 실리콘을 구축하며, d-Matrix는 고객 이름도 매출도 공개하지 않았다. GigaIO 인수와 Alchip 공급 계약은 통합과 생산능력을 뒷받침한다. 측정된 지연 시간 우위가 반복 주문으로 전환되는지가 남은 시험이다.

근거 확인하기

출처

  1. d-Matrix Emerges From Stealth With Strong AI Performance And Efficiency Cambrian AI Research (Karl Freund) · cambrian-ai.com ·
  2. d-Matrix Corsair In-Memory Computing For AI Inference at Hot Chips 2025 ServeTheHome · servethehome.com ·
  3. Temasek backs US AI chipmaker d-Matrix's $275M funding technode.global · technode.global ·
  4. d-Matrix Ramps Corsair AI Inference Platform Converge Digest · convergedigest.com ·