사업 내용
Inferact는 UC 버클리에서 나온 오픈소스 엔진인 vLLM을 기반으로 관리형 서빙 인프라를 구축·판매한다. vLLM은 GPU에서 대규모 언어 모델을 빠르고 저렴하게 구동하는 데 쓰이며, Inferact는 업스트림 오픈소스 엔진 개발에도 계속 자금을 지원한다.
베팅
vLLM이 LLM 서빙의 기본 계층이 되고, Inferact는 오픈 코어를 결코 닫지 않으면서 그 주변의 관리형 서버리스 인프라로 수익을 낼 수 있다는 것이다.
초기 자본
출범 전 약 30만 달러(포브스 보도에 따르면 Sequoia의 후원 포함), 이후 2026-01-22에 8억 달러 가치로 1억 5천만 달러 시드 투자를 발표했다. a16z와 Lightspeed가 공동 주도했고 Databricks Ventures와 UC 버클리 총장 기금이 참여했다.
시작
vLLM은 2023년 UC 버클리의 Ion Stoica가 이끄는 Sky Computing Lab에서 시작되었다. PagedAttention 논문(SOSP 2023)은 가상 메모리처럼 어텐션 캐시를 페이징하면 메모리 낭비를 줄이고 서빙 처리량을 높일 수 있음을 보여주었다. AI 지출이 모델 학습에서 모델 구동으로 옮겨가면서, 이 연구용 엔진은 많은 팀이 오픈 LLM을 서빙하는 기본 방식이 되었다.
전개
2025년 말까지 이 프로젝트는 약 8만 개의 스타와 수천 명의 프로덕션 사용자를 확보했지만, 유지관리자들을 둘러싼 회사는 없었다. 포브스는 2025년 12월에 공동 리더인 Simon Mo가 매출이 거의 없고 지금까지 모금한 금액이 약 30만 달러에 불과한데도 최소 1억 6천만 달러 규모의 투자 유치를 추진하고 있다고 보도했다. 2026-01-22에 핵심 팀은 Inferact로 스텔스에서 나와 8억 달러 가치에 1억 5천만 달러 시드 투자를 받았다. 공동 창업자 Woosuk Kwon은 목표를 AI 서빙을 '서버리스 데이터베이스를 띄우는 것만큼 간단하게' 만드는 것이라고 표현했다.
현재 상황
Inferact는 2026-09-02 기준 운영 중이다. 창립 유지관리자들이 Simon Mo를 CEO로 하여 계속 회사를 이끌고 있고, 이번 라운드는 관리형 서버리스 vLLM 플랫폼과 지속적인 업스트림 작업에 자금을 대고 있으며, 종료나 피벗, 추가 투자 유치에 대한 보도는 없었다.
학습이 아니라 서빙이 AI의 반복 비용이 되었고, 따라서 서빙 비용을 줄이는 엔진이 핵심 인프라가 되었다.
vLLM의 설치 기반은 경쟁자가 돈으로 살 수 없는 유통망을 Inferact에 제공한다: 약 9만 600개(약 90.6k)의 스타, 2,000명 이상의 기여자, AWS 규모의 사용자.
창립 팀에는 원래 창시자들과 그들의 버클리 연구실이 포함되어 있으며, 이들은 바로 엔진을 빠르게 만든 사람들이다.
코어를 오픈 상태로 유지하면 오픈소스 상용화를 보통 좌절시키는 신뢰 문제가 제거된다.
기업은 안정성, 오토스케일링, 운영에 비용을 지불하며, 이는 정확히 Inferact가 구축하는 관리형 계층이다.
오픈소스 채택만으로는 사업이 되지 않는다. Inferact는 무료 코어와 유료 관리형 계층을 분리했고, 투자자들은 제품 매출이 전무한 상태에서 팀과 채택 실적에 8억 달러의 가치를 매겼다.
그 후
2026-09-02 기준 Inferact는 계속 운영 중이며 구축 단계에 있다. 2026-01-22에 발표된 1억 5천만 달러 시드는 관측 가능성, 문제 해결, 재해 복구 기능을 갖춘 쿠버네티스 기반의 관리형 서버리스 vLLM 버전에 자금을 대며, 회사는 성능 개선 작업과 새로운 모델 아키텍처를 추가하면서 업스트림 오픈소스 엔진에도 계속 투자하고 있다. 창립 유지관리자들이 회사를 이끌고 있으며, 기준일까지 제품 출시, 피벗, 종료, 후속 투자 라운드에 대한 보도는 없었다.
근거 확인하기
출처
- Inference startup Inferact lands $150M to commercialize vLLM TechCrunch · techcrunch.com ·
- Inferact launches with $150M in funding to commercialize vLLM SiliconANGLE · siliconangle.com ·
- AI Inference Project vLLM Seeks US$160 Million With Minimal Revenue Open Source For You · opensourceforu.com ·
- Github-Ranking-AI: most-starred AI repositories, auto-updated 2026-09-01 GitHub (yuxiaopeng) · github.com ·