ngrok, LLM 게이트웨이 전쟁은 네트워크 기업이 이긴다고 베팅: 정액 요금, PH 4위

ngrok은 로컬 서버와 프로덕션 앱을 노출하는 데 쓰이는 터널링 및 인그레스 서비스를 만드는 샌프란시스코의 개발자 인프라 기업이다. 2026년에 출시한 AI Gateway는 호스팅형 OpenAI 호환 엔드포인트로, 서버 측 키, 자동 장애 조치, 접근 제어를 갖추고 OpenAI, Anthropic, Google 및 자체 호스팅 모델로 호출을 라우팅한다.

게이트웨이 경쟁에서 이기는 것은 라우터가 아니라 네트워크 기업이다. 즉 로컬과 호스팅 모델을 위한 단일 엔드포인트를, 지출의 일부를 떼는 방식이 아닌 토큰당 정액 인프라 요금으로 제공한다.

2022년 12월, Lightspeed Venture Partners가 Coatue와 함께 이끈 5,000만 달러(US$50M) 시리즈 A. 7년간 부트스트랩으로 운영한 뒤 받은 ngrok의 첫 외부 투자다.

Alan Shreve는 신용카드로 자금을 댄 작은 서버에서 ngrok을 시작해 로컬 서비스를 노출하는 개발자들의 기본 선택으로 키웠다. v1 오픈소스 저장소는 2013년부터 2016년까지 활발히 개발됐다. 회사는 7년간 부트스트랩을 유지하며 수백만 명의 개발자와 Databricks, Zendesk 같은 3만 개 유료 고객을 확보한 뒤, 2022년 12월 Lightspeed와 Coatue가 이끈 5,000만 달러(US$50M) 시리즈 A로 첫 투자를 받았다. Shreve는 이를 개발자 도구에서 프로덕션 인프라로의 전환을 위한 자금이라고 설명했다.

AI 붐과 함께 ngrok은 2025년 12월 자사 플랫폼 안에 AI 게이트웨이를 먼저 출시했다. 초기 사용자들은 호스팅 및 자체 호스팅 모델 전반의 중앙 집중식 라우팅을 좋아했지만, 베이스 URL만 바꾸는 데 비해 엔드포인트와 트래픽 정책이 마찰이 너무 크다고 느꼈다. 이에 2026년 7월 ngrok은 전면을 app.ngrok.ai로 재구축했다. 전용 대시보드, API, 게이트웨이 URL이다. 재구축한 제품은 2026-08-05 Product Hunt에서 공개 출시되어 356개 업보트와 67개 댓글로 그날 4위를 기록했다. 차별점은 로컬 모델이었다. Mac mini나 유휴 GPU에서 Ollama 또는 vLLM을 돌려 ngrok의 사설 연결을 통해 게이트웨이에 도달하고, 호스팅 제공업체는 폴백 역할을 했다.

ngrok은 이미 풀리지 않은 절반을 갖고 있었다. 다른 모든 게이트웨이는 네트워크가 해결됐다고 가정했지만, ngrok의 사설 연결은 포트 개방이나 VPN 없이도 자체 호스팅 모델에 도달할 수 있게 했다.

유통은 공짜였다. 수백만 명의 개발자와 3만 개 유료 고객이 인그레스용으로 ngrok을 신뢰했기에, AI Gateway는 제로에서 시작하지 않고 기존 청구, 팀 관리, 브랜드를 활용했다.

정액 요금은 이 범주의 세금을 공격했다. 토큰당 요금은 값비싼 프런티어 모델에서도 일정하게 유지되는 반면, 지출의 일정 비율을 떼는 요금은 토큰 수가 아니라 토큰 가격에 따라 커진다.

출시하고, 듣고, 재구축하라. 2025년 12월 알파는 수요를 입증했고, 2026년 7월 app.ngrok.ai 재구축은 공개 출시 전에 사용자들이 불평하던 플랫폼 마찰을 없앴다.

경쟁자가 갖지 못한 자산에서 경쟁하고, 시장의 세금에 맞서 가격을 매겨라. ngrok의 터널은 로컬 모델 라우팅을 가능하게 했고, 토큰당 정액 요금은 지출의 일정 비율을 떼는 게이트웨이들을 밑돌았다.

2026-09-06 기준 ngrok은 2026-08-05 Product Hunt 데뷔 이후 app.ngrok.ai에서 AI Gateway를 전용 제품으로 확장하고 있다. 독립 분석은 이 출시가 몇 주 된 인터페이스 뒤에 8개월의 사용 실적을 갖췄다고 평가하면서 세 가지 격차를 지적했다. 시맨틱 캐싱 부재, 키별 속도 제한 부재, Portkey나 Helicone보다 얇은 관측성이다. 남은 질문은 토큰 100만 개당 0.05달러(US$0.05) 정액 모델이 지출 비율제 및 자체 호스팅 경쟁자들을 상대로 이길 수 있는지, 그리고 로컬 모델 차별점이 ngrok의 인그레스 사업 위에 의미 있는 매출 라인이 될 수 있는지다.