ngrok wettet, dass der Krieg um LLM-Gateways an Netzwerkunternehmen geht: Pauschalgebühr, PH #4

ngrok ist das Entwickler-Infrastrukturunternehmen aus San Francisco hinter dem Tunneling- und Ingress-Dienst, mit dem lokale Server und Produktionsanwendungen exponiert werden; sein AI Gateway, 2026 gestartet, ist ein gehosteter, OpenAI-kompatibler Endpunkt, der Aufrufe an OpenAI, Anthropic, Google und selbst gehostete Modelle weiterleitet – mit serverseitigen Schlüsseln, automatischem Failover und Zugriffskontrollen.

Netzwerkunternehmen, nicht Router, werden den Kampf um das Gateway gewinnen: ein Endpunkt für lokale und gehostete Modelle, bepreist als pauschale Infrastruktur pro Token, nicht als Anteil an den Ausgaben.

50 Mio. US-Dollar Series A im Dezember 2022, angeführt von Lightspeed Venture Partners mit Coatue – ngroks erste externe Finanzierung nach sieben Jahren im Bootstrap.

Alan Shreve startete ngrok auf einem kleinen, per Kreditkarte finanzierten Server und baute es zum Entwickler-Standard für die Exposition lokaler Dienste aus; das Open-Source-Repository der v1 wurde von 2013 bis 2016 aktiv weiterentwickelt. Das Unternehmen blieb sieben Jahre im Bootstrap, gewann Millionen von Entwicklern und 30.000 zahlende Kunden wie Databricks und Zendesk, bevor es seine erste Finanzierungsrunde einholte: eine Series A über 50 Mio. US-Dollar, angeführt von Lightspeed mit Coatue im Dezember 2022, die Shreve als Finanzierung des Wandels vom Entwicklertool zur Produktionsinfrastruktur darstellte.

Mit der KI-Welle lieferte ngrok im Dezember 2025 zunächst ein AI Gateway innerhalb seiner Plattform aus. Frühe Nutzer schätzten das zentrale Routing über gehostete und selbst gehostete Modelle, fanden jedoch Endpunkte und Traffic-Policy zu umständlich für einen bloßen Austausch der Base-URL, sodass ngrok im Juli 2026 den Eingang als app.ngrok.ai neu baute: ein eigenes Dashboard, eine eigene API und eine eigene Gateway-URL. Das neu gebaute Produkt wurde am 2026-08-05 öffentlich auf Product Hunt gestartet und belegte mit 356 Upvotes und 67 Kommentaren den #4 des Tages; sein Keil war das lokale Modell, wobei Ollama oder vLLM auf einem Mac mini oder einer ungenutzten GPU das Gateway über ngroks private Konnektivität erreichten und gehostete Anbieter als Fallbacks dienten.

ngrok besaß bereits die ungelöste Hälfte: Jedes andere Gateway ging davon aus, dass das Netzwerk gelöst sei, während ngroks private Konnektivität ein selbst gehostetes Modell ohne offene Ports oder VPN erreichbar machte.

Die Distribution war kostenlos: Millionen von Entwicklern und 30.000 zahlende Kunden vertrauten ngrok beim Ingress, sodass das AI Gateway auf bestehende Abrechnung, Teamverwaltung und Marke aufsetzte, statt bei null zu beginnen.

Die Pauschalgebühr griff die Steuer der Kategorie an: Eine Gebühr pro Token bleibt konstant gegenüber teuren Frontier-Modellen, wo prozentuale Ausgabenanteile mit dem Preis des Tokens wachsen, nicht mit seiner Anzahl.

Ausliefern, zuhören, neu bauen: Die Alpha vom Dezember 2025 belegte die Nachfrage, und der Umbau zu app.ngrok.ai im Juli 2026 beseitigte die Plattform-Reibung, über die sich Nutzer beschwert hatten, vor dem öffentlichen Start.

Aus einem Vorteil konkurrieren, den Rivalen nicht haben, und dann gegen die Steuer des Marktes bepreisen: ngroks Tunnel machte das Routing lokaler Modelle möglich, und eine pauschale Token-Gebühr unterbot Gateways, die einen prozentualen Anteil an den Ausgaben abschöpften.

Stand 2026-09-06 skaliert ngrok das AI Gateway als eigenständiges Produkt unter app.ngrok.ai nach seinem Product-Hunt-Debüt am 2026-08-05. Eine unabhängige Analyse schrieb dem Start acht Monate Nutzung hinter einer nur wenige Wochen alten Oberfläche zu und benannte drei Lücken: kein semantisches Caching, keine Ratenbegrenzung pro Schlüssel und eine Observability, die dünner ist als die von Portkey oder Helicone. Die offenen Fragen sind, ob das pauschale Modell von 0,05 US-Dollar pro Million Token gegen prozentuale Ausgabenanteile und selbst gehostete Rivalen gewinnt und ob der Keil des lokalen Modells zu einer bedeutenden Umsatzlinie auf ngroks Ingress-Geschäft wird.