OfBusiness, LLM 래퍼가 아닌 파인튜닝된 Llama로 Nexizo 구축 (인터뷰)

구루그람 소재 B2B 이커머스 및 금융 그룹으로, 중소기업에 철강·화학 등 원자재를 판매하며 핀테크 계열사 Oxyzo도 운영한다.

OfBusiness 자체 입찰 및 가격 데이터로 소형 오픈 모델을 파인튜닝해 별도 SaaS로 판매하는 것이, 남의 LLM 위에 얹은 래퍼보다 낫다는 판단이다.

신규 자본은 없었다. Jain은 OfBusiness가 Nexizo를 위해 새 인재를 채용하지 않고 기존 직원을 재교육했다고 말했다.

Inc42와의 인터뷰에서 Jain은 OfBusiness가 이미 정부 입찰을 보여주는 머신러닝 모델을 사용하고 있었으며, ChatGPT 출시 후 원자재 가격과 원자재 뉴스를 위한 채팅 어시스턴트를 만들어 10,000개의 원자재 가격을 실시간으로 업데이트했다고 말했다.

Jain은 그 어시스턴트가 기존 LLM 위의 레이어에 불과했기 때문에, 회사가 입찰 분류와 정보를 위한 자체 소형 언어 모델을 구축하기 위해 Llama를 파인튜닝했으며, 2023년 말부터 학습을 시작해 약 1년간 베타를 운영한 뒤 Nexizo를 출시했다고 말했다.

Nexizo는 중소기업 및 시공업체 사용자가 자연어로 입찰을 검색할 수 있게 하며, NBFC와 원자재 공급업체를 위한 리드를 생성한다. Jain은 등록 사용자 100만 명, 월간 활성 사용자 약 40만 명, 엔터프라이즈 고객 20~25곳이라고 밝혔으며(인터뷰 내 자체 보고), 회사는 여전히 수익화 방식을 실험 중이다.

Jain은 제3자 LLM 위의 대화형 레이어는 차별화를 제공하지 못했기 때문에 OfBusiness가 자체 파인튜닝 모델로 전환했다고 말한다.

인프라 입찰은 OfBusiness 매출의 약 30%를 차지하며, 자사의 입찰 데이터가 독점적 학습 데이터셋을 제공했다.

INR 10 Lakh에서 INR 20 Lakh 규모의 B2B 주문은 인간 영업팀이 계속 관여해야 하므로, Nexizo는 리드 생성기로 포지셔닝된다.

AI 제품은 이미 보유한 독점 데이터로 공급될 때 방어력을 유지한다. 남의 모델 위에 얹은 얇은 레이어는 해자(moat)가 아니다.

2025년 3월 30일 기준으로 Jain에 따르면 Nexizo는 월간 활성 사용자 약 40만 명과 함께 운영 중이었고, BidAssist는 이에 통합될 예정이었으며, OfBusiness는 입찰 데이터에 비용을 부과하는 대신 리드를 판매하는 모델을 여전히 실험 중이었다.