档案库 · AI 与模型 · 产品决策 · 2023
Prefect开源Marvin，押注“AI函数”让LLM成为运行时
Prefect开源了Marvin，这是其支持Slackbot背后的框架，押注“AI函数”和聚焦的GPT机器人成为团队构建AI功能的方式。
Prefect
做的是什么生意
Prefect builds open-source Python tooling that coordinates and observes complex data pipelines; Marvin, released under PrefectHQ, is its framework for producing structured LLM output and building deployable GPT-4/GPT-3.5 bots, born from the Slackbot that automated Prefect's own support.
起因
Marvin began as Prefect's internal framework: it powered the Slackbot that automated support for an open-source community of close to 30,000 members. As Prefect's customers started building AI stacks, the company kept hitting the same set of problems it had solved for data engineering — integrating brittle, non-deterministic LLM APIs into well-structured pipelines. The 'lightbulb moment' was AI functions: functions with no source code that use the LLM as a runtime, which Prefect open-sourced with that idea as the headline.
经过
By 2023-04-08, weeks after the announcement post, Prefect shipped 'marvin chat', a full-featured TUI built on Textual for chatting with GPT-4 or GPT-3.5-powered Marvin bots. The Show HN thread framed bots as mini 'conversational applications' with distinct personalities, instructions and plugins, and the TUI as a first-class way to explore and assess them. In the thread jlowin said open-sourcing had drawn an 'amazing' response, that the diversity of customer objectives gave Prefect confidence, and that the roadmap was Marvin's core — bots, plugins and knowledge handling — plus threads supporting multiple bots and users.
结果
The source records no exit or shutdown: as of 2023-04-08 Marvin was a live, open-source Prefect product, with the TUI milestone shipped and the roadmap pointed at bots, plugins and knowledge handling.
背景
Marvin最初是Prefect的内部框架——支持Slackbot背后的代码，自动化了近30000名成员的开源社区支持。当Prefect的客户开始构建AI技术栈时，公司认识到它多年来为数据工程解决的问题：如何将脆弱、不确定、外部有状态的API集成到结构良好的管道中。
Prefect开源的答案是“AI函数”——没有源代码、使用LLM作为运行时的函数。jlowin在Show HN中的框定故意简单：Marvin的核心是构建和部署机器人的库，AI函数只是机器人的一种。目标是编码Prefect不断部署的高级模式，从结构化输出到面向B2B客户的会话代理。
公告几周后，即2023-04-08，Prefect发布了“marvin chat”，一个基于Textual构建的功能齐全的TUI，用于与Marvin机器人对话，由GPT-4或GPT-3.5驱动。该帖子将每个机器人定位为具有自己个性、指令和插件的小型会话应用程序，TUI是探索它们的首选方式。Prefect表示开源的回应“惊人”，下一步重点是Marvin的核心——机器人、插件和知识处理——以及设计为托管多个机器人和用户的线程。
案例是活跃的：截至帖子日期，Marvin仍然是Prefect的开源产品，没有记录关闭，赌注——AI栈需要像数据栈一样的协调模式，作为高级Python原语交付——正在公开测试。
这件事要成立，得有什么
- 起源是内部且真实的：Marvin已经运行Prefect的支持Slackbot近30000名社区成员，在作为产品打包之前已在生产中验证。
- 客户拉动先于转变：是客户目标的多样性——不是猜测——让Prefect将高级AI工具视为平台而非内部便利。
- 赌注转移了Prefect的理念：为数据栈构建的协调模式适用于LLM栈，AI函数作为小的、易于演示的原语。
- 开源是分发渠道：在PrefectHQ下发布，以AI函数为主标题，将内部框架转变为社区资产，引起了“惊人”的回应。
可借鉴之处
下一个产品可能隐藏在你自己的运营中：Prefect在其支持Slackbot中发现了Marvin，并押注其背后的协调理念从数据栈迁移到AI栈。
后续进展
截至2023-04-08帖子，Marvin作为Prefect的开源AI框架活跃：TUI已发布，公告在几周前发布，路线图是Marvin的核心——机器人、插件和知识处理——以及面向B2B用例的多机器人、多用户线程。Prefect将Marvin定位为其编排业务的伴侣，共享相同的Pythonic设计理念，而不是独立公司。来源没有记录Marvin的用户数量，只有社区背景，也没有资金或收入数字。
资料来源
发现哪里写错了？告诉我们。
轮到你了
你刚读完一家。说说你在做什么，看看谁在赌同一件事。
免费账号 · 3 次免费提问 · 不用绑卡