LLMOps框架Dify发布Workflow功能,RAG进入自由编排时代(附产品负责人分享PPT )
近日,GDC2024(全球开发者开发者先锋大会)在上海召开,大模型应用开发引发了广泛关注。在coze等编排工作流引发开发者强烈兴趣之后,Dify也发布了自己的工作流功能,这标志着原有的固化的RAG编排流程被更加灵活的工作流编排取代。工作流编排是目前最好的平衡模型能力以及生产需求的妥协办法。通过编排可以将开放域,复杂多步问题,分解为多个子问题分开解决,能用模型用模型,不能用模型的用流程,甚至采用“Human in Loop”的方式,将整个工作流程白盒化,把大模型能力限制在封闭的问题内,让大模型更可控,提升整个应用的可解释性和鲁棒性,这样的思路也成为了业内共识,Langchain,llamaindex打开了黑盒过程,增强自由编排能力,如QueryPipeline,Langgraph。
参看:
微软、OpenAI大佬暗示LLM应用开发范式迁移:从Prompt
Engineering到Flow Engineering
应用编排的未来是Pipeline,LlamaIndex开发预览版推出Query Pipeline,提升应用开发的灵活性
LlamaIndex的QueryPipeline在实现RAG应用后,Agent应用也可以实现了(附开发示例)
对编排感兴趣的朋友,可后台回复“进群”入群交流。另一方面,我们说workflow是一种过渡手段的原因是随着模型能力逐渐增强很多过去难以处理的问题都将解决,另外通过这种组件缝合的方式也在一定程度上导致了“缝合怪”的出现,系统整体稳定性会相对下降。这或许也是OpenAI的GPTs未开放白盒编排的原因吧。
参看:
RAG
2.0来了,它能成为生产落地的福音吗?
下面是何文斯在大会分享的名为“Dify Workflow:——从 Prompt 工程到 Flow 工程 ”。
出自:https://mp.weixin.qq.com/s/s6PgoRrCVdbSnfeVXAjtGw