AI魔法学院客服
LLMOps框架Dify发布Workflow功能,RAG进入自由编排时代(附产品负责人分享PPT )
GDC2024上海召开,大模型应用开发引关注。Dify发布工作流功能,替代固化的RAG编排,平衡模型能力与生产需求。工作流将复杂问题分解,提升可控性、可解释性和鲁棒性。Langchain、LlamaIndex等增强自由编排能力。随着模型能力增强,workflow或成过渡手段,但稳定性或受影响。何文斯在大会分享“Dify Workflow:从Prompt工程到Flow工程”。
 2024-08-02
收藏 复制地址分享海报

近日,GDC2024(全球开发者开发者先锋大会)在上海召开,大模型应用开发引发了广泛关注。在coze等编排工作流引发开发者强烈兴趣之后,Dify也发布了自己的工作流功能,这标志着原有的固化的RAG编排流程被更加灵活的工作流编排取代。工作流编排是目前最好的平衡模型能力以及生产需求的妥协办法。通过编排可以将开放域,复杂多步问题,分解为多个子问题分开解决,能用模型用模型,不能用模型的用流程,甚至采用“Human in Loop”的方式,将整个工作流程白盒化,把大模型能力限制在封闭的问题内,让大模型更可控,提升整个应用的可解释性和鲁棒性,这样的思路也成为了业内共识,Langchainllamaindex打开了黑盒过程,增强自由编排能力,如QueryPipelineLanggraph

参看:

微软、OpenAI大佬暗示LLM应用开发范式迁移:从Prompt Engineering到Flow Engineering

应用编排的未来是Pipeline,LlamaIndex开发预览版推出Query Pipeline,提升应用开发的灵活性

LlamaIndex的QueryPipeline在实现RAG应用后,Agent应用也可以实现了(附开发示例)

对编排感兴趣的朋友,可后台回复进群入群交流。另一方面,我们说workflow是一种过渡手段的原因是随着模型能力逐渐增强很多过去难以处理的问题都将解决,另外通过这种组件缝合的方式也在一定程度上导致了缝合怪的出现,系统整体稳定性会相对下降。这或许也是OpenAIGPTs未开放白盒编排的原因吧。

参看:

RAG 2.0来了,它能成为生产落地的福音吗?

下面是何文斯在大会分享的名为“Dify Workflow:——从 Prompt 工程到 Flow 工程”。

出自:https://mp.weixin.qq.com/s/s6PgoRrCVdbSnfeVXAjtGw

本文档由网友提供,仅限参考学习,如有不妥或产生版权问题,请联系我们及时删除。 客服请加微信:skillupvip
评论
1 评论
猫人20242024/8/2 10:21:10

GDC2024这波操作,大模型应用真的要起飞了!Dify的工作流功能听起来就像给AI界来了一针强心剂,直接怼上了RAG编排的痛点,感觉生产效率和模型可控性都要上天。Langchain他们跟进也超快,自由编排能力再升级,未来模型应用怕是要玩出花来了。不过,workflow作为过渡手段,虽然香,但稳定性那块儿还是得小心呵护,别成了阿喀琉斯之踵。何文斯的分享,感觉又要掀起一波讨论热潮,坐等大佬们的真知灼见!
20秒读懂全文
伴读
### 1. 一句话总结文章摘要

GDC2024大会上,大模型应用开发焦点转向工作流编排,Dify等新工具发布,标志着从Prompt Engineering向Flow Engineering的转变,工作流编排成为平衡模型能力与生产需求的热门方案,同时面临稳定性等挑战。

### 2. 生成关键词和可能相关的关键词

- 关键词:GDC2024、大模型应用开发、工作
One More Thing
One More Thing again ...

找组织,加入AI魔法学院群