行业痛点
构建生产级LLM应用存在大量重复性基础工作。开发者需要同时对接多种模型提供商的API,处理文档切片与向量检索,管理大模型工具调用逻辑,还要实现应用发布后的运行日志与观测能力。从零搭建一套完整的LLM应用开发框架,往往需要数周甚至数月的开发周期,中小团队无法快速验证业务想法。
私有化部署需求也在持续增长。企业用户对数据敏感,希望将所有AI流程与业务数据保存在自有基础设施内,但多数现有LLM开发工具仅提供SaaS服务,或私有化部署流程复杂,需要适配多种基础设施环境。部分开源工具功能分散,需要开发者自行组合多个模块才能完成开发,增加了运维与适配成本。
项目概述
该项目是一款开源LLM应用开发平台,当前最新版本为v1.14.2,采用兼容Apache 2.0的开源协议,仅针对托管SaaS服务添加反重品牌条款。
该项目的核心定位是将可视化工作流构建、RAG pipeline、prompt管理、模型网关、数据集管理与可观测性整合到单一可私有化部署的Web应用中,降低LLM应用的开发门槛,让不同技术水平的开发者都可以快速构建生产可用的AI应用。
技术架构深度分析
该项目采用前后端分离的微服务拆分架构,默认提供Docker Compose一键部署配置,同时支持通过Helm Chart部署到Kubernetes集群,适配从个人开发到企业生产的不同部署需求。后端核心服务分为API服务、Worker服务与矢量数据库存储三个核心部分,依赖PostgreSQL存储业务元数据,Redis做缓存与消息队列,可灵活替换不同的向量数据库适配企业已有基础设施。
前端基于React构建可视化拖拽画布,支持工作流的实时编辑与预览,所有组件状态都可以实时保存到后端,无需担心编辑内容丢失。模型网关模块做了抽象层设计,统一不同模型提供商的API调用格式,支持动态添加新的模型类型,开发者只需配置密钥即可切换不同大模型,不需要修改业务逻辑。
这种模块化设计的优势非常明显,核心功能模块解耦,单个模块升级不会影响整体服务运行,私有化部署时可以根据需求替换任意组件,比如替换企业已有的向量数据库或对象存储服务。分层架构也降低了二次开发的门槛,开发者可以基于扩展点自定义工具或工作流节点,不需要修改核心代码。
核心功能详解
可视化拖拽工作流
该功能提供画布式的工作流编辑界面,开发者可以通过拖拽操作排列不同的AI处理节点,连接节点形成完整的处理流程。所有节点配置都可以在界面上完成,不需要编写代码即可完成复杂逻辑的编排。支持随时测试运行工作流,查看每个节点的输出结果,快速定位逻辑问题,适用于快速验证AI应用逻辑,减少原型开发的时间成本。
全范围模型支持
平台内置数百种专有与开源大语言模型的适配,覆盖GPT系列、Mistral、Llama3等主流模型,同时支持所有与OpenAI API格式兼容的模型,包括自托管部署的开源大模型。用户只需在界面中添加模型配置与密钥,即可直接在工作流中调用对应模型,不需要处理不同模型API的格式差异。这种设计允许企业接入自有部署的大模型,满足数据安全与合规要求。
Prompt IDE
提供直观的提示词编辑界面,支持在同一界面对比不同模型在同一提示词下的输出结果,方便优化提示词效果。支持直接在界面中添加文本转语音等扩展功能,直接集成到聊天类应用中,不需要额外开发。所有提示词版本都会自动保存,可以随时回滚到历史版本,方便追踪提示词的优化过程。
完整RAG Pipeline
覆盖从文档导入到检索的所有RAG流程,开箱支持PDF、PPT等常见办公文档格式的文本提取,不需要额外配置转换工具。提供多种文本分块策略,可以根据文档类型选择适配的分块方式,提升检索准确率。导入的文档会自动转换为向量存储到数据集,直接可以被工作流调用,减少RAG应用的搭建流程。
AI Agent开发支持
支持基于LLM函数调用或ReAct两种方式定义Agent,可直接为Agent添加预构建工具或自定义开发工具。平台内置超过50种常用工具,覆盖谷歌搜索、图像生成、科学计算等常见场景,直接勾选即可启用。Agent的运行过程可以在界面中观测,方便调试工具调用逻辑,缩短Agent应用的开发周期。
开放API接入
提供REST API与WebSocket两种接口格式,支持将Dify中开发完成的应用直接嵌入到自有业务系统中。接口遵循标准HTTP规范,对接过程不需要引入特殊SDK,任何语言编写的业务应用都可以快速接入。应用的所有运行逻辑都在Dify平台维护,业务系统只需处理请求转发与结果展示,降低业务系统的耦合度。
项目地址:https://github.com/langgenius/dify
⭐ Stars:150.9k
🔍 来源:GitHub
Build Agentic workflows, RAG pipelines, with rich AI model and tool support on one collaborative workspace. Deploy on cloud, VPC, or self-hosted, so teams move from prototype to production without rebuilding the stack.

微信扫一扫,打赏作者吧~


