Dify

dify是一个开源的 LLM 应用开发平台。提供从 Agent 构建到 AI workflow 编排、RAG 检索、模型管理等能力，轻松构建和运营生成式 AI 原生应用。

最重要的是比 LangChain 更易用。

Dify 涵盖了构建生成式 AI 原生应用所需的核心技术栈，开发者可以聚焦于创造应用的核心价值。

Dify主要特点、优势和能力：

Dify 的特点和优势：

Dify 提供安全数据通道、高可靠索引检索、友好提示词开发、多模型切换、推理观测、日志记录、数据标注、模型训练、微调、简化AI研发、定制化Agent自动化、AI工作流编排等优势，实现数据安全、开发高效、模型优化、自动化智能及工作流管理，助力开发者构建强大、灵活的AI应用。

1. 构建应用方式

   Dify中的“应用”是基于GPT等大语言模型构建的实际场景应用，旨在将智能AI技术融入特定需求。它融合了AI应用开发范式与具体交付物，为开发者提供：

   • 封装友好的API：后端或前端应用可直接调用，通过Token鉴权，简化集成流程。
   • 开箱即用、美观托管的WebApp：提供模版支持二次开发，快速构建用户界面。
   • 易用界面：集成提示词工程、上下文管理、日志分析和标注功能，提升开发效率。

   开发者可根据需求灵活选择全部或部分功能，助力AI应用高效开发。

   应用类型

   Dify 提供五种应用类型：

   1. 聊天助手：基于 LLM 构建对话式交互的助手。
   2. 文本生成应用：面向文本生成类任务的助手，例如撰写故事、文本分类、翻译等。
   3. Agent：能够分解任务、推理思考、调用工具的对话式智能助手。
   4. 对话流（Chatflow）：适用于设计复杂流程的多轮对话场景，支持记忆功能并能进行动态应用编排。
   5. 工作流（Workflow）：适用于自动化、批处理等单轮生成类任务的场景的应用编排方式，单向生成结果。

接入大模型

Dify 是基于大语言模型的 AI 应用开发平台，初次使用时你需要先在 Dify 的 设置 — 模型供应商 页面内添加并配置所需要的模型。

Dify 已支持多家主流模型供应商，包括 OpenAI 的 GPT 系列、Anthropic 的 Claude 系列等。不同模型的能力和参数各异，用户可根据具体应用场景选择合适的供应商。在使用 Dify 的模型能力前，需从各模型厂商官网获取 API Key。

模型分类

Dify 将模型按使用场景分为以下四类：

1. 系统推理模型：用于应用创建、智聊、对话名称生成及下一步问题建议等功能。已支持的供应商包括 OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax 和 ZHIPU(ChatGLM)。
2. Embedding 模型：用于知识库文档分段嵌入及用户提问处理。已支持的供应商为 OpenAI 和 ZHIPU(ChatGLM)，以及 Jina AI(Jina Embeddings)。
3. Rerank 模型：用于优化 LLM 的搜索结果。已支持的供应商为 Cohere 和 Jina AI(Jina Reranker)。
4. 语音转文字模型：用于将语音转换为文本。已支持的供应商为 OpenAI。

模型供应商类型

模型供应商分为两类：

• 自有模型：提供自主研发的模型，如 OpenAI 和 Anthropic。
• 托管模型：提供第三方模型，如 Hugging Face 和 Replicate。

接入方式

• 自有模型供应商：设置对应供应商的 API Key 后，Dify 会自动接入该供应商下的所有模型。
• 托管模型供应商：接入方式略有不同，需根据具体供应商要求配置。

安全保障

Dify 使用 PKCS1_OAEP 加密技术存储用户托管的 API 密钥，每个租户均配备独立密钥对，确保 API 密钥的安全性，防止泄露。

设置默认模型

Dify 在需要模型时，会根据使用场景来选择设置过的默认模型。在 设置 > 模型供应商 中设置默认模型。