数据来源:https://github.com/trending,后台回复 230101,获取 github 爬虫
免费提供 github 热搜历史数据,后台回复 邮箱 即可
名称: /langgenius/dify
地址: https://github.com/langgenius/dify
fork: 932 star: 6,394 开发语言: TypeScript
项目简介: One API for plugins and datasets, one interface for prompt engineering and visual operation, all for creating powerful AI applications.
如果你对诸如 GPT-4 之类的 LLM 技术高速发展感到惊奇和兴奋,并且迫不及待的想用它做点什么有用的东西!但还脑袋里面还有很多的问题,比如:
我该如何“训练”一个基于我的内容的模型?
怎么让 AI 知道 2021 年以后的事情?
如何避免让 AI 跟用户胡说八道?
微调(Fine-tuning)和嵌入(Embedding)是什么意思?
那么,Dify 正好能满足你的需要。
Dify 一词源自 Define + Modify,意指定义并且持续的改进你的 AI 应用,它是为你而做的(Do it for you)
目标是让开发者(甚至非开发者)可以快速基于大型语言模型搭建出有用的东西,并确保它是可视化、可运营、可改进的。
我们可以使用 Dify 快速搭建一个 Web App。其生成的前端代码可以托管在 Dify 上。如果你想基于这个 Web App 进一步开发,还可以从 GitHub 中得到这些 Template,部署到任何地方(例如 Vercel 或其他的服务器)。或者,也可以基于 WebAPI 开发自己的 Web 前端、移动 App…总之,可以为我们省下了后端开发的工作。
Dify 的功能不止于此。
Dify 的核心理念是在一个可视化的界面中创建、配置、改进应用。基于 LLM 的应用开发有一个持续改进的生命周期,我们可能需要基于自己的内容让 AI 给予正确的回答,或是想提升 AI 的准确性和叙述风格,甚至让它去 YouTube 上下载一个字幕作为上下文。
这当中将会有些逻辑设计、上下文增强、数据准备等需要花些功夫的事情,如果没有工具你可能会寸步难行…这个过程被称为 LLMOps。
LLMOps(Large Language Model Operations)是一个涵盖了大型语言
模型(如 GPT 系列)开发、部署、维护和优化的一整套实践和流程。
LLMOps 的目标是确保高效、可扩展和安全地使用这些强大的 AI 模型
来构建和运行实际应用程序。它涉及到模型训练、部署、监控、更新、
安全性和合规性等方面。
在使用 LLMOps 平台如 Dify 之前,基于 LLM 开发应用的过程可能会非常繁琐和耗时。开发者需要自行处理各个阶段的任务,这可能导致效率低下、难以扩展和安全性问题。以下是使用 LLMOps 平台前的开发过程:
1.
引入 Dify 这样的 LLMOps 平台后,基于 LLM 开发应用的过程将变得更加高效、可扩展和安全。以下是使用 Dify 进行 LLM 应用开发的优势:
1.
数据准备:平台提供数据收集和预处理工具,简化了数据清洗和标注的工作,最小化甚至消除了编码工作。
系统和运营:易用的界面,非技术人员也可参与,支持多人协同,降低开发和维护成本。与传统开发方式相比,Dify 提供了更加透 明和易于监控的应用管理,让团队成员更好地了解应用的运行情况
另外,Dify 将提供 AI 插件开发和集成的功能,使得开发者可以轻松地为各种应用创建和部署基于 LLM 的插件,进一步提升了开发效率和应用的价值。
登入 Dify 官网,选择创建应用,并选择应用类型 ,然后点击创建
就完成了应用后端的创建,同时会自动跳转到应用的管理界面。
管理界面提供了 概览,提示词编排,访问 API,日志与标注 功能。

概览
在概览页面,我们可以完成应用的基本设置,如改名等。同时还可以分析过去一段时间的数据,如全部消息数,活跃用户数,费用消耗等,这个功能可以帮助我们更好的监控和运营应用。

提示词编排
在提示词编排界面,我们可以设置、编排自己的提示词,同时还提供了调试和预览功能,方便开发者及时知道提示词的效果。

访问 API
Dify 自动为应用生成了公开的访问 URL, 以及后端访问的服务的 API 文档,后续开发前端时,只需要根据这些 API 就可以了。

日志与标注功能
日志记录了应用的运行情况,包括用户的输入和 AI 的回复。我们后续可以根据这些日志提供 AI 回复的准确度。
上述的过程,我们完成了后端也就是服务端的开发,想要对外提供服务还需要完成客户端的开发。
有两种方式完成客户端的开发。
第一种是 fork Dify 提供的客户端代码,直接部署并简单配置后就可以了。
第二种,如果想要定制 APP,可以调用 API 完成定制开发。
以上就是使用 Dify 开发 Chat 应用的全部流程。心动不如行动,快去官网试试吧,官网地址:https://cloud.dify.ai/
