ChatGpt 发展新方向:简单易用的LLMops开发平台,解锁GPT 语言模型的全部潜力,快速创建GPT应用
点击上方 壹家大数据,关注后发现更多精彩内容

数据来源:https://github.com/trending,后台回复 230101,获取 github 爬虫

免费提供 github 热搜历史数据,后台回复 邮箱 即可

名称: /langgenius/dify

地址: https://github.com/langgenius/dify

fork: 932    star: 6,394    开发语言: TypeScript

项目简介: One API for plugins and datasets, one interface for prompt engineering and visual operation, all for creating powerful AI applications.

在时间的冲蚀下,许多照片都失去了原本的色彩。然而在老照片修复的过程中,专业度要求很高的 PS 工具,对大部分人来说上手太难了。在文字聊天机器人的基础上,RealChar 引入了语音和文字互转的技术,实现了通过语音和 AI 机器人实时聊天。RealChar 在使用上非常的简单,无需编码就能创建自己的 AI 角色,而且还支持自定义聊天的对象模型,比如,可以选择马斯克,乔布斯,蝙蝠侠,洛基等,轻松实现和名人的面对面聊天

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

如果你对诸如 GPT-4 之类的 LLM 技术高速发展感到惊奇和兴奋,并且迫不及待的想用它做点什么有用的东西!但还脑袋里面还有很多的问题,比如:

  • 我该如何“训练”一个基于我的内容的模型?
  • 怎么让 AI 知道 2021 年以后的事情?
  • 如何避免让 AI 跟用户胡说八道?
  • 微调(Fine-tuning)和嵌入(Embedding)是什么意思?

那么,Dify 正好能满足你的需要。

01
什么是 dify

Dify 一词源自 Define + Modify,意指定义并且持续的改进你的 AI 应用,它是为你而做的(Do it for you)

目标是让开发者(甚至非开发者)可以快速基于大型语言模型搭建出有用的东西,并确保它是可视化、可运营、可改进的。

我们可以使用 Dify 快速搭建一个 Web App。其生成的前端代码可以托管在 Dify 上。如果你想基于这个 Web App 进一步开发,还可以从 GitHub 中得到这些 Template,部署到任何地方(例如 Vercel 或其他的服务器)。或者,也可以基于 WebAPI 开发自己的 Web 前端、移动 App…总之,可以为我们省下了后端开发的工作。

Dify 的功能不止于此。

Dify 的核心理念是在一个可视化的界面中创建、配置、改进应用。基于 LLM 的应用开发有一个持续改进的生命周期,我们可能需要基于自己的内容让 AI 给予正确的回答,或是想提升 AI 的准确性和叙述风格,甚至让它去 YouTube 上下载一个字幕作为上下文。

这当中将会有些逻辑设计、上下文增强、数据准备等需要花些功夫的事情,如果没有工具你可能会寸步难行…这个过程被称为 LLMOps

02
什么是 LLMops

LLMOps(Large Language Model Operations)是一个涵盖了大型语言

模型(如 GPT 系列)开发、部署、维护和优化的一整套实践和流程。

LLMOps 的目标是确保高效、可扩展和安全地使用这些强大的 AI 模型

来构建和运行实际应用程序。它涉及到模型训练、部署、监控、更新、

安全性和合规性等方面。

在使用 LLMOps 平台如 Dify 之前,基于 LLM 开发应用的过程可能会非常繁琐和耗时。开发者需要自行处理各个阶段的任务,这可能导致效率低下、难以扩展和安全性问题。以下是使用 LLMOps 平台前的开发过程:

  1.

    数据准备:手动收集和预处理数据,可能涉及到复杂的数据清洗和标注工作,需要编写较多代码。
  2.

    Prompt Engineering:开发者只能通过调用 API 或 Playground 进行 Prompt 编写和调试,缺乏实时反馈和可视化调试。
  3.

    嵌入和上下文管理:手动处理长上下文的嵌入和存储,难以优化和扩展,需要不少编程工作,熟悉模型嵌入和向量数据库等技术
  4.

    应用监控与维护:手动收集和分析性能数据,可能无法实时发现和处理问题,甚至可能没有日志记录。
  5.

   模型微调:自行处理微调数据准备和训练过程,可能导致效率低下,需要编写更多代码。
  6.

   系统和运营:需要技术人员参与或花费成本开发管理后台,增加开发和维护成本,缺乏多人协同和对非技术人员的友好支持。

引入 Dify 这样的 LLMOps 平台后,基于 LLM 开发应用的过程将变得更加高效、可扩展和安全。以下是使用 Dify 进行 LLM 应用开发的优势:

  1.

   数据准备:平台提供数据收集和预处理工具,简化了数据清洗和标注的工作,最小化甚至消除了编码工作。

  2.

   Prompt Engineering:所见即所得的 Prompt 编辑和调试,可根据用户输入的数据进行实时优化和调整。
  3.

   嵌入和上下文管理:自动处理长上下文的嵌入、存储和管理, 提高效率和扩展性,无需编写大量代码。
  4.

  应用监控与维护:实时监控性能数据,快速发现和处理问题,确保应用程序的稳定运行,提供完整的日志记录。
  5.

  模型微调:平台提供一键微调功能,基于过去已标注的真实使用数据进行训练,提高模型性能,减少编程工作。
  6.

  系统和运营:易用的界面,非技术人员也可参与,支持多人协同,降低开发和维护成本。与传统开发方式相比,Dify 提供了更加透    明和易于监控的应用管理,让团队成员更好地了解应用的运行情况

另外,Dify 将提供 AI 插件开发和集成的功能,使得开发者可以轻松地为各种应用创建和部署基于 LLM 的插件,进一步提升了开发效率和应用的价值。

03
开发流程

登入 Dify 官网,选择创建应用,并选择应用类型 ,然后点击创建

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

就完成了应用后端的创建,同时会自动跳转到应用的管理界面。

管理界面提供了 概览,提示词编排,访问 API,日志与标注 功能。

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

概览

在概览页面,我们可以完成应用的基本设置,如改名等。同时还可以分析过去一段时间的数据,如全部消息数,活跃用户数,费用消耗等,这个功能可以帮助我们更好的监控和运营应用。

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

提示词编排

在提示词编排界面,我们可以设置、编排自己的提示词,同时还提供了调试和预览功能,方便开发者及时知道提示词的效果。

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

访问 API

Dify 自动为应用生成了公开的访问 URL, 以及后端访问的服务的 API 文档,后续开发前端时,只需要根据这些 API 就可以了。

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

日志与标注功能

日志记录了应用的运行情况,包括用户的输入和 AI 的回复。我们后续可以根据这些日志提供 AI 回复的准确度。

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用


04
客户端开发

上述的过程,我们完成了后端也就是服务端的开发,想要对外提供服务还需要完成客户端的开发。

有两种方式完成客户端的开发。

第一种是 fork Dify 提供的客户端代码,直接部署并简单配置后就可以了。

第二种,如果想要定制 APP,可以调用 API 完成定制开发。

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用

以上就是使用 Dify 开发 Chat 应用的全部流程。心动不如行动,快去官网试试吧,官网地址:https://cloud.dify.ai/

ChatGpt 发展新方向:简单易用的 LLMops 开发平台,解锁 GPT 语言模型的全部潜力,快速创建 GPT 应用
END
© 版权声明

☆ END ☆
喜欢就点个赞吧
点赞0 分享
图片正在生成中,请稍后...