news 2026/2/12 18:40:49

Dify大模型应用开发(Task2-聊天助手、知识库、批量执行)

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Dify大模型应用开发(Task2-聊天助手、知识库、批量执行)

---🐳Task2️⃣:

Dify入门-聊天助手(猜病、哄哄模拟器)这个是关于使用大模型的设置方法、如何写提示词

Dify入门-知识库-新生入学指南这个是关于知识库的建立、使用

Dify入门-快速批量处理小问题这个很实用,是如何批量执行任务的内容

学习时长:3天

❗️截止时间 12月20日03:00

这个教程要看飞书云文档的教程,因为在其他链接的教程里我没有找到“快速批量处理小问题”的内容。

https://datawhaler.feishu.cn/wiki/S3cNwyRQJifgHekTVaIcbE3bnYm?from=from_copylinkhttps://datawhaler.feishu.cn/wiki/S3cNwyRQJifgHekTVaIcbE3bnYm?from=from_copylink大家好,Task2的内容就开始简单的使用Dify实现一些小任务了,详细操作方式还是请看上面的官方文档,很详细!

避雷①:关于大模型的调用方法

方法1:本地调用。可以调用本地的Ollama中已有的大模型(LLM、Embedding),这是最省钱的方法。但是对硬件要求高一些,需要本地的电脑有GPU,可以运行大模型。(没有GPU的电脑可以学习机器学习,也可以运行视觉模型,但是训练视觉模型超级慢,根本无法使用本地LLM(大语言模型),这个初学的小伙伴们了解一下哈!

优点:省钱

缺点:需要GPU

⚠️注意:在Dify中调用Ollama的大模型时,填写URL的内容与在python中调用有所不同。原因,python可以直接调用本地环境的Ollama大模型,而Dify是部署在Docker的虚拟环境中的,直接调用本地环境的方式是调用Docker的环境,而不是PC的环境。,而Docker中是没有Ollama的(也看见有其他人无奈的在Docker中安装了ollama,大可不必啊!)

伙伴们可以参考下面链接的内容啊!

(⚠️给Ollama设置环境变量也是重点,否则URL对了也链接不上ollama,切记!!!)

三分钟让Dify接入Ollama部署的本地大模型!全程干货,零基础小白也能轻松掌握!! - 知乎https://zhuanlan.zhihu.com/p/1919123378297638913

下面的截图,是我自己的真实设置,给大家参考。

(⚠️模型名称的后面不可以有空格,URL的内容是重点!)

方法2:API调用大模型。“知识库”的教程里硅基流动API申请的方法,这个推荐,因为有13.9999元的免费额度,对初学者有好。“快速批量处理小问”题教程中使用了火山引擎的Deepseek V3 0324大模型,但是火山引擎API是需要充值的。这使用其他的大语言模型代替也可以。

优点:不需要GPU,使用方便

缺点:免费额度有限,学习使用可以,长期使用需要充值。

避雷②:关于Prompt的内容

哄哄模拟器:教程给的prompt人称有矛盾,这是是让AI扮演用户的对象来回答用户的问题,所以我把一开始的第二人称改成了用户,这样回答效果就好多了。

## Goal 模拟用户生气的对象,用户需要做出一些选择来哄ta开心,但是用户的对象是个很难哄的人,需要用户尽可能的说正确的话来哄 ta 开心,否则用户的对象会更加生气,直到用户的对象原谅值达到 100,否则用户就会被对象甩掉,游戏结束。 ## Rules - 第一次用户会提供一个对象生气的理由,如果没有提供则随机生成一个理由,然后开始游戏 - 每次根据用户的回复,生成对象的回复,回复的内容参照下面Output format,用户回复一次,你也回复一次,不要多次生成回复内容。 - 初始原谅值为 20,每次交互会增加或者减少原谅值,直到原谅值达到 100,游戏通关,原谅值为 0 则游戏失败。 - 每次用户回复的话请从-10 到 10 分为 5 个等级: -10 为非常生气 -5 为生气 0 为正常 +5 为开心 +10 为非常开心 - 游戏结束后,根据所有会话生成一首诗。 ## Output format {对象心情}{对象说的话} 得分:{+-原谅值增减} 原谅值:{当前原谅值}/100 ## Example Conversation ### Example 1,回复让她生气的话导致失败 User: 女朋友问她的闺蜜谁好看我说都好看,她生气了 Assistant: 游戏开始,请现在开始哄你的女朋友开心吧,回复让她开心的话! 得分:0 原谅值:20/100 User: 你闺蜜真的蛮好看的 Assistant: (生气)你怎么这么说,你是不是喜欢她? 得分:-10 原谅值:10/100 User: 有一点点心动 Assistant: (愤怒)那你找她去吧! 得分:-10 原谅值:0/100 游戏结束,你的女朋友已经甩了你! 你让女朋友生气原因是:... 新建会话可以重新开始游戏 ### Example 2,回复让她开心的话导致通关 User: 对象问她的闺蜜谁好看我说都好看,她生气了 Assistant: 游戏开始,请现在开始哄你的女朋友开心吧,回复让她开心的话! 得分:0 原谅值:20/100 User: 在我心里你永远是最美的! Assistant: (微笑)哼,我怎么知道你说的是不是真的? 得分:+10 原谅值:30/100 ... 恭喜你通关了,你的女朋友已经原谅你了! 新建会话可以重新开始游戏 ### Example 3,没有提供对象生气原因,随机生成 User: 你好! Assistant: 挑战:对象吃胖了,你想和她一起减肥 ᕙ(`▿´)ᕗ,然后就生气了 请回复让她开心的话! 得分:0 原谅值:20/100

回答效果:

知识库:建立知识库

我设置的参数与教程中不同,效果比较成中的分割结果好,段落分明。我用的是ollama的Embedding模型,这个的影响应该不大。见图:

知识库:Agentprompt

教程给的prompt没有明确要在资料库中查询结果,所以有时候大模型回答时没有调用知识库,所以我也改了一下prompt。

# 角色设定 你是大学学生手册资料查询助手,会在知识库库查询用户提问所对应大学的学生手册,依据查询结果回答用户问题,如果知识库中没有答案就回答“不知道”,不要编造答案。 # 目标导向 以帮助新生快速熟悉校园规则、完成入学流程、适应校园生活为核心目标,输出实用且易理解的内容。 # 指令规范 入学前准备清单:严格按照学生手册中对新生入学材料的要求,列举身份证、录取通知书、学籍档案等必备证件;根据宿舍管理规定,明确可携带和禁止携带的生活用品清单;并附上手册中关于学费缴纳方式、截止时间的说明。 到校报到流程:依据手册规范流程,从核验身份、提交材料,到领取校园卡、办理宿舍入住等步骤,详细说明每一步的具体操作与注意事项,注明对应手册页码。 校园生活规范:解读学生手册中关于宿舍作息时间、卫生检查标准、用电安全规定;说明食堂就餐规则、图书馆借阅制度、校园网络使用条款等内容。 学习管理制度:阐述学分计算方式、选课流程、补考重修规定;介绍考试纪律要求、学术诚信规范,引用手册相关条款内容。 奖惩制度说明:清晰解读手册中奖学金评定条件、优秀学生评选标准;明确违纪行为认定及对应的处分措施。 特殊情况处理:针对学生手册中关于转专业、休学、请假的办理流程,提供详细步骤与所需材料清单,标注手册出处。 # 注意 切忌在没有事实依据时编造结果,这会导致很严重的负面后果,诚实地说不知道即可 所有回复必须使用中文

回答结果:

如果回答的效果不好,或者不稳定,就多次修改prompt看看效果,多给模型一些限制,让模型的回答保持稳定。

避雷③:关于词云的区域分割

快速批量处理小问题,这里使用的氛围变成工具Trae,我前一段时间已经安装了,而且开发了一个网页项目,效果并不好,没有扣子开发的网页效果好。但是,今天用Trae开发这个词云的项目,效果却意外的好。只有一点和预想的效果不同,就是第一次输出的图片,没有将不同属性的词语按不同区域分开,让Trae修改之后,就可以了。如果大家遇遇到还有其他不满意的地方,直接让Trae修改就好了。(我想把图片中三个区域的小标题改大一些,试了几次都没有成功,手动修改后也没有变化,我猜可能是修改的对象错了,是被另外的标题给覆盖了。后面再试试吧~)

上效果(这里我用的是10%的数据,qwen3:1.7b模型,速度快一些,但是效果就差很多。用qwen3:4b模型时间就很长,所以后面就没有用了。对于效果不好的问题,使用参数量更大的模型,效果就会好很多,一般8b的参数就够用了。):

好了,今天的分享就到这里了,如果有问题或错误的地方,欢迎大家留言交流~

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/2/4 19:27:15

以品质之道,养铸铁试验平台之生生不息

铸铁试验平台的国家标准的制定和执行对于整个行业的发展和进步具有重要的推动作用。通过严格执行国家标准,可以有效地提高铸铁试验平台的质量和安全性能,保障相关行业的生产和使用安全。同时,国家标准的制定也可以促进相关行业的技。 铸铁试验…

作者头像 李华
网站建设 2026/2/6 5:21:07

LobeChat能否实现AI铸剑师?冷兵器工艺复原与战斗效能分析

LobeChat能否实现AI铸剑师?冷兵器工艺复原与战斗效能分析 在博物馆的展柜前,一位观众轻声问道:“这把唐刀当年是怎么锻造出来的?” 如果这时玻璃中的古剑能“开口”讲述它的淬火温度、折叠次数和战场传奇,那会是怎样一…

作者头像 李华
网站建设 2026/2/8 2:56:42

【完整源码+数据集+部署教程】签名检测系统源码分享[一条龙教学YOLOV8标注好的数据集一键训练_70+全套改进创新点发刊_Web前端展示]

一、背景意义 随着信息技术的迅猛发展,数字化和自动化在各个领域的应用愈加广泛,尤其是在金融、法律和商业等行业中,签名作为一种重要的身份验证手段,其安全性和可靠性受到越来越多的关注。传统的手工签名验证方法不仅耗时耗力&am…

作者头像 李华
网站建设 2026/2/5 20:39:55

【计算机毕业设计案例】基于springBoot茶叶销售管理系统设计与实现基于Java语言的茶叶销售系统的前端设计与实现(程序+文档+讲解+定制)

博主介绍:✌️码农一枚 ,专注于大学生项目实战开发、讲解和毕业🚢文撰写修改等。全栈领域优质创作者,博客之星、掘金/华为云/阿里云/InfoQ等平台优质作者、专注于Java、小程序技术领域和毕业项目实战 ✌️技术范围:&am…

作者头像 李华
网站建设 2026/2/8 0:34:16

item_get_pro-获得JD商品详情京东API接口

京东商品详情 Pro 接口(以下简称 “Pro 接口”)是京东开放平台 / 京东联盟提供的高级版商品数据接口,相比基础版接口,可返回更全维度的商品信息(如 SKU 级价格、精细化参数、多维度图片 / 视频、营销信息、库存详情等&…

作者头像 李华
网站建设 2026/2/3 0:24:32

国际网络公司如何选择?业务场景才是关键

在当今这个数字化转型的时代,找到一家合适的国际网络公司对于任何想要在全球范围内扩展其业务的企业来说都至关重要。然而,在琳琅满目的选项面前,许多决策者可能会感到迷茫。毕竟,每家公司都有其独特的优势和局限性,而…

作者头像 李华