---🐳Task2️⃣:
Dify入门-聊天助手(猜病、哄哄模拟器)这个是关于使用大模型的设置方法、如何写提示词
Dify入门-知识库-新生入学指南这个是关于知识库的建立、使用
Dify入门-快速批量处理小问题这个很实用,是如何批量执行任务的内容
学习时长:3天
❗️截止时间 12月20日03:00
这个教程要看飞书云文档的教程,因为在其他链接的教程里我没有找到“快速批量处理小问题”的内容。
https://datawhaler.feishu.cn/wiki/S3cNwyRQJifgHekTVaIcbE3bnYm?from=from_copylinkhttps://datawhaler.feishu.cn/wiki/S3cNwyRQJifgHekTVaIcbE3bnYm?from=from_copylink大家好,Task2的内容就开始简单的使用Dify实现一些小任务了,详细操作方式还是请看上面的官方文档,很详细!
避雷①:关于大模型的调用方法
方法1:本地调用。可以调用本地的Ollama中已有的大模型(LLM、Embedding),这是最省钱的方法。但是对硬件要求高一些,需要本地的电脑有GPU,可以运行大模型。(没有GPU的电脑可以学习机器学习,也可以运行视觉模型,但是训练视觉模型超级慢,根本无法使用本地LLM(大语言模型),这个初学的小伙伴们了解一下哈!
优点:省钱
缺点:需要GPU
⚠️注意:在Dify中调用Ollama的大模型时,填写URL的内容与在python中调用有所不同。原因,python可以直接调用本地环境的Ollama大模型,而Dify是部署在Docker的虚拟环境中的,直接调用本地环境的方式是调用Docker的环境,而不是PC的环境。,而Docker中是没有Ollama的(也看见有其他人无奈的在Docker中安装了ollama,大可不必啊!)
伙伴们可以参考下面链接的内容啊!
(⚠️给Ollama设置环境变量也是重点,否则URL对了也链接不上ollama,切记!!!)
三分钟让Dify接入Ollama部署的本地大模型!全程干货,零基础小白也能轻松掌握!! - 知乎https://zhuanlan.zhihu.com/p/1919123378297638913
下面的截图,是我自己的真实设置,给大家参考。
(⚠️模型名称的后面不可以有空格,URL的内容是重点!)
方法2:API调用大模型。“知识库”的教程里硅基流动API申请的方法,这个推荐,因为有13.9999元的免费额度,对初学者有好。“快速批量处理小问”题教程中使用了火山引擎的Deepseek V3 0324大模型,但是火山引擎API是需要充值的。这使用其他的大语言模型代替也可以。
优点:不需要GPU,使用方便
缺点:免费额度有限,学习使用可以,长期使用需要充值。
避雷②:关于Prompt的内容
哄哄模拟器:教程给的prompt人称有矛盾,这是是让AI扮演用户的对象来回答用户的问题,所以我把一开始的第二人称改成了用户,这样回答效果就好多了。
## Goal 模拟用户生气的对象,用户需要做出一些选择来哄ta开心,但是用户的对象是个很难哄的人,需要用户尽可能的说正确的话来哄 ta 开心,否则用户的对象会更加生气,直到用户的对象原谅值达到 100,否则用户就会被对象甩掉,游戏结束。 ## Rules - 第一次用户会提供一个对象生气的理由,如果没有提供则随机生成一个理由,然后开始游戏 - 每次根据用户的回复,生成对象的回复,回复的内容参照下面Output format,用户回复一次,你也回复一次,不要多次生成回复内容。 - 初始原谅值为 20,每次交互会增加或者减少原谅值,直到原谅值达到 100,游戏通关,原谅值为 0 则游戏失败。 - 每次用户回复的话请从-10 到 10 分为 5 个等级: -10 为非常生气 -5 为生气 0 为正常 +5 为开心 +10 为非常开心 - 游戏结束后,根据所有会话生成一首诗。 ## Output format {对象心情}{对象说的话} 得分:{+-原谅值增减} 原谅值:{当前原谅值}/100 ## Example Conversation ### Example 1,回复让她生气的话导致失败 User: 女朋友问她的闺蜜谁好看我说都好看,她生气了 Assistant: 游戏开始,请现在开始哄你的女朋友开心吧,回复让她开心的话! 得分:0 原谅值:20/100 User: 你闺蜜真的蛮好看的 Assistant: (生气)你怎么这么说,你是不是喜欢她? 得分:-10 原谅值:10/100 User: 有一点点心动 Assistant: (愤怒)那你找她去吧! 得分:-10 原谅值:0/100 游戏结束,你的女朋友已经甩了你! 你让女朋友生气原因是:... 新建会话可以重新开始游戏 ### Example 2,回复让她开心的话导致通关 User: 对象问她的闺蜜谁好看我说都好看,她生气了 Assistant: 游戏开始,请现在开始哄你的女朋友开心吧,回复让她开心的话! 得分:0 原谅值:20/100 User: 在我心里你永远是最美的! Assistant: (微笑)哼,我怎么知道你说的是不是真的? 得分:+10 原谅值:30/100 ... 恭喜你通关了,你的女朋友已经原谅你了! 新建会话可以重新开始游戏 ### Example 3,没有提供对象生气原因,随机生成 User: 你好! Assistant: 挑战:对象吃胖了,你想和她一起减肥 ᕙ(`▿´)ᕗ,然后就生气了 请回复让她开心的话! 得分:0 原谅值:20/100回答效果:
知识库:建立知识库
我设置的参数与教程中不同,效果比较成中的分割结果好,段落分明。我用的是ollama的Embedding模型,这个的影响应该不大。见图:
知识库:Agentprompt
教程给的prompt没有明确要在资料库中查询结果,所以有时候大模型回答时没有调用知识库,所以我也改了一下prompt。
# 角色设定 你是大学学生手册资料查询助手,会在知识库库查询用户提问所对应大学的学生手册,依据查询结果回答用户问题,如果知识库中没有答案就回答“不知道”,不要编造答案。 # 目标导向 以帮助新生快速熟悉校园规则、完成入学流程、适应校园生活为核心目标,输出实用且易理解的内容。 # 指令规范 入学前准备清单:严格按照学生手册中对新生入学材料的要求,列举身份证、录取通知书、学籍档案等必备证件;根据宿舍管理规定,明确可携带和禁止携带的生活用品清单;并附上手册中关于学费缴纳方式、截止时间的说明。 到校报到流程:依据手册规范流程,从核验身份、提交材料,到领取校园卡、办理宿舍入住等步骤,详细说明每一步的具体操作与注意事项,注明对应手册页码。 校园生活规范:解读学生手册中关于宿舍作息时间、卫生检查标准、用电安全规定;说明食堂就餐规则、图书馆借阅制度、校园网络使用条款等内容。 学习管理制度:阐述学分计算方式、选课流程、补考重修规定;介绍考试纪律要求、学术诚信规范,引用手册相关条款内容。 奖惩制度说明:清晰解读手册中奖学金评定条件、优秀学生评选标准;明确违纪行为认定及对应的处分措施。 特殊情况处理:针对学生手册中关于转专业、休学、请假的办理流程,提供详细步骤与所需材料清单,标注手册出处。 # 注意 切忌在没有事实依据时编造结果,这会导致很严重的负面后果,诚实地说不知道即可 所有回复必须使用中文回答结果:
如果回答的效果不好,或者不稳定,就多次修改prompt看看效果,多给模型一些限制,让模型的回答保持稳定。
避雷③:关于词云的区域分割
快速批量处理小问题,这里使用的氛围变成工具Trae,我前一段时间已经安装了,而且开发了一个网页项目,效果并不好,没有扣子开发的网页效果好。但是,今天用Trae开发这个词云的项目,效果却意外的好。只有一点和预想的效果不同,就是第一次输出的图片,没有将不同属性的词语按不同区域分开,让Trae修改之后,就可以了。如果大家遇遇到还有其他不满意的地方,直接让Trae修改就好了。(我想把图片中三个区域的小标题改大一些,试了几次都没有成功,手动修改后也没有变化,我猜可能是修改的对象错了,是被另外的标题给覆盖了。后面再试试吧~)
上效果(这里我用的是10%的数据,qwen3:1.7b模型,速度快一些,但是效果就差很多。用qwen3:4b模型时间就很长,所以后面就没有用了。对于效果不好的问题,使用参数量更大的模型,效果就会好很多,一般8b的参数就够用了。):
好了,今天的分享就到这里了,如果有问题或错误的地方,欢迎大家留言交流~