是否可以支持直接输出原始分段里的答案部分 #594

Closed
opened 2026-02-21 17:27:42 -05:00 by yindo · 5 comments
Owner

Originally created by @leslie2046 on GitHub (Oct 16, 2023).

Originally assigned to: @takatost on GitHub.

Provide a description of the help you need

图片
如图所示,对于政府/银行客户等严肃的使用场景,不希望更改答案,因为大模型会基于原始文本给添油加醋,狗尾续貂。:)
我们给银行的知识库是已经整理好的问答对(是经过了银行审核认可的),我希望可以支持原始答案输出模式,即检索到最相似的问题,就直接输出原始文本作为答案,而且这个答案可能是富文本的(HTML/Markdown).

Originally created by @leslie2046 on GitHub (Oct 16, 2023). Originally assigned to: @takatost on GitHub. ### Provide a description of the help you need ![图片](https://github.com/langgenius/dify/assets/10449699/c4d45b8e-4013-48f4-8732-789303f1a8a2) 如图所示,对于政府/银行客户等严肃的使用场景,不希望更改答案,因为大模型会基于原始文本给添油加醋,狗尾续貂。:) 我们给银行的知识库是已经整理好的问答对(是经过了银行审核认可的),我希望可以支持原始答案输出模式,即检索到最相似的问题,就直接输出原始文本作为答案,而且这个答案可能是富文本的(HTML/Markdown).
yindo closed this issue 2026-02-21 17:27:42 -05:00
Author
Owner

@leslie2046 commented on GitHub (Oct 16, 2023):

以下是我这么多年做机器人的一些思考,有些场景(应用)是要求在知识库(即数据集)里找不到答案就直接输出“对不起,我不知道”,有些场景是要求超出知识库的部分能够用大模型来兜底回答。
1.所以我觉得从大的方面来说应用应该要能配置无答案的后处理流程(大模型直接回答/输出默认的话术)
2.从细节上来说,就是应用支持配置答案的来源(数据集/API扩展)
3.答案应该支持数据集中检索出的原始文本中的答案部分作为答案。
4.支持富文本的输出,因为可能需要展示图文混排的答案。
5.我们老板提出“下一步问题建议”功能能否支持训练,训练得到的模型可以根据历史的对话记录来预测对下一轮最可能的3个问题进行预测。

@leslie2046 commented on GitHub (Oct 16, 2023): 以下是我这么多年做机器人的一些思考,有些场景(应用)是要求在知识库(即数据集)里找不到答案就直接输出“对不起,我不知道”,有些场景是要求超出知识库的部分能够用大模型来兜底回答。 1.所以我觉得从大的方面来说应用应该要能配置无答案的后处理流程(大模型直接回答/输出默认的话术) 2.从细节上来说,就是应用支持配置答案的来源(数据集/API扩展) 3.答案应该支持数据集中检索出的原始文本中的答案部分作为答案。 4.支持富文本的输出,因为可能需要展示图文混排的答案。 5.我们老板提出“下一步问题建议”功能能否支持训练,训练得到的模型可以根据历史的对话记录来预测对下一轮最可能的3个问题进行预测。
Author
Owner

@crazywoola commented on GitHub (Oct 21, 2023):

对了,你有加我微信吗 crazyphage

@crazywoola commented on GitHub (Oct 21, 2023): 对了,你有加我微信吗 crazyphage
Author
Owner

@lethe3000 commented on GitHub (Nov 6, 2023):

I think dify can provide an app model or an option named "retrieve only" that just embedding user's query and show top-k results from vector db.

@lethe3000 commented on GitHub (Nov 6, 2023): I think dify can provide an app model or an option named "retrieve only" that just embedding user's query and show top-k results from vector db.
Author
Owner

@leslie2046 commented on GitHub (Nov 21, 2023):

检索命中后处理:

  1. 直接输出最高的答案
    2.LLM生成答案
    检索未命中后处理:
    1.输出固定的话术
    2.LLM生成答案
@leslie2046 commented on GitHub (Nov 21, 2023): 检索命中后处理: 1. 直接输出最高的答案 2.LLM生成答案 检索未命中后处理: 1.输出固定的话术 2.LLM生成答案
Author
Owner

@crazywoola commented on GitHub (Dec 19, 2023):

目前使用 Annotation 应该能够行了,加上数据集的全文检索。如果有问题可以再开一个新的 Issue

@crazywoola commented on GitHub (Dec 19, 2023): 目前使用 Annotation 应该能够行了,加上数据集的全文检索。如果有问题可以再开一个新的 Issue
Sign in to join this conversation.
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: langgenius/dify#594