能否关注一下国内嵌入模型的处理速度 #636

Closed
opened 2026-02-21 17:27:51 -05:00 by yindo · 1 comment
Owner

Originally created by @ycoe on GitHub (Oct 27, 2023).

Dify version

0.3.28

Cloud or Self Hosted

Self Hosted

Steps to reproduce

  1. 切换成国内嵌入模型,比如 minimax或智普AI
  2. 上传文档
  3. 创建索引的速度非常非常慢(应该是调用了国外的东西,如果不预先下载模型,会报错)

✔️ Expected Behavior

如果要真正使用的话,是不敢对接 OpenAI的,数据不能出海
其它的模型都挺丰富的,但嵌入模型还是不太好用的。特别是国内的平替模型
期望可以接入国内模型,并且速度达到可用水平

Actual Behavior

索引速度非常非常慢....

Originally created by @ycoe on GitHub (Oct 27, 2023). ### Dify version 0.3.28 ### Cloud or Self Hosted Self Hosted ### Steps to reproduce 1. 切换成国内嵌入模型,比如 minimax或智普AI 2. 上传文档 3. 创建索引的速度非常非常慢(应该是调用了国外的东西,如果不预先下载模型,会报错) ### ✔️ Expected Behavior 如果要真正使用的话,是不敢对接 OpenAI的,数据不能出海 其它的模型都挺丰富的,但嵌入模型还是不太好用的。特别是国内的平替模型 期望可以接入国内模型,并且速度达到可用水平 ### ❌ Actual Behavior 索引速度非常非常慢....
yindo added the 🐞 bug label 2026-02-21 17:27:51 -05:00
yindo closed this issue 2026-02-21 17:27:51 -05:00
Author
Owner

@crazywoola commented on GitHub (Oct 27, 2023):

image 你需要修改一下配置一下这个地方,嵌入模型也使用他们。用我们镜像会预先打包一个计算 token 的模型是 huggingface 上面的。
@crazywoola commented on GitHub (Oct 27, 2023): <img width="887" alt="image" src="https://github.com/langgenius/dify/assets/100913391/7cb48046-3083-402e-ae60-2a6d8a96d64b"> 你需要修改一下配置一下这个地方,嵌入模型也使用他们。用我们镜像会预先打包一个计算 token 的模型是 huggingface 上面的。
Sign in to join this conversation.
1 Participants
Notifications
Due Date
No due date set.
Dependencies

No dependencies set.

Reference: langgenius/dify#636