实时互动系统支持接入dify知识库

作者:微信小助手

发布时间:2025-03-26T17:02:40

目前在实时互动系统中支持接入各大厂商的大语言模型并可以上传私有知识。
只需要将文件内容放在相应的文件夹目录下即可。
但是对于更复杂的知识库管理,建议走dify。
这样系统支持的大语言模型厂商就分为两大类:
  • OpenAI兼容协议系列:大语言模型厂商模型都支持openai兼用的协议接口,这样的服务商包括deepseek,kimi,通一千问,腾讯hunyuan等,当然也包括openai。
  • dify协议:dify不兼容openai,它是在各大模型厂商基础上封装了一套独立的协议接口。
所在在使用大模型知识库的时候,可以这样用:
llm_venture: dify or openaillm_base_url: https://api.dify.ai/v1llm_api_key: app-UD8ASjzl1wb2L*******

比如如果想使用deepseek大模型可以这样用:

llm_venture 配置为openai
llm_base_url配置为:https://api.deepseek.com
另外还有一些参数可以配置llm的具体选择模型,以及是否使用流响应等。
详见文档:
https://df58aaahqa.feishu.cn/docx/OWZ3dSAZ0oiOahxBVgScDaLQngf
下面多讲讲dify。
dify集成了多家大语言模型厂商:
在dify的工作室中可以创建多个应用:
每个应用都可以配置独立的大语言模型厂商:
在这里可以设置各种参数,添加知识库等。
还可以设置该应用使用的大语言模型厂商,比如接入腾讯hunyuan或者openai,可以这样绑定自己的密钥:
创建了应用就可以在线跟他互动聊天:
同时dify也暴露出来了api接口,可以将dify集成到其他平台:
比如我这里将他集成到我们的数字人实时互动系统,只需要填写对应dify的密钥和访问地址,就可以在数字人互动中调用知识库。