目前在实时互动系统中支持接入各大厂商的大语言模型并可以上传私有知识。
-
OpenAI兼容协议系列:大语言模型厂商模型都支持openai兼用的协议接口,这样的服务商包括deepseek,kimi,通一千问,腾讯hunyuan等,当然也包括openai。
-
dify协议:dify不兼容openai,它是在各大模型厂商基础上封装了一套独立的协议接口。
llm_venture: dify or openai
llm_base_url: https://api.dify.ai/v1
llm_api_key: app-UD8ASjzl1wb2L*******
比如如果想使用deepseek大模型可以这样用:
另外还有一些参数可以配置llm的具体选择模型,以及是否使用流响应等。
https://df58aaahqa.feishu.cn/docx/OWZ3dSAZ0oiOahxBVgScDaLQngf
还可以设置该应用使用的大语言模型厂商,比如接入腾讯hunyuan或者openai,可以这样绑定自己的密钥:
同时dify也暴露出来了api接口,可以将dify集成到其他平台:
比如我这里将他集成到我们的数字人实时互动系统,只需要填写对应dify的密钥和访问地址,就可以在数字人互动中调用知识库。