Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

ERNIE模型对message的轮次,role的限制 #97

Open
thinkall opened this issue Nov 28, 2023 · 3 comments
Open

ERNIE模型对message的轮次,role的限制 #97

thinkall opened this issue Nov 28, 2023 · 3 comments
Assignees

Comments

@thinkall
Copy link

thinkall commented Nov 28, 2023

如下图所示,错误示例及错误代码。ERNIE模型对message的轮次,role有一定的限制,但这些限制会导致模型无法在复杂场景下应用。

image

image

这个限制在openAI里是没有的:
image

@Bobholamovic
Copy link
Member

你好,目前ERNIE Bot API做出这样的约束我想应该主要是考虑到在“对话”场景中“你一句,我一句”是符合直觉的。请问具体是什么样的应用场景中存在图中所示的情况呀?

目前如果需要支持连续多条同样role的message的话,我建议可以添加一个中间层,将连续的同样role的message内容拼接,构成一条message。

@Bobholamovic Bobholamovic self-assigned this Nov 30, 2023
@thinkall
Copy link
Author

thinkall commented Dec 1, 2023

你好,目前ERNIE Bot API做出这样的约束我想应该主要是考虑到在“对话”场景中“你一句,我一句”是符合直觉的。请问具体是什么样的应用场景中存在图中所示的情况呀?

目前如果需要支持连续多条同样role的message的话,我建议可以添加一个中间层,将连续的同样role的message内容拼接,构成一条message。

如果我有多个agent,一些agent背后是ERNIE Bot, 一些是human input, 这些agent之间进行对话,就会出问题。但把ERNIE bot换成其他的LLM,就不会出问题。事实上,这个限制是没有必要的。不限制,并不影响你一句我一句。

@Bobholamovic
Copy link
Member

辛苦 @sijunhe @juncaipeng 模型侧是否有必要支持这一场景~

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants