Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

思路很厉害,不过我很好奇为什么对话可以这么长? #1

Open
diemus opened this issue Mar 27, 2023 · 11 comments
Open

Comments

@diemus
Copy link

diemus commented Mar 27, 2023

openai的对话长度应该只有4096个token而已,很难完成特别大的工程,一般都是对小的函数进行一下修改。为什么你可以连着聊那么多,chatgpt还能记住上下文呢?

@szpnygo
Copy link
Owner

szpnygo commented Mar 27, 2023

我用的GPT4,GPT3.5难以实现这个效果,聊一会就忘记之前说的了。GPT4是32K的token

@diemus
Copy link
Author

diemus commented Mar 27, 2023

难怪,我用gpt3.5很少能写这种规模的代码,不过gpt4也是有限制的,你用的plus的网页版是吗?这么长的连续上下文,都凑够5页了,估计openai后台也是用了压缩的,不知道怎么个压缩算法。我其实想过一个思路,就是让gpt后台把每个对话要求提取出来,放到system prompt里,然后每次只携带系统指令+上次回复+用户问题。看上去就能想无限对话一样。

@szpnygo
Copy link
Owner

szpnygo commented Mar 27, 2023

openai自己做的是,说的太长了,就让GPT自己把上面的聊天内容总结一下再重新代入。
不过对于写代码来说,这样还是会有问题,代码是无法被总结的。所以我经常说的太多了,他有些代码忘了,就把他之前写的代码重新输入进去,这样他就可以记起来了。所以要时刻关注他写的代码是否符合之前的风格。

仓库里最近又完成的一个提交,让他把代码拆分成更小的文件。方便以后可以直接开始一轮新对话,针对单个文件进行优化。

@diemus
Copy link
Author

diemus commented Mar 27, 2023

嗯嗯,感觉openai自己的web做了很多优化,和其他人单纯封装api接口那种还是不一样的。web那个明显感觉可以无限聊下去。我看你prompt写的挺专业的,看来没少用ai写代码😄

@go-maple
Copy link

谢谢。这个很赞。并且把对话内容公布出来了。其实这个prompt需要的是准确描述+gpt4比较长的上下文。很适合做代码生成的。所以很颠覆很多东西

@sohaha
Copy link

sohaha commented Mar 28, 2023

这个项目真赞,现在不是做套壳的真难得,关注一波,期待后面的更新

@topcss
Copy link

topcss commented Mar 29, 2023

兄弟你这个项目的制品流程分享一下撒,有没有群一起聊聊。

@szpnygo
Copy link
Owner

szpnygo commented Mar 29, 2023

兄弟你这个项目的制品流程分享一下撒,有没有群一起聊聊。

目前没有,人多的话我可以建一个。流程其实都在仓库里的聊天记录中

@shuhangpeng
Copy link

同样对群聊感兴趣举手,想看看项目的制品流程,btw有没有想法组建一个基于chatgpt做有趣的app开发者的群,我觉得会很有意思lol

@Leizhenpeng
Copy link

目测要火啊哈哈,加油

@hnuzhoulin
Copy link

火钳刘明。看来还是的gpt4啊,不过4现在限流也挺厉害,3小时只能25次,如果交互快的话,一天只能协作工作一小时

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

8 participants