有人知道怎么提高命中缓存率吗 我就是用chat box接DeepSeek api来角色扮演。 每次就发一段大概200token的角色设定,然后接着聊。上下文消息上限设10或者20。有开自动压缩。 每次聊到3k token左右就压缩对话接着聊。 结果一看命中缓存率好低。 跪求老师的帮助 #Deepseek #chatbox #chatbox教程#deepseek
有人知道怎么提高命中缓存率吗 我就是用chat box接DeepSeek api来角色扮演。 每次就发一段大概200token的角色设定,然后接着聊。上下文消息上限设10或者20。有开自动压缩。 每次聊到3k token左右就压缩对话接着聊。 结果一看命中缓存率好低。 跪求老师的帮助 #Deepseek #chatbox #chatbox教程#deepseek