llm的api是无状态的，每次调用都需要输入以前的对话历史

agent的任务记忆、模型记忆、KVCache、缓存命中、模型上下文窗口五个概念之间的联系。任务记忆得靠传对话历史来维持模型api调用一次后模型的KVCache就会被搬走。缓存命中是根据token前缀匹配出以前算出的KVCache然后补算新的地方。要是没有给模型对话历史服务器就找不到以前的KVCache模型就得重算KVCache就会失去记忆。上下文窗口指的是KVCache的大小相当于记忆量的大小。