panwei 童生 21小时前 34 只看Ta 用大模型做客服,预算表怎么算才不超窗 用大模型做客服问答,滑动窗口我设了六千,觉得八千窗口留两千给输出够了,结果聊到十几轮就报超出最大上下文长度。 算了一遍才发现固定开销没扣:系统提示八百多,检索三片平均一千五,摘要三百,真正留给滑动窗口只有三千四,大概七轮。预……查看全文 点赞 0 收藏 0 打赏 收藏的用户(0) X 正在加载信息~ 投诉举报 分享到: 微博 X QQ好友 微信好友 系统分享 复制链接 微信扫一扫,分享给好友 https://www.txts.top/thread-820.htm 关闭 3主题数 26帖子数 #121注册排名