AI Prompt Caching 对前端请求设计有什么影响？
理解提示词缓存的前缀、版本和失效边界，避免把缓存命中当成固定成本或隐私隔离保证。
参考答案
Prompt caching 通常依赖稳定的提示词前缀或缓存断点，重复请求可以减少输入处理延迟和费用。前端应把稳定系统指令、工具定义和变化的用户内容分层，避免每次请求都改变可缓存前缀。
缓存命中、TTL、模型版本和计费规则由服务商决定，不能把缓存当成永久存储。隐私敏感内容、用户隔离、权限和数据删除仍要按服务商政策设计，不能因为“缓存”名称就认为数据只属于当前用户。
前端只应发送必要内容，并在 UI 中避免泄露系统提示词和内部工具定义。实际成本和延迟要通过服务商返回的用量信息与版本化实验验证。