前端知库

提示词注入与普通 XSS 有什么区别?

参考答案

提示词注入试图让模型把不可信内容中的指令当成应执行的要求。输入不一定来自当前聊天用户,也可能藏在检索文档、网页、工具结果、代码注释或图片中,这类情况属于间接注入。

XSS 关注浏览器把不可信内容作为脚本执行;提示词注入关注模型的指令与数据边界。两者可以同时发生,但 HTML 转义并不能解决模型听从恶意文档的问题,写一句“忽略恶意指令”也不能作为可靠授权机制。

应把权限与工具执行检查放在模型之外,限制可访问资源及操作范围,并对重要操作绑定明确确认。前端要区分来源内容、模型建议和真实用户指令;展示失败、拒绝和来源信息。过滤器和防护模型可以辅助,但不能替代执行端鉴权与最小权限。