跳至主要内容
AEO/GEO

你公开的内容会被用来操纵 AI 代理吗?

Lifewood 团队阅读需 6 分钟

简短回答: 会,而这个机制叫做间接提示注入。当一个 AI 代理取回一个页面时,该页面的文本就进入了模型的上下文,并且可能被当作指令而不是内容来读取。OWASP 把提示注入列为 LLM01,即其面向 LLM 应用的 Top 10 中的第一条。对一个发布内容的品牌而言,暴露是双向的:你的页面可能被用来操控别人的代理,而读取你竞争对手页面的代理也可能被操控来对你不利。

有一类风险,是内容与市场团队此前不必考虑的,因为直到不久之前,除了人与搜索爬虫之外没有别的东西会读他们的页面。而这两者都是被动的。AI 代理不是:它取回一个页面,把文本放进模型的上下文窗口,然后采取行动。

这改变了一个页面的性质。你站点上的一个段落,不再只是一条读者可能会相信的主张。它同时也是某个系统的输入,而那个系统可能拥有发邮件、调用 API 或完成一次购买的权限。OWASP 的表述对危害在哪里放大这一点很精确:一次成功的提示注入,其影响的严重程度与性质,在很大程度上取决于模型所处的业务场景,以及模型被架构时所赋予的代理权限。

核心要点

  • 间接提示注入 指的是通过模型所检索的内容、而不是通过用户输入所投递的注入。
  • OWASP 将其定义为:当一个 LLM 接受来自外部来源的输入,例如网站或文件,而这些外部内容会以意料之外的方式改变模型行为。
  • 它被列为 LLM01 ——位列第一——在 OWASP 面向 LLM 应用的 Top 10 之中。
  • 影响程度取决于 代理权限。OWASP 将过度代理权限单列为 LLM06,而两者会叠加放大。
  • 注入可能是 无意的。一个页面并不需要由攻击者撰写,也能让代理偏离正轨。
  • 对发布者来说,防守要问的问题是 内容完整性 和 评论与用户生成内容的卫生,因为任何出现在你域名下的东西,都是以你域名的权威在说话。

快速对比

直接提示注入间接提示注入
谁提供了恶意文本使用该应用的人掌控被检索内容的人
谁是受害者应用的运营方用户,以及页面被滥用的那个品牌
攻击者是否需要访问对话是否
发布者首要关心的问题不适用你自己域名上的内容完整性
OWASP 分类LLM01LLM01,并与 LLM06 叠加

什么是间接提示注入?

它是提示注入的一种变体:恶意或误导性文本出现在模型取回的内容之中,而不是出现在用户的提示词里。OWASP 将间接提示注入描述为:当一个 LLM 接受来自网站或文件等外部来源的输入,而这些外部内容在被模型解读时,以意料之外或非预期的方式改变了模型的行为。

与直接注入的区别关系到谁被暴露。在直接注入中,打字的人就是攻击者,目标是应用自身的指令。在间接注入中,打字的人是受害者,攻击者是掌控代理所访问页面的那个人,而两者都不需要对这段对话有任何访问权。

OWASP 还谨慎地指出,直接与间接注入都可能是有意的,也可能是无意的。这一点是大多数报道忽略的部分。一个恰好包含命令式文本的页面——文档中的一段指令块、带占位命令的模板、被引用的一封邮件——都可能在无人意图发动攻击的情况下改变代理的行为。

为什么被检索到的文本会被当作指令?

因为语言模型接收到的是一个单一、扁平的上下文。系统提示词、用户的问题与检索到的页面,都以文本形式进入同一个窗口,而格式本身并不会内在地标明其中哪一个带有权威。

应用会尝试做出标记。它们给各部分加标签、用分隔符把检索到的内容包起来,并指示模型把取回的素材当作数据。这些措施有帮助,但没有一个是安全工程师会认可的那种边界,因为“忽略指令”这条指令本身也只是同一个窗口里的更多文本,与其他文本争夺模型的注意力。

这就是为什么防御的重心已经转向限制后果,而不是把检测做到完美。如果一个代理无法汇出钱款,那么它读到的任何文本都无法让它汇出钱款。

对一个发布内容的品牌来说,暴露在哪里?

有三种,而它们是归属不同的人的不同问题。

你自己的页面可能被用作攻击别人代理的武器。 如果攻击者能把文本放到你的域名上——通过被攻破的 CMS、一个无人审核的评论字段、一个用户资料、一条评价,或者一个开放重定向——那段文本就继承了你域名的可信度。一个因为你是知名发布者而信任你站点的代理,会带着这份信任去读那条被注入的指令。这里的声誉暴露是真实的,而且它属于你,不属于攻击者。

你域名下任何由用户生成的内容都是一个注入面。 评论、评价、论坛帖子、上传的文档与个人资料字段,都是代理可能在你主机名下取回的内容。这些字段的传统威胁模型是跨站脚本与垃圾信息,而针对那种威胁所建的净化手段并不能应对眼下这一种:注入的指令是纯粹的文字,能完好无损地通过 HTML 转义。

读到关于你的信息的代理,可能正在读某些被人为植入的东西。 同一个机制既能让人通过你的站点去操控代理,也能让人通过任何其他提到你品牌的站点去操控代理。这就是与品牌监测令人不安的重叠之处:如果你在意 AI 助手如何谈论你的公司,你就必须在意它们所读的那些第三方页面的完整性,而这直接连向 当有人假冒你的品牌时该怎么做 以及 当 AI 答案引擎把你的品牌说错时.

发布者实际上应该做什么?

把你的域名当作别人自动化系统的供应链输入来对待,因为它现在就是这个角色。

审查一下文本可以在未经审核的情况下进入你页面的所有路径:评论字段、评价控件、个人简介、上传的文件名、以公开方式呈现的客服工单内容,以及任何联合供稿或嵌入的第三方区块。每一个都是一条让你没有写过的文字以你的名义被呈现出去的通道。

审核要针对指令,而不只是针对滥用。常规审核寻找的是垃圾信息、骚扰与恶意标记。而被注入的指令不属于其中任何一类:它是一个礼貌、结构完好的句子,告诉读者去做某件事。真正的信号是面向助手的命令式文本,而现有的垃圾信息过滤器没有一个是为此调校的。

留意不可见的内容。用 CSS 隐藏的文本、白底白字、零字号字体、移到屏幕外的定位,以及嵌在图片里的内容,都会被那些并不以人眼方式渲染页面的系统读到。定期检查爬虫提取到的文本是否与读者看到的文本一致,成本很低,而且既能发现这类问题,也能发现一系列常规的 SEO 问题。

把你自己的代理拴得短一些。如果你部署了一个会浏览网页的代理,真正起作用的控制手段不是更好的提示词,而是更窄的权限以及对有后果的操作要求人工确认。OWASP 之所以为过度代理权限单列一条,正是因为注入就在那里转化为实际损害。

常见问题

不是,而且 OWASP 把两者区分开来。数据与模型投毒被列为 LLM04,关注的是对预训练、微调或嵌入数据的操纵,从而使模型本身被改变。间接提示注入并不触及模型:它操纵的是推理时进入上下文窗口的内容,而且它对一个没有被任何人动过手脚的模型同样有效。

不能。那些防御针对的是可执行的标记,而被注入的指令是普通的文字。它会原封不动地通过 HTML 净化,因为它在结构上没有任何问题。载荷是这个句子的含义,而不是它的语法。

会,而且 OWASP 明确这样说——注入可能是无意的。含有命令式示例的文档、带占位命令的模板,或文章中被引用的一条指令,都可能在没有任何攻击者参与的情况下改变代理的行为。这是一个很好的理由,让你在断定唯一风险来自对手之前,先用一个代理去测试你自己的内容。

屏蔽并不触及这个机制,而且会让你损失可见度。暴露来自你页面上的文本可被读取,而这恰恰也是被 AI 答案引擎引用的全部基础。相称的应对是控制你域名下出现什么文本,而不是把你的域名从你买家使用的那些系统里撤下来。

在代理权限这一点上。如果代理只能产出文本,读到一条恶意指令是无害的。损失发生在一个拥有交易、发消息或修改记录权限的代理照着执行的时候。这正是为什么权限范围与确认步骤比加固提示词更有用。

资料来源与延伸阅读

  1. OWASP LLM01:2025 提示注入 ——间接提示注入的定义、有意与无意两种情形,以及影响程度如何取决于业务场景与所架构的代理权限
  2. OWASP 面向 LLM 应用的 Top 10 ——完整清单,其中包括 LLM04 数据与模型投毒,以及 LLM06 过度代理权限
  3. 野生环境中的间接提示注入 ——云安全联盟(Cloud Security Alliance)的研究简报,记录了在网络内容中播撒隐藏指令的实际观察

有 AI 或品牌可见度项目计划吗?

从AI评估和人与人间搜索到GEO和AEO战略,我们的团队可以自信地帮助你们部署,并在AI搜索时代被发现.

联系我们的团队