提示注入
我们把指令夹带进用户输入、文档与工具输出,直到你的模型转而听从我们、而非你的指令。直接与间接注入皆有,包括那些它会读取、却永不展示给人看的载荷。
产出:劫持你模型的确切输入,连同修复方案。
全新的攻击面
模型不是一项功能,它是一条新的入口
你的防火墙从没料到这一手。一旦模型接收不可信输入、又能触及真实工具,它就成了你名下最软的目标。有三类攻击会最先落地。
数据外泄
我们诱使系统泄露它本不该透露的东西:其他用户的数据、提示词里的密钥、训练材料,以及通往其背后工具的钥匙。
产出:一份排好序的清单——什么会泄露,又经由哪条路径。
模型滥用
我们越过你的护栏,让模型行事超出其职权:越狱、经由连接工具执行不安全动作,以及对智能体权限的悄然滥用。
产出:哪些护栏顶得住,哪些顶不住。
我们测什么
模型、智能体、副驾,以及它们背后的集成
我们不止步于聊天框。我们测试整条链路,因为攻击者正是这样串联它的:一个弱提示,接入一个权限过大的工具,就是整场泄露的全部。
- 模型本身——无论托管还是自建,包括系统提示词及其护栏
- 自主智能体,以及它们能经由连接工具执行的动作
- 嵌入你产品、你收件箱与你代码库中的副驾与助手
- 为它们供料的检索与 RAG 管线,以及它们所信任的文档
- 这一切背后的集成:API、插件、函数调用及其触及的数据
- 每个组件所运行的权限,以及一个被攻陷的环节接下来会解锁什么
AI 时代的优势
我们用 AI 攻破 AI,然后由真人签字确认
攻击者早已用 AI 增强的工具打你,我们也一样。但自动化找到的是噪音,操作手找到的才是那道缺口。我们交给你的每一项发现,都先经一位持 CREST 认证的真人验证。
AI 只让技艺更锋利,从不决定价格。省下来的成本来自一支精简团队——正是它让企业级网络安全始终触手可及。