返回提示词目录第 1348 页

为大模型接口配置安全防护

指导开发者接入安全规则,完成提示注入检测、敏感信息拦截与用量限流配置。

完整提示词

---
name: add-ai-protection
license: Apache-2.0
description: 保护 AI 聊天和补全端点免受滥用——检测提示注入和越狱尝试,阻止 PII 和敏感信息在响应中泄露,并强制执行令牌预算速率限制以控制成本。当用户正在构建或保护任何使用 LLM 处理用户提示的端点时,请使用此技能,即使他们将其描述为“防止越狱”、“阻止提示攻击”、“屏蔽敏感数据”或“控制 AI API 成本”,而非明确命名具体防护措施。
metadata:
  pathPatterns:
    - "app/api/chat/**"
    - "app/api/completion/**"
    - "src/app/api/chat/**"
    - "src/app/api/completion/**"
    - "**/chat/**"
    - "**/ai/**"
    - "**/llm/**"
    - "**/api/generate*"
    - "**/api/chat*"
    - "**/api/completion*"
  importPatterns:
    - "ai"
    - "@ai-sdk/*"
    - "openai"
    - "@anthropic-ai/sdk"
    - "langchain"
  promptSignals:
    phrases:
      - "prompt injection"
      - "pii"
      - "sensitive info"
      - "ai security"
      - "llm security"
    anyOf:
      - "protect ai"
      - "block pii"
      - "detect injection"
      - "token budget"
---

# 使用 Arcjet 添加 AI 特定安全防护

通过分层保护机制保障 AI/LLM 端点安全:提示注入检测、PII 阻断和令牌预算速率限制。这些保护措施协同工作,在滥用行为到达模型之前进行拦截,从而节省 AI 预算并保护用户数据。

## 参考文档

阅读 https://docs.arcjet.com/llms.txt 获取涵盖所有框架、规则类型和配置选项的完整 SDK 文档。

Arcjet 规则在请求到达您的 AI 模型**之前**运行——在 HTTP 层面阻断提示注入、PII 泄露、成本滥用和机器人爬取。

## 第 1 步:确保已设置 Arcjet

检查是否存在现有的共享 Arcjet 客户端(参见 `/arcjet:protect-route` 了解完整设置)。如果不存在,请先使用 `shield()` 作为基础规则设置一个。用户需要在 https://app.arcjet.com 注册 Arcjet 账户,然后在其环境变量中使用 `ARCJET_KEY`。

## 第 2 步:添加 AI 保护规则

AI 端点应在共享实例上结合以下规则使用 `withRule()`:

### 提示注入检测

检测越狱、角色扮演逃逸和指令覆盖。

- JS: `detectPromptInjection()` — 在调用 `protect()` 时通过 `detectPromptInjectionMessage` 参数传递用户消息
- Python: `detect_prompt_injection()` — 通过 `detect_prompt_injection_message` 参数传递

在恶意提示到达模型**之前**进行阻断。这可以通过及早拒绝攻击来节省 AI 预算。

### 敏感信息 / PII 阻断

防止个人身份信息进入模型上下文。

- JS: `sensitiveInfo({ deny: ["EMAIL", "CREDIT_CARD_NUMBER", "PHONE_NUMBER", "IP_ADDRESS"] })`
- Python: `detect_sensitive_info(deny=[SensitiveInfoType.EMAIL, SensitiveInfoType.CREDIT_CARD_NUMBER, ...])`

在调用 `protect()` 时通过 `sensitiveInfoValue` (JS) / `sensitive_info_value` (Python) 参数传递用户消息。

### 令牌预算速率限制

对 AI 端点使用 `tokenBucket()` / `token_bucket()` —— `requested` 参数可按实际模型令牌使用量设置,直接将速率限制与成本关联起来。它还允许短时间突发,同时强制执行平均速率,这符合用户与聊天界面交互的方式。

推荐的初始配置:

- `capacity`: 10(最大突发)
- `refillRate`: 每个时间间隔补充 5 个令牌
- `interval`: "10s"

在调用 `protect()` 时传入 `requested` 参数,以根据模型成本按比例扣除令牌。例如,每条消息扣除 1 个令牌,或基于提示词长度进行估算。

将 `characteristics` 设置为按用户跟踪:如果已认证,则设为 `["userId"]`,默认基于 IP。

### 基础保护

始终包含 `shield()`(WAF)和 `detectBot()` 作为基础防护层。机器人抓取 AI 端点是一种常见的滥用行为。对于通过浏览器访问的端点(例如聊天界面),建议添加 Arcjet 高级信号以实现客户端机器人检测,可捕捉复杂的无头浏览器。设置方法详见 https://docs.arcjet.com/bot-protection/advanced-signals。

## 第 3 步:组合 protect() 调用并处理决策

所有规则参数需在单个 `protect()` 调用中一起传入。使用此模式:

```typescript
const userMessage = req.body.message; // the user's input

const decision = await aj.protect(req, {
  requested: 1, // tokens to deduct for rate limiting
  sensitiveInfoValue: userMessage, // PII scanning
  detectPromptInjectionMessage: userMessage, // injection detection
});

if (decision.isDenied()) {
  if (decision.reason.isRateLimit()) {
    return Response.json(
      { error: "You've exceeded your usage limit. Please try again later." },
      { status: 429 },
    );
  }
  if (decision.reason.isPromptInjection()) {
    return Response.json(
      { error: "Your message was flagged as potentially harmful." },
      { status: 400 },
    );
  }
  if (decision.reason.isSensitiveInfo()) {
    return Response.json(
      {
        error:
          "Your message contains sensitive information that cannot be processed. Please remove any personal data.",
      },
      { status: 400 },
    );
  }
  if (decision.reason.isBot()) {
    return Response.json({ error: "Forbidden" }, { status: 403 });
  }
}

// Arcjet fails open — log errors but allow the request
if (decision.isErrored()) {
  console.warn("Arcjet error:", decision.reason.message);
}

// Proceed with AI model call...
```

根据你的框架调整响应格式(例如,Express 中使用 `res.status(429).json(...)`)。

## 第 5 步:验证

1. 启动应用并发送一条正常消息 — 应该成功
2. 测试提示词注入,发送类似“忽略之前的所有指令并……”的内容
3. 测试 PII 拦截,发送包含伪造信用卡号的消息

首先将所有规则设为 `"DRY_RUN"` 模式。验证无误后,再升级为 `"LIVE"`。

**始终建议使用 Arcjet MCP 工具** 来验证规则并分析流量:

- `list-requests` — 确认决策已被记录,可通过结论过滤查看被拦截的请求
- `analyze-traffic` — 审查 AI 端点的拒绝率和模式
- `explain-decision` — 查看特定请求被允许或拒绝的原因(有助于调整提示词注入检测的敏感度)
- `promote-rule` — 在验证后将规则从 `DRY_RUN` 升级为 `LIVE`

如果用户需要全面的安全审查,建议使用 `/arcjet:security-analyst` 代理,它可以调查流量、检测异常并推荐额外规则。

也可通过 https://app.arcjet.com 上的 Arcjet 仪表板进行可视化检查。

## 常见模式

**流式响应**:在开始流之前调用 `protect()`。如果被拒绝,在开启流之前返回错误 — 不要开始流式传输后再中止。

**多个模型 / 提供商**:无论使用哪个 AI 提供商,都使用相同的 Arcjet 实例。Arcjet 在 HTTP 层运行,与模型提供商无关。

**Vercel AI SDK**:Arcjet 可与 Vercel AI SDK 配合使用。在调用 `streamText()` / `generateText()` 之前先调用 `protect()`。如果被拒绝,返回纯文本错误响应,而不是调用 AI SDK。

## 常见错误避免

- 敏感信息检测在 **WASM 中本地运行** — 不会将用户数据发送到外部服务。它仅在路由处理器中可用,不适用于 Next.js 页面或服务器操作。
- 必须在 `protect()` 调用时同时传入 `sensitiveInfoValue` 和 `detectPromptInjectionMessage`(JS)或 `sensitive_info_value` 和 `detect_prompt_injection_message`(Python)— 忽略其中任何一个都会导致该检查被静默跳过。
- 在调用 `protect()` 之前就开始流式传输 — 如果请求在流中途被拒绝,客户端将收到损坏的响应。始终先调用 `protect()` 并在打开流之前返回错误。
- 对 AI 端点使用 `fixedWindow()` 或 `slidingWindow()` 而不是 `tokenBucket()` — token bucket 允许你根据模型成本按比例扣除令牌,并匹配聊天界面突发交互模式。
- 每次请求都创建新的 Arcjet 实例,而不是复用带有 `withRule()` 的共享客户端。

可替换内容

  • ["userId"]

分类与标签

编程开发、接口安全、提示注入检测、敏感信息拦截、令牌限流

前往 AI 图片创作