Prompt Jailbreak

---
name: prompt-jailbreak
description: "AI/LLM Prompt 越狱技术。当目标系统包含 AI 聊天机器人、AI Agent 或任何基于 LLM 的对话系统时使用。覆盖角色扮演、编码绕过、多语言切换、上下文窗口攻击、逻辑链递进、系统提示覆盖等越狱方法"
metadata:
  tags: "ai,llm,jailbreak,越狱,prompt,chatgpt,claude,红队,AI安全,绕过,角色扮演,DAN,编码绕过"
  category: "ai-security"
---

# AI Prompt 越狱方法论

## 概述

Prompt 越狱 (Jailbreak) 是指通过精心构造的输入，绕过 LLM 的安全对齐 (alignment) 和内容过滤策略，使模型执行原本被禁止的行为。与 prompt injection 不同，jailbreak 的目标是**直接操纵模型本身的行为边界**。

## 深入参考

- 各类越狱技术详细 Payload（角色扮演/编码/多语言/上下文/高级技术） → [references/jailbreak-techniques.md](references/jailbreak-techniques.md)
- 绕过案例、实战 Prompt 模板、防御绕过要点 → [references/bypass-templates.md](references/bypass-templates.md)

---

## 核心分类

| 类别 | 原理 | 成功率 | 适用模型 |
|------|------|--------|----------|
| 角色扮演 | 让模型进入虚构角色绕过对齐 | ★★★★ | GPT/Claude/开源 |
| 编码绕过 | 用编码隐藏敏感关键词 | ★★★ | GPT/开源 (Claude 较强) |
| 多语言切换 | 利用非英语对齐弱点 | ★★★★ | 英语对齐强的模型 |
| 上下文溢出 | 长文本稀释安全指令权重 | ★★★ | 上下文窗口大的模型 |
| 逻辑链递进 | 通过多轮对话逐步升级请求 | ★★★★★ | 所有模型 |
| 系统提示覆盖 | 直接声称拥有更高权限 | ★★ | 简单部署的应用 |
| 虚拟化嵌套 | 声称在虚拟机/模拟器中运行 | ★★★ | GPT/开源 |
| 对抗性后缀 | 自动搜索的对抗性 token 序列 | ★★★★ | 开源模型 |

---

## 方法论概览

### Phase 1: 角色扮演越狱
- **DAN (Do Anything Now)**: 创建不受限 AI 人格，Token 惩罚系统强化
- **Developer/Debug Mode**: 声称模型进入开发者模式
- **Evil Confidant**: 让模型扮演"邪恶顾问"
- **翻译者/教育者**: 利用合法用途（研究/教学）绕过

### Phase 2: 编码/格式绕过
- Base64 / ROT13 编码隐藏敏感指令
- Unicode 同形字替换绕过关键词过滤
- 分词打断（W-E-A-P-O-N）
- 代码模式（让模型"补全"函数实现）

### Phase 3: 多语言切换
- 小语种攻击（祖鲁语/斯瓦希里语等对齐弱的语言）
- 混合语言 / 翻译链

### Phase 4: 上下文窗口攻击
- 长文本稀释（5000+ 字无害文本中间夹杂恶意指令）
- System Prompt 权重衰减
- Few-shot 投毒

### Phase 5: 逻辑链递进（多轮越狱）
- **渐进升级**: 从无害问题逐步升级到敏感请求（成功率最高）
- **假设情景**: 构建合法测试场景
- **苏格拉底式追问**: 通过教学方式引导

### Phase 6: 系统提示覆盖
- 直接覆盖（伪造 [SYSTEM] 消息）
- JSON/XML 格式注入
- Markdown 格式注入

### Phase 7: 高级技术
- Token 走私（利用 tokenizer 差异）
- 对抗性后缀 GCG Attack（梯度搜索）
- 虚拟化/模拟器越狱
- ASCII Art 隐写

> 所有技术的详细 payload 和示例见 [references/jailbreak-techniques.md](references/jailbreak-techniques.md)

---

## 参考资源

- [OWASP LLM Top 10](https://owasp.org/www-project-top-10-for-large-language-model-applications/) — LLM01: Prompt Injection
- [Jailbreak Chat](https://www.jailbreakchat.com/) — 社区收集的越狱 prompt
- [LLM Guard](https://llm-guard.com/) — LLM 安全防护库
- [HackAPrompt](https://arxiv.org/abs/2311.16119) — Prompt Injection 竞赛论文
- [GCG Attack Paper](https://arxiv.org/abs/2307.15043) — Universal and Transferable Adversarial Attacks
- [PAIR: Prompt Automatic Iterative Refinement](https://arxiv.org/abs/2310.08419) — 自动化越狱