phase 5 part 5: cs algorithms, network-os, web-security topics with tested examples; all 43 stacks pass --strict
This commit is contained in:
1 parent
f695bbd7cc
commit
691f738f5f
22 files changed
+1955
-37
No files matched your search
@@ -0,0 +1,81 @@
|
||||
---
|
||||
id: cs.web-security.common-attacks
|
||||
title: Web 安全基础:XSS、CSRF、SQL 注入、CORS、SSRF 的原理、防御和在 AI 应用中的新形态
|
||||
type: lesson
|
||||
domain: cs
|
||||
stack: [web-security]
|
||||
tags: [XSS, CSRF, SQL 注入, CORS, SSRF, CSP, SameSite, 参数化查询, OWASP]
|
||||
level: basic
|
||||
prerequisites: [cs.network-os.http-tcp]
|
||||
est_hours: 3
|
||||
related: [cs.web-security.scenario.ai-app-security, ai.prompt-engineering.scenario.injection-defense, cs.web-security.interview]
|
||||
week: [7, 14, 16]
|
||||
order: 1
|
||||
---
|
||||
|
||||
# Web 安全基础:XSS、CSRF、SQL 注入、CORS、SSRF 的原理、防御和在 AI 应用中的新形态
|
||||
|
||||
> BOSS直聘 2026-10-23 的调研中有岗位提到 Web 安全基础。AI 应用让老问题出现了新入口:模型输出可能包含恶意 HTML(XSS),Agent 的抓取工具可能被诱导访问内网(SSRF),用户输入可能拼接进模型生成的 SQL。参考:OWASP Top 10(https://owasp.org/www-project-top-ten/)。
|
||||
|
||||
## 解释说明
|
||||
|
||||
| 攻击 | 原理 | 防御 |
|
||||
| --- | --- | --- |
|
||||
| **XSS**(跨站脚本) | 攻击者的脚本被当作页面的一部分执行,可以窃取数据、冒充用户操作 | 输出时按上下文转义(框架默认转义,慎用 `v-html` / `dangerouslySetInnerHTML`);富文本用白名单清洗;CSP;Cookie 设 HttpOnly |
|
||||
| **CSRF**(跨站请求伪造) | 用户已登录,恶意网站让浏览器带着 Cookie 向目标站点发请求 | Cookie `SameSite=Lax/Strict`;CSRF Token(同步令牌或双重提交);校验 Origin;改变状态的操作不用 GET |
|
||||
| **SQL 注入** | 用户输入被拼接成 SQL 执行 | **参数化查询**;ORM;最小权限的数据库账号;不能参数化的部分(表名、排序字段)用白名单 |
|
||||
| **CORS 配置错误** | CORS 是浏览器放宽同源策略的机制;配置成“任意来源 + 允许凭证”或反射请求的 Origin,等于允许任何网站读取用户数据 | 来源白名单;带凭证时不能用 `*`;只开放需要的方法和请求头 |
|
||||
| **SSRF**(服务端请求伪造) | 诱导服务器访问内网地址(数据库、管理接口、云元数据 `169.254.169.254`) | 协议白名单;解析域名后检查所有 IP 是否为公网;禁止或逐跳校验重定向;网络层出口限制 |
|
||||
|
||||
**注意**:CORS 不是安全防护,而是对同源策略的“放宽”;服务端仍然必须做鉴权。CORS 也不能防 CSRF(简单请求照样会发出,只是读不到响应)。
|
||||
|
||||
### AI 应用中的新形态
|
||||
|
||||
- 模型输出渲染成 HTML / Markdown 时的 XSS:Markdown 中的原始 HTML、`javascript:` 链接、图片链接外带数据(``)。
|
||||
- 提示词注入诱导 Agent 调用工具:抓取内网地址(SSRF)、执行越权操作。见[提示词注入防护](../../ai/prompt-engineering/scenarios/injection-defense.md)。
|
||||
- Text-to-SQL:模型生成的 SQL 要用只读账号、白名单表、限制行数,并在执行前做语法分析。
|
||||
|
||||
## 案例
|
||||
|
||||
AI 客服页面把模型回答作为 Markdown 渲染。有人在知识库文档中埋入 `<img src=x onerror=...>`,模型在回答中原样引用,所有看到回答的用户都执行了这段脚本。修复:渲染前清洗(禁用原始 HTML,过滤危险协议的链接)、CSP 禁止内联脚本、会话 Cookie 设 HttpOnly。
|
||||
|
||||
## 代码示例
|
||||
|
||||
[examples/secure-api](examples/secure-api/)(FastAPI + sqlite3,13 个测试通过;每类问题都先证明“错误写法可被利用”,再证明“正确写法能防住”):
|
||||
|
||||
```python
|
||||
# SQL 注入:拼接 vs 参数化
|
||||
db.execute(f"... WHERE tenant = '{tenant}' AND id LIKE '%{keyword}%'") # keyword = "x' OR 1=1 --" 读到其他租户
|
||||
db.execute("... WHERE tenant = ? AND id LIKE ?", (tenant, f"%{keyword}%")) # 安全
|
||||
|
||||
# SSRF:解析后检查所有 IP
|
||||
for info in socket.getaddrinfo(host, port):
|
||||
if not ipaddress.ip_address(info[4][0]).is_global:
|
||||
raise ValueError("禁止访问内网地址")
|
||||
```
|
||||
|
||||
CORS 白名单 + CSRF 双重提交:
|
||||
|
||||
```python
|
||||
app.add_middleware(CORSMiddleware, allow_origins=["https://app.example.com"], allow_credentials=True, ...)
|
||||
|
||||
if not secrets.compare_digest(csrf_cookie, x_csrf_token): # 跨站页面读不到 csrf_token Cookie,无法设置请求头
|
||||
raise HTTPException(403, "CSRF 校验失败")
|
||||
```
|
||||
|
||||
## 易错点
|
||||
|
||||
- 只在前端校验输入。
|
||||
- 用黑名单过滤 XSS(`replace("<script>", "")`),总能被绕过。
|
||||
- 用 ORM 却在原生查询处拼接字符串。
|
||||
- `allow_origins=["*"]` 加 `allow_credentials=True`,或者把请求的 Origin 原样反射回去。
|
||||
- SSRF 只校验域名字符串,不校验解析后的 IP;或者允许跟随重定向。
|
||||
- 把 JWT 存在 localStorage 中,一旦有 XSS 就被窃取(是否这样做要权衡,至少要有 CSP)。
|
||||
|
||||
## 面试常问
|
||||
|
||||
- XSS 有哪几类?怎么防御?
|
||||
- CSRF 的原理?SameSite 能完全防住吗?
|
||||
- 为什么参数化查询能防 SQL 注入?
|
||||
- CORS 是什么?它能防 CSRF 吗?
|
||||
- 你的 Agent 有抓取网页的工具,怎么防止 SSRF?
|
||||
@@ -0,0 +1,126 @@
|
||||
# requires: fastapi, httpx
|
||||
"""Web 安全示例:SQL 注入、XSS、CSRF、CORS、SSRF(Agent 的“抓取网页”工具最容易出这个问题)。
|
||||
|
||||
每类问题都给出“错误写法”和“正确写法”,test_secure_app.py 用测试证明错误写法可被利用、正确写法可以防住。
|
||||
运行:pytest -q test_secure_app.py;直接 `python secure_app.py` 只做一次自检。
|
||||
"""
|
||||
from __future__ import annotations
|
||||
|
||||
import html
|
||||
import ipaddress
|
||||
import secrets
|
||||
import socket
|
||||
import sqlite3
|
||||
from urllib.parse import urlsplit
|
||||
|
||||
from fastapi import Cookie, FastAPI, Form, Header, HTTPException, Response
|
||||
from fastapi.middleware.cors import CORSMiddleware
|
||||
from fastapi.responses import HTMLResponse
|
||||
|
||||
# ---------- SQL 注入 ----------
|
||||
def make_db() -> sqlite3.Connection:
|
||||
db = sqlite3.connect(":memory:", check_same_thread=False)
|
||||
db.executescript("""
|
||||
CREATE TABLE orders (id TEXT, tenant TEXT, amount INTEGER);
|
||||
INSERT INTO orders VALUES ('A001', 't1', 100), ('A002', 't1', 200), ('B001', 't2', 999);
|
||||
""")
|
||||
return db
|
||||
|
||||
|
||||
def find_orders_unsafe(db: sqlite3.Connection, tenant: str, keyword: str) -> list[tuple]:
|
||||
# 错误:字符串拼接。keyword = "x' OR 1=1 --" 时会查出其他租户的数据
|
||||
return db.execute(f"SELECT id, tenant FROM orders WHERE tenant = '{tenant}' AND id LIKE '%{keyword}%'").fetchall()
|
||||
|
||||
|
||||
def find_orders_safe(db: sqlite3.Connection, tenant: str, keyword: str) -> list[tuple]:
|
||||
# 正确:参数化查询,数据永远不会被当成 SQL 执行
|
||||
return db.execute("SELECT id, tenant FROM orders WHERE tenant = ? AND id LIKE ?", (tenant, f"%{keyword}%")).fetchall()
|
||||
|
||||
|
||||
# ---------- XSS ----------
|
||||
def render_answer_unsafe(answer: str) -> str:
|
||||
return f"<div class='answer'>{answer}</div>" # 错误:模型输出 / 用户输入直接拼进 HTML
|
||||
|
||||
|
||||
def render_answer_safe(answer: str) -> str:
|
||||
return f"<div class='answer'>{html.escape(answer)}</div>" # 正确:输出到 HTML 时转义
|
||||
|
||||
|
||||
# ---------- SSRF ----------
|
||||
ALLOWED_SCHEMES = {"http", "https"}
|
||||
|
||||
|
||||
def check_fetch_url(url: str, resolve=socket.getaddrinfo) -> str:
|
||||
"""Agent 抓取网页工具的 URL 校验:只允许 http(s),解析后的所有 IP 都必须是公网地址。"""
|
||||
parts = urlsplit(url)
|
||||
if parts.scheme not in ALLOWED_SCHEMES or not parts.hostname:
|
||||
raise ValueError("只允许 http / https 地址")
|
||||
if parts.username or parts.password:
|
||||
raise ValueError("不允许在 URL 中携带凭证")
|
||||
infos = resolve(parts.hostname, parts.port or (443 if parts.scheme == "https" else 80))
|
||||
for info in infos:
|
||||
ip = ipaddress.ip_address(info[4][0])
|
||||
if not ip.is_global: # 拒绝内网、回环、链路本地(含云元数据地址 169.254.169.254)
|
||||
raise ValueError(f"禁止访问内网地址 {ip}")
|
||||
# 注意:真正发请求时还要禁止自动跟随重定向(或对每一跳重新校验),并固定使用这里解析出的 IP,防止 DNS 重绑定
|
||||
return url
|
||||
|
||||
|
||||
# ---------- 应用:CORS、CSRF、安全响应头 ----------
|
||||
TRUSTED_ORIGINS = ["https://app.example.com"]
|
||||
|
||||
app = FastAPI()
|
||||
app.add_middleware(
|
||||
CORSMiddleware,
|
||||
allow_origins=TRUSTED_ORIGINS, # 白名单;带凭证时绝不能用 "*"
|
||||
allow_credentials=True,
|
||||
allow_methods=["GET", "POST"],
|
||||
allow_headers=["Content-Type", "X-CSRF-Token"],
|
||||
)
|
||||
DB = make_db()
|
||||
|
||||
|
||||
@app.middleware("http")
|
||||
async def security_headers(request, call_next):
|
||||
resp = await call_next(request)
|
||||
resp.headers["Content-Security-Policy"] = "default-src 'self'; script-src 'self'; object-src 'none'" # XSS 的第二道防线
|
||||
resp.headers["X-Content-Type-Options"] = "nosniff"
|
||||
return resp
|
||||
|
||||
|
||||
@app.post("/login")
|
||||
def login(response: Response) -> dict:
|
||||
csrf = secrets.token_urlsafe(16)
|
||||
# 会话 Cookie:HttpOnly(脚本读不到)、Secure、SameSite=Lax(跨站的 POST 不会带上)
|
||||
response.set_cookie("session", "user-1", httponly=True, secure=True, samesite="lax")
|
||||
# CSRF Token(双重提交):前端读取后放在请求头中,跨站页面拿不到这个值
|
||||
response.set_cookie("csrf_token", csrf, secure=True, samesite="lax")
|
||||
return {"ok": True}
|
||||
|
||||
|
||||
@app.post("/transfer")
|
||||
def transfer(amount: int = Form(...), session: str | None = Cookie(None), csrf_cookie: str | None = Cookie(None, alias="csrf_token"),
|
||||
x_csrf_token: str | None = Header(None)) -> dict:
|
||||
if not session:
|
||||
raise HTTPException(401, "未登录")
|
||||
if not csrf_cookie or not x_csrf_token or not secrets.compare_digest(csrf_cookie, x_csrf_token):
|
||||
raise HTTPException(403, "CSRF 校验失败")
|
||||
return {"ok": True, "amount": amount}
|
||||
|
||||
|
||||
@app.get("/orders")
|
||||
def orders(keyword: str = "") -> list[list[str]]:
|
||||
return [list(r) for r in find_orders_safe(DB, "t1", keyword)]
|
||||
|
||||
|
||||
@app.get("/answer", response_class=HTMLResponse)
|
||||
def answer(q: str = "") -> str:
|
||||
return render_answer_safe(f"你问的是:{q}")
|
||||
|
||||
|
||||
if __name__ == "__main__":
|
||||
payload = "x' OR 1=1 --"
|
||||
assert {r[1] for r in find_orders_unsafe(DB, "t1", payload)} == {"t1", "t2"}
|
||||
assert find_orders_safe(DB, "t1", payload) == []
|
||||
assert "<script>" not in render_answer_safe("<script>alert(1)</script>")
|
||||
print("自检通过:拼接 SQL 被注入读到了 t2 的数据,参数化查询没有;XSS 输出已转义")
|
||||
@@ -0,0 +1,71 @@
|
||||
# requires: fastapi, httpx
|
||||
import pytest
|
||||
from fastapi.testclient import TestClient
|
||||
|
||||
from secure_app import (DB, app, check_fetch_url, find_orders_safe, find_orders_unsafe, render_answer_safe,
|
||||
render_answer_unsafe)
|
||||
|
||||
client = TestClient(app, base_url="https://testserver")
|
||||
|
||||
|
||||
def test_sql_injection_unsafe_leaks_other_tenant():
|
||||
rows = find_orders_unsafe(DB, "t1", "x' OR 1=1 --")
|
||||
assert ("B001", "t2") in rows # 证明漏洞真实存在
|
||||
|
||||
|
||||
def test_sql_injection_safe():
|
||||
assert find_orders_safe(DB, "t1", "x' OR 1=1 --") == []
|
||||
assert find_orders_safe(DB, "t1", "A00") == [("A001", "t1"), ("A002", "t1")]
|
||||
|
||||
|
||||
def test_xss_escaped():
|
||||
evil = '<img src=x onerror="alert(document.cookie)">'
|
||||
assert "<img" in render_answer_unsafe(evil)
|
||||
assert "<img" not in render_answer_safe(evil) and "<img" in render_answer_safe(evil)
|
||||
r = client.get("/answer", params={"q": "<script>alert(1)</script>"})
|
||||
assert "<script>" not in r.text and "script-src 'self'" in r.headers["content-security-policy"]
|
||||
|
||||
|
||||
def test_csrf():
|
||||
c = TestClient(app, base_url="https://testserver")
|
||||
c.post("/login")
|
||||
# 模拟跨站伪造:浏览器会自动带上 Cookie,但攻击页面读不到 csrf_token,无法设置请求头
|
||||
assert c.post("/transfer", data={"amount": 100}).status_code == 403
|
||||
token = c.cookies.get("csrf_token")
|
||||
r = c.post("/transfer", data={"amount": 100}, headers={"X-CSRF-Token": token})
|
||||
assert r.status_code == 200
|
||||
|
||||
|
||||
def test_cors_allowlist():
|
||||
ok = client.get("/orders", headers={"Origin": "https://app.example.com"})
|
||||
assert ok.headers.get("access-control-allow-origin") == "https://app.example.com"
|
||||
evil = client.get("/orders", headers={"Origin": "https://evil.example"})
|
||||
assert "access-control-allow-origin" not in evil.headers
|
||||
pre = client.options("/orders", headers={"Origin": "https://evil.example", "Access-Control-Request-Method": "GET"})
|
||||
assert pre.status_code == 400
|
||||
|
||||
|
||||
def fake_resolve(mapping):
|
||||
return lambda host, port: [(None, None, None, "", (mapping[host], port))]
|
||||
|
||||
|
||||
@pytest.mark.parametrize("url,ip", [
|
||||
("http://169.254.169.254/latest/meta-data/", "169.254.169.254"), # 云元数据
|
||||
("http://localhost:6379/", "127.0.0.1"),
|
||||
("http://intranet.corp/", "10.0.0.8"),
|
||||
("http://rebind.example/", "192.168.1.10"), # 公网域名解析到内网
|
||||
])
|
||||
def test_ssrf_blocks_internal(url, ip):
|
||||
host = url.split("/")[2].split(":")[0]
|
||||
with pytest.raises(ValueError):
|
||||
check_fetch_url(url, resolve=fake_resolve({host: ip}))
|
||||
|
||||
|
||||
@pytest.mark.parametrize("url", ["file:///etc/passwd", "gopher://x/", "http://user:pw@example.com/"])
|
||||
def test_ssrf_blocks_schemes_and_credentials(url):
|
||||
with pytest.raises(ValueError):
|
||||
check_fetch_url(url, resolve=fake_resolve({"example.com": "93.184.215.14", "x": "93.184.215.14"}))
|
||||
|
||||
|
||||
def test_ssrf_allows_public():
|
||||
assert check_fetch_url("https://example.com/a", resolve=fake_resolve({"example.com": "93.184.215.14"}))
|
||||
@@ -1,15 +1,42 @@
|
||||
---
|
||||
id: cs.web-security.index
|
||||
title: Web 安全
|
||||
title: Web 安全基础
|
||||
type: index
|
||||
domain: cs
|
||||
stack: [web-security]
|
||||
tags: []
|
||||
tags: [XSS, CSRF, SQL 注入, CORS, SSRF, OWASP]
|
||||
week: [7, 14, 16]
|
||||
---
|
||||
|
||||
# Web 安全
|
||||
# Web 安全基础
|
||||
|
||||
XSS、CSRF、SQL 注入、CORS、鉴权与会话安全、大模型应用的提示词注入。
|
||||
XSS、CSRF、SQL 注入、CORS、SSRF 的原理和防御,以及它们在 AI 应用中的新形态(模型输出渲染、Agent 工具、Text-to-SQL)。BOSS直聘 2026-10-23 的调研中有岗位提到 Web 安全基础。
|
||||
|
||||
> 本专题建设中:课程、企业场景、面试题和示例代码会陆续补充。
|
||||
## 学习路线
|
||||
|
||||
| 顺序 | 课程 | 级别 | 预计 |
|
||||
| --- | --- | --- | --- |
|
||||
| 1 | [Web 安全基础:XSS、CSRF、SQL 注入、CORS、SSRF 的原理、防御和在 AI 应用中的新形态](01-xss-csrf-sqli-cors-ssrf.md) | 基础 | 3 小时 |
|
||||
|
||||
## 企业场景
|
||||
|
||||
- [AI 客服上线前的安全评审:回答渲染 XSS、抓取工具 SSRF、Text-to-SQL 注入和跨域配置](scenarios/ai-app-security.md)
|
||||
|
||||
## 面试题
|
||||
|
||||
- [Web 安全面试题](interview.md)
|
||||
|
||||
## 示例代码
|
||||
|
||||
- [examples/secure-api](examples/secure-api/):每类攻击的错误写法与正确写法,13 个测试证明漏洞可利用、修复有效(FastAPI + sqlite3)
|
||||
|
||||
## 在 16 周计划中
|
||||
|
||||
- [第 7 周:前端工程化查漏](../../../plan/week07-frontend.md)
|
||||
- [第 14 周:后端扩展与部署](../../../plan/week14-backend-extend-deploy.md)
|
||||
- [第 16 周:面试冲刺](../../../plan/week16-interview.md)
|
||||
|
||||
## 参考
|
||||
|
||||
- OWASP Top 10:https://owasp.org/www-project-top-ten/
|
||||
- OWASP LLM 应用 Top 10:https://genai.owasp.org/
|
||||
@@ -0,0 +1,67 @@
|
||||
---
|
||||
id: cs.web-security.interview
|
||||
title: Web 安全面试题
|
||||
type: interview
|
||||
domain: cs
|
||||
stack: [web-security]
|
||||
tags: [XSS, CSRF, SQL 注入, CORS, SSRF, 面试]
|
||||
level: basic
|
||||
related: [cs.web-security.common-attacks]
|
||||
week: [7, 14, 16]
|
||||
---
|
||||
|
||||
# Web 安全面试题
|
||||
|
||||
## 基础
|
||||
|
||||
### 【基础】XSS 有哪几类?怎么防御?
|
||||
|
||||
**参考答案**:存储型(恶意内容存入数据库,展示给其他用户)、反射型(通过 URL 参数立即反射)、DOM 型(前端脚本把不可信数据写入 DOM)。防御:按上下文输出转义、富文本白名单清洗、避免 `innerHTML` 类 API、CSP、Cookie HttpOnly。
|
||||
|
||||
**追问**:Vue / React 默认安全吗?→ 文本插值默认转义;`v-html`、`dangerouslySetInnerHTML`、动态 `href`(`javascript:` 协议)仍有风险。
|
||||
|
||||
### 【基础】CSRF 的原理和防御?
|
||||
|
||||
**参考答案**:利用浏览器自动携带 Cookie 的特性,在恶意网站上向目标站点发起请求。防御:SameSite Cookie、CSRF Token(同步令牌或双重提交)、校验 Origin / Referer、状态变更不用 GET。
|
||||
|
||||
**追问**:用 `Authorization` 请求头传 Token(不用 Cookie)还有 CSRF 问题吗?→ 基本没有,因为浏览器不会自动附加该请求头;但 Token 存储在前端,要防 XSS。
|
||||
|
||||
### 【基础】为什么参数化查询能防 SQL 注入?
|
||||
|
||||
**参考答案**:SQL 结构和数据分开发送,数据库先编译语句结构,参数只会被当作值,不会改变语义。
|
||||
|
||||
**追问**:排序字段(ORDER BY)能参数化吗?→ 标识符一般不能参数化,要用白名单映射。
|
||||
|
||||
## 进阶
|
||||
|
||||
### 【进阶】CORS 是什么?常见的错误配置有哪些?
|
||||
|
||||
**参考答案**:浏览器的同源策略默认禁止脚本读取跨源响应,CORS 让服务器通过响应头声明允许哪些来源读取。错误配置:任意来源 + 允许凭证、原样反射请求的 Origin、白名单使用不严格的匹配(例如只检查后缀)。
|
||||
|
||||
**追问**:预检请求什么时候发生?→ 非简单请求(例如 `Content-Type: application/json`、自定义请求头、PUT / DELETE)时,浏览器先发 OPTIONS 询问。
|
||||
|
||||
### 【进阶】什么是 SSRF?怎么防?
|
||||
|
||||
**参考答案**:让服务器替攻击者访问其本不该访问的地址(内网服务、云元数据)。防御:协议白名单、解析域名后检查 IP 是否公网、禁止或逐跳校验重定向、固定使用校验过的 IP 连接(防 DNS 重绑定)、网络层限制出口。
|
||||
|
||||
**追问**:为什么只检查 URL 中的主机名不够?→ 公网域名可以解析到内网 IP;IP 有多种写法(十进制、IPv6 映射);重定向可以跳到内网。
|
||||
|
||||
### 【进阶】JWT 存在 localStorage 还是 Cookie?
|
||||
|
||||
**参考答案**:localStorage:不受 CSRF 影响,但 XSS 可以直接读取;HttpOnly Cookie:脚本读不到,但要防 CSRF(SameSite + Token)。多数场景推荐 HttpOnly + Secure + SameSite 的 Cookie,加 CSRF 防护和 CSP。
|
||||
|
||||
**追问**:Token 泄露了怎么办?→ 短有效期 + 刷新令牌、服务端维护吊销列表或会话版本号。
|
||||
|
||||
## 场景题
|
||||
|
||||
### 【场景题】AI 客服的回答以 Markdown 渲染,怎么防止 XSS?
|
||||
|
||||
**参考答案**:渲染器禁用原始 HTML,渲染后用白名单清洗,链接只允许 http(s),图片限制域名(防止数据外带),CSP 禁止内联脚本,Cookie HttpOnly;写成自动化测试。详见[AI 应用安全评审](scenarios/ai-app-security.md)。
|
||||
|
||||
**追问**:为什么图片也要限制?→ 攻击者可以通过提示词注入让模型输出 ``,浏览器加载图片时就把数据发出去了。
|
||||
|
||||
### 【场景题】你的 Agent 可以“访问用户提供的链接”,评审时要考虑什么?
|
||||
|
||||
**参考答案**:SSRF(内网和元数据地址)、重定向、DNS 重绑定、响应大小和超时、内容中的提示词注入(抓回来的网页可能包含“忽略之前的指令”)、隐私(是否允许访问带有个人信息的链接)。措施:URL 校验 + 出口代理 + 内容作为不可信数据处理 + 工具调用审计。
|
||||
|
||||
**追问**:怎么证明防住了?→ 用攻击载荷清单(内网 IP、各种 IP 写法、重定向到内网、非 http 协议)写成测试,在 CI 中运行,见[示例测试](examples/secure-api/test_secure_app.py)。
|
||||
@@ -0,0 +1,77 @@
|
||||
---
|
||||
id: cs.web-security.scenario.ai-app-security
|
||||
title: AI 客服上线前的安全评审:回答渲染 XSS、抓取工具 SSRF、Text-to-SQL 注入和跨域配置
|
||||
type: scenario
|
||||
domain: cs
|
||||
stack: [web-security, fastapi, vue, function-calling]
|
||||
tags: [安全评审, XSS, SSRF, Text-to-SQL, CORS, CSP, 最小权限]
|
||||
level: intermediate
|
||||
prerequisites: [cs.web-security.common-attacks]
|
||||
est_hours: 2.5
|
||||
related: [cs.web-security.interview, ai.function-calling.scenario.safe-business-tools, ai.prompt-engineering.scenario.injection-defense]
|
||||
week: [14, 16]
|
||||
---
|
||||
|
||||
# AI 客服上线前的安全评审:回答渲染 XSS、抓取工具 SSRF、Text-to-SQL 注入和跨域配置
|
||||
|
||||
## 业务背景与问题
|
||||
|
||||
AI 客服即将对外上线,安全团队评审发现:
|
||||
|
||||
1. 回答用 `v-html` 渲染 Markdown 转换后的 HTML,知识库中的 HTML 片段会原样执行;
|
||||
2. Agent 有“打开链接查看内容”的工具,测试人员让它访问 `http://169.254.169.254/` 拿到了云主机元数据;
|
||||
3. 报表功能让模型生成 SQL 直接执行,账号有写权限;
|
||||
4. 后端 CORS 配置为允许所有来源并允许凭证。
|
||||
|
||||
## 约束
|
||||
|
||||
- 一周内上线,不能大改架构。
|
||||
- 功能不能砍。
|
||||
|
||||
## 方案设计
|
||||
|
||||
1. **回答渲染(XSS)**:Markdown 渲染时禁用原始 HTML;对生成的 HTML 用白名单清洗(只保留段落、列表、代码、链接等);链接只允许 `http(s)`,外链加 `rel="noopener noreferrer"`;图片只允许白名单域名(防止通过图片 URL 外带数据);全站 CSP 禁止内联脚本;会话 Cookie HttpOnly。
|
||||
2. **抓取工具(SSRF)**:协议白名单;解析域名后所有 IP 必须是公网;禁止自动重定向(或每一跳重新校验);连接时使用已校验的 IP,防止 DNS 重绑定;工具运行在只能访问公网的出口代理后面(网络层兜底);响应大小和超时限制。
|
||||
3. **Text-to-SQL**:只读数据库账号,且只授权报表视图;SQL 先解析,只允许单条 `SELECT`、白名单表、强制 `LIMIT` 和租户条件;执行超时;记录审计日志。
|
||||
4. **CORS**:白名单为自己的前端域名;同时启用 CSRF 防护(SameSite + Token)。
|
||||
5. **验证**:把每个问题写成自动化安全测试(攻击载荷 → 预期被拒),加入 CI。
|
||||
|
||||
## 关键代码
|
||||
|
||||
回答渲染(前端,示意):
|
||||
|
||||
```ts
|
||||
import DOMPurify from "dompurify";
|
||||
import MarkdownIt from "markdown-it";
|
||||
|
||||
const md = new MarkdownIt({ html: false, linkify: true }); // 不允许原始 HTML
|
||||
|
||||
export function renderAnswer(text: string): string {
|
||||
return DOMPurify.sanitize(md.render(text), {
|
||||
ALLOWED_TAGS: ["p", "ul", "ol", "li", "code", "pre", "strong", "em", "a", "blockquote", "table", "thead", "tbody", "tr", "th", "td"],
|
||||
ALLOWED_ATTR: ["href"],
|
||||
ALLOWED_URI_REGEXP: /^https?:\/\//i, // 只允许 http(s) 链接
|
||||
});
|
||||
}
|
||||
```
|
||||
|
||||
SSRF 校验与 SQL 注入、CORS、CSRF 的可运行实现和攻击测试:[examples/secure-api](../examples/secure-api/)。
|
||||
|
||||
## 取舍
|
||||
|
||||
| 选择 | 优点 | 缺点 |
|
||||
| --- | --- | --- |
|
||||
| **应用层校验 + 网络层出口限制(本方案)** | 纵深防御,一层失效还有另一层 | 实施工作量较大 |
|
||||
| 只做应用层校验 | 快 | 校验有遗漏(重定向、DNS 重绑定)时没有兜底 |
|
||||
| 去掉抓取工具 / 报表功能 | 最安全 | 业务不接受 |
|
||||
|
||||
## 易错点
|
||||
|
||||
- 认为“模型输出是我们自己生成的”就可以信任。实际上它会复述用户输入和知识库内容。
|
||||
- SSRF 只拦截了 `127.0.0.1`,没拦 `localhost`、IPv6 `::1`、十进制 IP、内网域名。
|
||||
- Text-to-SQL 用正则判断是否为 SELECT,被注释和多语句绕过。
|
||||
- 只修复了被发现的那一个载荷,没有写成测试。
|
||||
|
||||
## 面试怎么讲
|
||||
|
||||
> “上线前安全评审发现四个问题,我按纵深防御处理:回答渲染禁用原始 HTML、白名单清洗、只允许 http 链接,加 CSP 和 HttpOnly;抓取工具解析域名后检查所有 IP 必须是公网、禁止重定向,并放在只能访问公网的出口代理后面;Text-to-SQL 换成只读账号和报表视图,SQL 解析后只允许单条 SELECT 并强制 LIMIT 和租户条件;CORS 改成白名单并加 CSRF Token。每个问题都写成了攻击测试放进 CI。”
|
||||
Reference in new issue
Block a user