feat: 完成 issue #6 LLM 网关 + RAG 模板化(混合网关主编排)

This commit is contained in:
2026-08-04 18:02:00 +08:00
parent fa5523a37d
commit 5d937e8efd
12 changed files with 1707 additions and 20 deletions
+48 -14
View File
@@ -1,19 +1,25 @@
# -*- coding: utf-8 -*-
"""iAOP-Core · LLM 网关(LLM Gateway)—— 混合 LLM 的安全出站防线。
"""iAOP-Core · LLM 网关(LLM Gateway)—— 混合 LLM 的安全出站防线与编排。
对应 PRD 5.4「④ LLM 网关 + RAG」与 EPIC #6:
本地 70B(敏感/核心)+ 云端 API(脱敏/通用)混合,敏感数据**本地闭环**。
当前子模块(Issue #48):
- dlp DLP 敏感数据拦截引擎:出站内容(query / RAG context / 模型输出)
发往云端前做敏感规则检查,命中即拦截(目标 100% 拦截),全量审计。
后续子任务(EPIC #6 拆分,将在本包扩展):
- 敏感度路由(router)、Prompt 版本管理与幻觉校验中间件、路由准确率评估。
模块组成:
- dlp DLP 敏感数据拦截引擎(Issue #48):出站内容(query / RAG context /
模型输出)发往云端前做敏感规则检查,命中即拦截(目标 100% 拦截),
全量审计。
- router 敏感度路由规则引擎(Issue #43 雏形):敏感度分级路由(local/cloud/
block),模板配置驱动,DLP 拦截即 fail-closed 转 block。
- prompts Prompt 版本管理(Issue #47 雏形):semver 版本库、运行时绑定、
一键回滚、变更审计。
- hallucination 幻觉/事实性校验中间件(Issue #47 雏形):引用溯源 +
高利害信度阈值 → 人工确认。
- gateway 混合网关主编排(EPIC #6 主体):路由 → 生成 → 溯源校验 →
DLP 出站防线,端到端闭环。
测试:`python -m unittest discover -s tests -v`(在 core/llm-gateway 目录下执行)。
"""
__version__ = "0.1.0"
__version__ = "0.2.0"
from .dlp import (
DLP_DEFAULT_RULES,
@@ -23,12 +29,40 @@ from .dlp import (
DlpRule,
DlpRuleKind,
)
from .router import (
RouteDecision,
RouteTarget,
RouterRule,
SensitivityRouter,
)
from .prompts import (
PromptChange,
PromptRegistry,
PromptVersion,
validate_semver,
)
from .hallucination import (
GuardVerdict,
HallucinationGuard,
)
from .gateway import (
CloudBackend,
GatewayResult,
InferenceBackend,
LLMGateway,
LocalBackend,
)
__all__ = [
"DlpRuleKind",
"DlpRule",
"DlpHit",
"DlpResult",
"DlpEngine",
"DLP_DEFAULT_RULES",
# dlp
"DlpRuleKind", "DlpRule", "DlpHit", "DlpResult", "DlpEngine", "DLP_DEFAULT_RULES",
# router
"RouteTarget", "RouterRule", "RouteDecision", "SensitivityRouter",
# prompts
"PromptVersion", "PromptChange", "PromptRegistry", "validate_semver",
# hallucination
"GuardVerdict", "HallucinationGuard",
# gateway
"InferenceBackend", "LocalBackend", "CloudBackend",
"GatewayResult", "LLMGateway",
]