我的技术博客

架构设计

3 篇文章
2026

AI 模型网关的通用架构：从 API 代理到推理治理层

多模型接入后，网关不只是转发请求。本文从职责边界、控制面与数据面、协议归一化和请求处理链路出发，拆解一套可复用的 AI Gateway 架构思路。
AI 架构设计 Java
阅读全文

多模型路由与故障恢复：重试、熔断和降级的边界

多模型网关的路由不只是挑一个供应商。本文从候选渠道、路由策略、请求 deadline、流式重试和熔断降级出发，讨论怎样让上游故障更可控。
AI 分布式系统 架构设计
阅读全文

模型网关的治理设计：计费、密钥与隐私保护

模型请求能返回答案只是第一步。本文从虚拟 Key、上游密钥保护、预扣与结算、限额、敏感信息脱敏和审计指标出发，讨论模型网关如何把成本与安全纳入请求生命周期。
AI 安全 架构设计
阅读全文
所有标签 返回首页