
Portkey
代码编程与辅助面向生成式 AI 的生产级平台,以 AI 网关统一接入多家模型,配套可观测性、护栏、治理与提示词管理,现已更名为 PRISMA AIRS AI Gateway。
详细介绍
Portkey 定位为「生成式 AI 的生产技术栈」(Production Stack for Gen AI Builders),官网头条宣布它现已更名为 PRISMA AIRS AI Gateway,并向所有企业开放。它要解决的问题是:模型接进业务之后,谁来统一管理接入、稳定性、成本、安全与合规。官方给出的答案是「Observe, govern, and secure every AI interaction across your enterprise」——观察、治理并保护企业内每一次 AI 交互,同时把 Gen AI 能力「民主化」到整个组织(Democratize and productionize Gen AI across your entire org),让团队不必各自为政地对接模型。
核心能力
- AI 网关:统一出入口管理多家模型供应商,官方专门提出了「AI Gateway Pattern」实践方法,一个接口接入全部模型,切换供应商无需重写代码。
- 可观测性:观察并记录每一次 AI 交互,官方称要成为「LLM 定价的可靠真相来源」,排查问题与成本归因都靠它。
- 护栏与治理:Guardrails 对输入输出施加安全与合规约束,AI Governance 提供模型使用与访问的治理能力,官方强调端到端编排(End-to-end LLM Orchestration)。
- 提示词管理:集中管理提示词版本,与代码解耦,避免提示词散落在各处难以追踪;配合网关日志,还可以对比不同版本提示词在真实流量下的效果。
- 分钟级接入与 MCP 安全:官方强调「Integrate in a minute」,几分钟即可集成;同时对 MCP 工具的访问做安全管控,降低工具调用带来的风险。
- 企业认可:官方披露被 Fortune 500 与初创公司采用,并获得行业领袖认可。
适合谁
已把大模型接进生产系统、开始关心成本、稳定性与合规的中大型团队;需要统一管理多家模型供应商的组织;以及想把 Gen AI 能力快速推广到全公司的平台团队。
注意事项
- 品牌与产品名已变更(Portkey → PRISMA AIRS AI Gateway),检索资料时建议两个名字一起用。
- 网关是所有流量的必经之路,选型时重点考察稳定性与故障切换能力,单点故障影响面很大。
- 云服务模式下,涉及敏感数据的调用要确认数据驻留与合规条款。
- 治理、MCP 安全等完整能力偏向企业版,个人或小团队只需要网关时留意定价分层。
- 平台模块较多,建议从网关单点切入、逐步开通其他模块,比一次性全量接入更容易落地;个人开发者只把它当作多模型接入层使用也能受益。
- 只做模型路由与日志时,先确认免费档与试用额度是否覆盖实际用量,避免月结账单意外走高。
使用建议
先把现有模型的调用全部接入网关做统一出口,先跑出成本与调用基线;再逐步启用护栏、治理与提示词管理能力,护栏建议先从敏感业务场景配置起来。建议先从一个业务线试点做起,验证稳定性与团队协作方式后,再推广到全组织。上线前为网关准备好备用通道,并给关键模型调用配好重试与降级策略,避免网关抖动时引发全链路失败。
所属专题
相似工具

Helicone AI
Helicone 是开源 LLM 可观测与 AI 网关平台:请求日志、监控告警、策略路由、多维细分与 HQL 分析,改一行 base_url 接入,被增长最快的 AI 公司使用。
同分类

Manifest
开源的 LLM 路由器与网关,用一个 OpenAI 兼容端点接入订阅制、按量计费、本地模型与自定义供应商,自动修复错误请求并在故障时切换备用模型。
同分类

MLflow
MLflow 是最大的开源 AI 工程平台,覆盖 Agent、LLM 与传统模型:链路观测、系统评估、提示词优化、AI 网关与模型部署一站搞定,让 AI 迭代快十倍。
同分类

Amazon Q
AWS 面向企业场景的生成式 AI 助手,接入企业内部数据回答问题、生成内容,覆盖开发、商业智能、客服与供应链等岗位,并推进决策类任务。
同分类

Langfuse
开源(MIT)的 LLM 工程平台,把追踪、评估、提示词管理与数据集整合一处,基于 OpenTelemetry,用生产数据持续改进 AI 应用,可自托管。
同分类

LLM
开源命令行工具兼 Python 库,在终端调用 OpenAI、Claude、Gemini、Qwen、DeepSeek 等几十家模型,提示词与响应存进本地 SQLite 可随时检索
同分类
