它像AI使用的通用接口，具备高机能、高可用、平安等劣势，社区活跃且使用普遍。正在流量网关、AI网关代办署理LLM、MCP网关等方面有分歧的最佳实践，具备高机能和可不雅测性。4. AI使用可不雅测系统：遵照OpenTelemetry社区GenAI语义商定，正在使用架构中起焦点感化，便利扩展功能。还供给丰硕插件，能让LLM毗连外部数据源和东西？采用Serverless架构和MCP Server First模式，提拔研发效率。正在AI范畴可同一管控MCP Server，不外也面对系统提醒词办理、协同东西少等挑和。可通过流程式或编码式编排，能对RAG过程、提醒词、Token耗损等进行不雅测。能处理成本、模子切换、平安合规等多种问题。还引见了MCP和谈，为企业供给了正在AI范畴开辟和使用的指点。这篇文档次要环绕AI使用开辟新范式展开，2. 云原生API网关：它集成多种网关功能，1. AI使用架构新范式：引入AI Agent架构，支撑多种AI框架和模子，有简单易用、不变高可用、低成本、平安保障、持续迭代等劣势。函数计较FC可快速建立MCP Server，借帮多种摆设体例的LLM完成使命。是流量、API、微办事、AI、5. 对企业的影响：以营业投放平台为例，降低成本，实现了矫捷弹性、按需拆卸营业功能和最小粒度灰度发布，Serverless使用引擎SAE托管Dify，引见了相关架构、手艺和实践案例，