不同于传统软件开发通过编程与算法构建的确定性逻辑，AI 时代的应用构建以面对自然语言编程、上下文工程为核心特征，将复杂业务逻辑与决策过程下沉至模型推理环节，从而实现业务的智能化自适应。 然而，AI 应用开发过程中仍面临诸多挑战，例如开发阶段强依赖模型黑盒特性，导致结果可控性不足、幻觉问题频发，从原型验证（PoC）到生产部署往往需要数月调优，核心痛点集中在调试效率与业务适配；上线后则面临推理延迟、稳定性波动、问题排查困难、安全风险凸显、输出不可靠及成本过高等问题，折射出企业级 AI 应用在稳定性、性能、安全与成本控制上的系统性挑战。 针对此，阿里云联合阿里巴巴爱橙科技，共同...

AI 正在重塑世界，也在重塑构建 AI 应用的方式 AI 中间件正成为连接 AI 技术与产业应用的纽带 2025 云栖大会“云智一体 · 碳硅共生”的主题下 9月26日，云栖小镇D13馆「AI 中间件论坛」 将聚焦 AI 时代中间件的技术演进与创新实践 带来消息队列、事件驱动架构及 API 网关等关键技术在 AI 领域的前沿技术探索、最新产品发布、落地实践经验 云栖大会期间（9.24 9.26）云原生 AI 应用开发展区特设 AI 中间件最新产品能力的演示讲解和实操体验等环节 诚邀您共赴 2025 云栖大会 定义下一代 AI 中间件，解锁 AI 应用架构新范式，加速 AI ...

作者：子葵 MCP Registry 正式发布 最近，MCP 社区发布了 ，为公开 MCP Server 提供“统一目录服务和开放 API”。 Nacos 已原生支持 MCP Registry API，可直接作为“MCP Registry”对外提供标准 REST/OpenAPI 服务端，天然融入企业现有注册中心与配置治理体系，并与 Higress/HiMarket 对接打通，让企业能够高效的构建自己的私有MCP 市场。 为什么需要 MCP Registry 从 LAMP/单体 → SOA/微服务 → 容器/K8s 的演进，带来了开发与运维效率的飞跃。随着 ChatGPT/DeepS...

9月5日，Anthropic 宣布停止向中国资本控股（超50%股权）的企业及其子公司提供 Claude 服务。此前，Claude 系列模型因其编程能力出众受到开发者的好评和广泛应用。 为此，阿里云 AI 网关（Higress 企业版）第一时间提供了迁移方案。 现在，开发者使用阿里云 AI 网关，只需三步就将 Claude Code 使用的模型从 Anthropic 的官方模型迁移到任意 模型服务，例如阿里云百炼 Qwen3，智谱 GLM3.5，月之暗面 Kimi2 等等国产模型。 基于阿里云 AI 网关，可以实现通过一个统一的入口屏蔽各家模型协议差异，且避免被特定供应商锁定。同时对接多...

作者：望宸 笔者近期参与了一个开源项目的建设：HiMarket。这个开源项目旨在帮助开发者，尤其是企业快速实现私有的 AI 开放平台，专注在对外提供 API 和 MCP 服务的管理上。因此，借此机会对主流 API 协议的功能和应用场景进行了梳理，以厘清容易混淆的概念。 API（Application Programming Interface，应用程序编程接口），顾名思义，是用来连接不同软件系统，以实现数据交互和服务共享的作用。构成上，它是一组规定或协议，定义了不同应用或组件之间，相互交互的方法。用三个关键词来定义 API 的核心能力，就是：定义规则、解耦系统、提升复用性。 广...

作者：桂楚，阿里云AI网关实习工程师 随着LLM服务广泛部署，服务的可用性和流量治理面临新的可靠性要求。由于LLM服务参数量级限制，其服务部署和重启时间较长，如果服务因为过载而故障，则重启时间达到分钟级，对服务可用性影响极大。阿里云AI网关提供了多来源LLM服务的代理功能，不仅可以通过简单易用的配置对LLM服务进行代理，同时提供了丰富的LLM服务入口流量治理功能，提高LLM服务的可观测性和可用性。对于自部署的LLM服务，传统网关的检测和过载保护机制往往滞后，阿里云AI网关提供了一系列如被动健康检测、首包超时和fallback等高可用机制，通过合理配置，能够实现对LLM服务的过载状态实...

Higress 引擎更新 本次发布概览 本次发布包含 42 项更新，涵盖了功能增强、Bug修复、性能优化等多个方面。 更新内容分布 + 新功能: 21项 + Bug修复: 14项 + 重构优化: 4项 + 文档更新: 2项 + 测试改进: 1项 重点关注 本次发布包含 3 项重要更新，建议重点关注： + feat: add MCP SSE stateful session load balancer support (): 此功能使得基于SSE协议的MCP服务能够更好地保持客户端与服务器之间的持久连接，增强用户体验和应用性能，特别是在需要维持长时间连接以进行数据推送的场景中...

作者：岛风、十眠、严研 HiMarket 正式开源 由 Higress 社区和 Nacos 社区共同发起的全新开源项目 HiMarket AI 开放平台，正式发布。 GitHub 地址： 在 AI 浪潮席卷千行百业的今天，我们看到无数企业和开发者满怀激情地投身其中。无论是将内部的大模型能力赋能给各个业务线，还是希望将昂贵的 AI 资产对外开放、构建生态，一个强大的“AI 开放平台”都已成为刚需。 作为 Higress 的贡献者，我们在与许多开发者和企业用户的交流中发现：当企业借助 Higress AI 网关完成模型与工具的统一接入后，难点便从“连通”转向“协作与产品化”。工具提...

作者：王灏廷、赵源筱 Dify 是一款开源的 AI 应用开发平台，旨在帮助开发者和非技术人员快速构建和运营基于生成式AI的应用。截至目前，Dify 开源 Star 数量已经突破 11 万，具有庞大的用户群体，已成为构建生成式 AI 应用的热门选择之一。 然而，随着 Dify 在实际生产实践中持续落地，根据云上客户以及社区反馈，其内置的 RAG 引擎逐渐暴露出复杂文本分块处理能力低、检索功能薄弱、配置不够简洁智能等问题，这些问题直接导致 Dify 内置 RAG 的召回质量不理想，进而影响了大模型生成内容的准确性与可靠性，难以满足企业级生产环境对高精度知识检索的需求。 为解决上述云上客户以...