Blog Background
社区 / 博客
博客
全部文章 技术文章 生态文章 最佳实践 社区活动
解读阿里云发布的《AI 原生应用架构白皮书》
作者: 彦林、麻芃、望宸 阿里云在云栖大会重磅发布了《AI 原生应用架构白皮书》,该白皮书覆盖 AI 原生应用的 11 大关键要素,获得业界 15 位专家联名推荐,来自 40 多位一线工程师实践心得,全书合计超 20w 字,分为 11 章,全面、系统地解构 AI 原生应用架构,包含了 AI 原生应用的 11 大关键要素,模型、框架、提示词、RAG、记忆、工具、网关、运行时、可观测、评估和安全。本文整理自阿里云智能技术专家李艳林在云栖大会现场的解读。 为什么要写《AI 原生应用架构白皮书》? ChatGPT 迈过智能拐点后,大模型按照 Scaling Law 法则不断刷新智...
CH3CHO | 2025-09-28
解读阿里云发布的《AI 原生应用架构白皮书》
阿里云发布《AI 原生应用架构白皮书》
不同于传统软件开发通过编程与算法构建的确定性逻辑,AI 时代的应用构建以面对自然语言编程、上下文工程为核心特征,将复杂业务逻辑与决策过程下沉至模型推理环节,从而实现业务的智能化自适应。 然而,AI 应用开发过程中仍面临诸多挑战,例如开发阶段强依赖模型黑盒特性,导致结果可控性不足、幻觉问题频发,从原型验证(PoC)到生产部署往往需要数月调优,核心痛点集中在调试效率与业务适配;上线后则面临推理延迟、稳定性波动、问题排查困难、安全风险凸显、输出不可靠及成本过高等问题,折射出企业级 AI 应用在稳定性、性能、安全与成本控制上的系统性挑战。 针对此,阿里云联合阿里巴巴爱橙科技,共同发...
CH3CHO | 2025-09-25
阿里云发布《AI 原生应用架构白皮书》
火速收藏!2025 云栖大会 AI 中间件议程看点全公开(附免费报名通道)
AI 正在重塑世界,也在重塑构建 AI 应用的方式 AI 中间件正成为连接 AI 技术与产业应用的纽带 2025 云栖大会“云智一体 · 碳硅共生”的主题下 9月26日,云栖小镇D13馆「AI 中间件论坛」 将聚焦 AI 时代中间件的技术演进与创新实践 带来消息队列、事件驱动架构及 API 网关等关键技术在 AI 领域的前沿技术探索、最新产品发布、落地实践经验 云栖大会期间(9.24 9.26)云原生 AI 应用开发展区特设 AI 中间件最新产品能力的演示讲解和实操体验等环节 诚邀您共赴 2025 云栖大会 定义下一代 AI 中间件,解锁 AI 应用架构新范式,加速 AI 应...
CH3CHO | 2025-09-19
火速收藏!2025 云栖大会 AI 中间件议程看点全公开(附免费报名通道)
使用 Nacos + HiMarket 构建MCP私有市场
作者:子葵 MCP Registry 正式发布 最近,MCP 社区发布了 ,为公开 MCP Server 提供“统一目录服务和开放 API”。 Nacos 已原生支持 MCP Registry API,可直接作为“MCP Registry”对外提供标准 REST/OpenAPI 服务端,天然融入企业现有注册中心与配置治理体系,并与 Higress/HiMarket 对接打通,让企业能够高效的构建自己的私有MCP 市场。 为什么需要 MCP Registry 从 LAMP/单体 → SOA/微服务 → 容器/K8s 的演进,带来了开发与运维效率的飞跃。随着 ChatGPT/DeepSe...
CH3CHO | 2025-09-17
使用 Nacos + HiMarket 构建MCP私有市场
Claude Code用不了? 使用AI网关迁移至任意模型
9月5日,Anthropic 宣布停止向中国资本控股(超50%股权)的企业及其子公司提供 Claude 服务。此前,Claude 系列模型因其编程能力出众受到开发者的好评和广泛应用。 为此,阿里云 AI 网关(Higress 企业版)第一时间提供了迁移方案。 现在,开发者使用阿里云 AI 网关,只需三步就将 Claude Code 使用的模型从 Anthropic 的官方模型迁移到任意 模型服务,例如阿里云百炼 Qwen3,智谱 GLM3.5,月之暗面 Kimi2 等等国产模型。 基于阿里云 AI 网关,可以实现通过一个统一的入口屏蔽各家模型协议差异,且避免被特定供应商锁定。同时对接多个...
CH3CHO | 2025-09-10
Claude Code用不了? 使用AI网关迁移至任意模型
主流 API 协议的功能和应用场景解析
作者:望宸 笔者近期参与了一个开源项目的建设:HiMarket。这个开源项目旨在帮助开发者,尤其是企业快速实现私有的 AI 开放平台,专注在对外提供 API 和 MCP 服务的管理上。因此,借此机会对主流 API 协议的功能和应用场景进行了梳理,以厘清容易混淆的概念。 API(Application Programming Interface,应用程序编程接口),顾名思义,是用来连接不同软件系统,以实现数据交互和服务共享的作用。构成上,它是一组规定或协议,定义了不同应用或组件之间,相互交互的方法。用三个关键词来定义 API 的核心能力,就是:定义规则、解耦系统、提升复用性。 广义...
CH3CHO | 2025-09-08
主流 API 协议的功能和应用场景解析
基于 AI 网关的 LLM 高可用最佳实践
作者:桂楚,阿里云AI网关实习工程师 随着LLM服务广泛部署,服务的可用性和流量治理面临新的可靠性要求。由于LLM服务参数量级限制,其服务部署和重启时间较长,如果服务因为过载而故障,则重启时间达到分钟级,对服务可用性影响极大。阿里云AI网关提供了多来源LLM服务的代理功能,不仅可以通过简单易用的配置对LLM服务进行代理,同时提供了丰富的LLM服务入口流量治理功能,提高LLM服务的可观测性和可用性。对于自部署的LLM服务,传统网关的检测和过载保护机制往往滞后,阿里云AI网关提供了一系列如被动健康检测、首包超时和fallback等高可用机制,通过合理配置,能够实现对LLM服务的过载状态实时...
CH3CHO | 2025-09-05
基于 AI 网关的 LLM 高可用最佳实践
Higress v2.1.7:42 项引擎更新 + 12 项控制台更新
Higress 引擎更新 本次发布概览 本次发布包含 42 项更新,涵盖了功能增强、Bug修复、性能优化等多个方面。 更新内容分布 + 新功能: 21项 + Bug修复: 14项 + 重构优化: 4项 + 文档更新: 2项 + 测试改进: 1项 重点关注 本次发布包含 3 项重要更新,建议重点关注: + feat: add MCP SSE stateful session load balancer support (): 此功能使得基于SSE协议的MCP服务能够更好地保持客户端与服务器之间的持久连接,增强用户体验和应用性能,特别是在需要维持长时间连接以进行数据推送的场景中。...
CH3CHO | 2025-09-03
Higress v2.1.7:42 项引擎更新 + 12 项控制台更新
HiMarket 正式开源,为企业落地开箱即用的 AI 开放平台
作者:岛风、十眠、严研 HiMarket 正式开源 由 Higress 社区和 Nacos 社区共同发起的全新开源项目 HiMarket AI 开放平台,正式发布。 GitHub 地址: 在 AI 浪潮席卷千行百业的今天,我们看到无数企业和开发者满怀激情地投身其中。无论是将内部的大模型能力赋能给各个业务线,还是希望将昂贵的 AI 资产对外开放、构建生态,一个强大的“AI 开放平台”都已成为刚需。 作为 Higress 的贡献者,我们在与许多开发者和企业用户的交流中发现:当企业借助 Higress AI 网关完成模型与工具的统一接入后,难点便从“连通”转向“协作与产品化”。工具提供...
CH3CHO | 2025-09-02
HiMarket 正式开源,为企业落地开箱即用的 AI 开放平台
释放 RAG 潜能,用 AI 网关帮助 Dify 应用“开外挂”
作者:王灏廷、赵源筱 Dify 是一款开源的 AI 应用开发平台,旨在帮助开发者和非技术人员快速构建和运营基于生成式AI的应用。截至目前,Dify 开源 Star 数量已经突破 11 万,具有庞大的用户群体,已成为构建生成式 AI 应用的热门选择之一。 然而,随着 Dify 在实际生产实践中持续落地,根据云上客户以及社区反馈,其内置的 RAG 引擎逐渐暴露出复杂文本分块处理能力低、检索功能薄弱、配置不够简洁智能等问题,这些问题直接导致 Dify 内置 RAG 的召回质量不理想,进而影响了大模型生成内容的准确性与可靠性,难以满足企业级生产环境对高精度知识检索的需求。 为解决上述云上客户以及...
CH3CHO | 2025-08-29
释放 RAG 潜能,用 AI 网关帮助 Dify 应用“开外挂”
第 4 页 / 共 16 页