作者：马云雷&望宸 一、导读 在传统软件工程中，测试是保障质量与稳定性的核心环节。它验证系统的确定性逻辑：基于预设的规则，验证输入的可靠性。而 AI 系统的核心能力不再是执行预设的规则，而是基于概率模型进行推理和生成。结果的不确定性、语义的多义性、以及上下文的敏感性，使得原有测试方法难以刻画模型行为。这一转变，促使评估工程成为下一轮 Agent 演进的重点。 评估工程，贯穿整个 AI 生命周期，它的目标是定义、采集并量化 Agent 的表现质量，涵盖输出正确度、可解释性、偏好一致性与安全性。从架构角度看，评估工程是 AI 工程体系中最靠近“人类判断”的一环，既涉及指标体系的定义，...

作者：望宸 几乎每个月，Agent 开发工具领域都会出现新的商业产品或开源项目，但 Agent 的应用架构相对稳定。 Agent 开发工具链日新月异 模型带来了意识和自主性，但在输出结果的确定性和一致性上降低了。无论是基础大模型厂商，还是提供开发工具链和运行保障的厂家，本质都是希望提升输出的可靠性，只是不同的团队基因和行业判断，提供了不同的实现路径。以下我们按四个阶段，通过串联一些知名的开发工具，来回顾 Agent 开发工具链的演进历程。 第一阶段：基础开发框架 2022年底，ChatGPT 的发布，让全球首次直观感受到大语言模型的通用智能潜力，但彼时 LLM 仍是孤岛智能，...

一. 背景 网关作为重要的中间件，在传统业务中扮演着流量治理、路由转发、协议转换、安全防护等功能。根据不同业务场景的定位，也会衍生出不同类型的网关，例如流量网关、ESB（企业服务总线）、API网关、云原生网关。从网关职责看，其本质所承担的职责没有太多变化，主要是针对不同业务场景下作更多的适配，更好地满足业务使用。比如，API网关则是针对微服务场景，将原有的管理粒度从粗粒度的流量或服务，转换成了细粒度的REST或接口维度的管理，从而实现了更精细化的治理，这是从流量网关演变为API网关的核心驱动力。 在AI场景下，业务模式发生了根本性的变革，网关所面对的挑战也从“服务”转向了“模型”和“智...

大赛技术栈核心解读 1.1. 扩展 Higress：Go 与 Wasm 插件入门 插件是向 Higress 数据平面注入智能的核心机制。本次大赛的所有赛题，基本都需要通过编写或使用插件来实现。 WebAssembly (Wasm)：安全、跨语言的沙箱技术 WebAssembly (Wasm) 是一种可移植的、运行在安全沙箱环境中的二进制指令格式。它允许使用 Go、Rust、C++ 等多种语言编写的代码，安全地运行在像 Envoy/Higress 这样的宿主应用中 。 + ProxyWasm 规范：这是一个为代理环境制定的标准应用二进制接口（ABI），它定义了 Wasm 模块如何与代理...

01 Higress 引擎更新 本次发布概览 本次发布包含 30 项更新，涵盖了功能增强、Bug修复、性能优化等多个方面。 更新内容分布 + 新功能: 13项 + Bug修复: 7项 + 重构优化: 5项 + 文档更新: 4项 + 测试改进: 1项 重点关注 本次发布包含 2 项重要更新，建议重点关注： + feat: add rag mcp server (): 通过引入RAG MCP服务器，为用户提供了一种新的方式来管理与检索知识，增强了系统的功能性和实用性。 + refactor(mcp): use ECDS for golang filter configuratio...

作者：亦盏 在人工智能加速发展的今天，AI Agent 正在成为推动“人工智能+”战略落地的核心引擎。无论是技术趋势还是政策导向，都预示着一场深刻的变革正在发生。 最近，国务院印发《关于深入实施“人工智能+”行动的意见》，明确提出：到2027年，新一代智能终端和智能体普及率将超过70%；2030年突破90%，智能经济将成为我国经济发展的重要增长极；到2035年，全面步入智能经济与智能社会新阶段。 这一系列目标的背后，正是以 AI Agent 为核心的技术体系逐步走向成熟并大规模落地的信号。 OpenAI 创始人 Andrej Karpathy 曾提出一个经典的三段论，用以描述软...

报名地址：https://competition.atomgit.com/competitionInfo?id=c16f796963021f21711ad25819c664b4heading00 一、赛项简介 (一) 赛项背景 随着生成式人工智能（Generative AI）技术的飞速发展，大型语言模型（LLM）正逐步成为现代软件架构的核心。这一变革对底层基础设施提出了全新的要求，特别是作为流量入口和策略执行核心的API网关。传统的API网关主要负责请求路由、认证鉴权和流量控制，但在AI时代，其角色必须演进为“AI网关”，以原生方式支持和加速AI应用。 Higress是一款基于En...

作者：望宸 2024 年以来，AI 基础设施的快速发展过程中，PaaS 层的 AI 网关是变化最明显的基建之一。从传统网关的静态规则和简单路由开始，网关的作用被不断拉伸。用户通过使用网关来实现多模型的流量调度、智能路由、Agent 和 MCP 服务管理、AI 治理等，试图让系统更灵活、更可控、更可用。 国庆期间 AI 界发布/升级了一些产品，我们在此做一个简报，从中窥探下对 AI 网关演进新方向的启示。 一、自由度更高的低门槛后训练工具 OpenAI 前 CTO Mira Murati 创建的 Thinking Machines Lab 发布了其第一款产品「Tinker」，旨在...

大家好，我是来自阿里云智能集团的资深产品专家杨秋弟，今天很荣幸能在云栖大会的场合，和大家分享过去一年我们在支持企业构建 AI 应用过程的一些实践和思考。 01 智能体应用已成为应用架构中的重要组成部分 从事 AI 领域的同仁，无论是科研学者，落地 AI 的企业，还是提供 AI 技术或产品的供应端企业，我想大家都有非常一致的体感，就是 AI 应用的发展是势不可挡的，并正在重塑软件行业，我们来看几组数据： + 模型调用增速爆发： GenAI 的支出增长尤其迅猛，预计将从 2023 年的 160 亿美元增长到 2027 年的 1430 亿美元，年均复合增长率（CAGR）高达 73.3%。 ...

AI 原生不再是一个新的概念，而是企业在业务落地实践过程中已经形成的共识。不论是技术团队还是业务部门，都认同 AI 原生已经成为了应用架构的新范式。但是，围绕 AI 原生究竟涵盖哪些核心要素，因岗位视角不同、落地阶段不同、应用场景不同，仍有不同的理解：有强调模型和数据的，有更关注上下文工程与工具调用的，也有聚焦可观测、安全与治理的。 阿里云智能资深技术专家简志在“云栖大会 AI 基础设施进化论坛”分享了团队的实践感悟，包括从云原生到 AI 原生的演进路线，AI 原生所包含的关键要素，以及未来的发展方向，希望对参与 AI 建设的所有同行者们有所启发。 01 云原生到 AI 原生的演进路...