本文作者澄潭, 阿里云API网关软件工程师，Higress开源项目主要贡献者何良, Intel Web Platform Engineering软件工程师, WAMR开源项目主要贡献者 本文介绍Higress将Wasm插件的运行时从V8切换到WebAssembly Micro Runtime (WAMR)的最新进展。通过切换到WAMR并开启AOT模式大幅提升了Wasm插件性能，从我们的测试中大部分插件平均有50%左右的性能提升，一些逻辑复杂的插件性能直接翻倍。 Higress Wasm插件 Higress作为首个推出Wasm扩展能力的云产品网关，从2022年就上线了Wasm插件市场，...

云原生架构下，网关承载着流量管理、服务调用、安全管理等多重职能，在稳定性、性能、安全性、易用性上存在着更高的要求。在 CNCF Landscpae 编排和管理的 API Gateway 领域中，已经有不少开源的网关选择，开发者们也有着不小的选型诉求。云原生网关 Higress 开源后，引起了开发者们的热烈讨论，我们整理了大家在 GitHub、钉群、微信群讨论的问题，并将回答汇总如下，方便各位更准确的读懂 Higress，也非常欢迎您和我们一起共建、定义 Higress。Q1：Higress 现在适合上生产系统么？A1：推荐发布 GA(General Availability)版本后再上生产，...

一、前言 在去年11月的云栖大会上，我们开源了云原生网关 Higress，时隔 2 月，Higress 的 Github 项目(https://github.com/alibaba/higress)已经收获了 700+ star，以及大量社区小伙伴的关注。在社区的交流中我们发现有不少微服务开发者在使用如 Spring Cloud Gateway/Zuul 等微服务网关对接 Nacos 注册中心实现微服务的路由，并且希望了解迁移到 Higress 网关能带来哪些好处。 本文将介绍 Higress 组合 Nacos 作为微服务网关能力，并介绍微服务网关发展的两个趋势，为网关的选型指明道路： ...

随着AI时代到来，基于大模型的应用对网关提出了新的要求，例如在不同LLM提供商之间进行负载均衡、构建AI应用的可观测能力、基于token的限流保护与配额管理、AI应用内容安全等等。Higress基于企业内外的丰富场景沉淀了众多面向AI的功能，推出了AI原生的API网关形态并且全部开源。 是一个开源的前端项目，用于提供大模型聊天窗口，支持接入多种大模型，本文基于Higress、通义千问以及 ChatGPTNextWeb，演示 Higress 如何兼容 openai 协议，并逐步搭建一个体系完整的LLM应用，应用最终架构如图所示： AI 代理 官方文档： 应用架构 首先，我们先通过网关快...

OpenAI 国内停服，除了各个大模型厂商提供的迁移方案外，是否有其他更平滑的迁移方案呢？本文以 OpenAI 切换到通义千问为例，介绍开源网关 Higress 的应对方案。优势是： 默认按照模型价格和能力进行了合理映射，且支持用户自定义调整配置 可以通过 OpenAI 的统一协议对接多种大模型，屏蔽实现细节，降低接入新大模型的 API 适配成本 Higress 可以提供 token 限流插件、内容审核插件，通过网关的工程化能力实现业务收益 实操视频 步骤介绍 准备工作：需要登陆阿里云 第一步：启动 Higress AI 网关 Higress 有多种部署方式，例...

基于大模型的 AIGC 应用或 SaaS 服务，出现了全新的需求，例如对 LLM 结果的缓存、多个 LLM 之间的容错切换、基于 toke 的限流、内容审核等，通过在网关上的插件能力可以非常优雅的满足这些需求，形成统一的流量治理，从而避免后端服务的“负重”。 一、新版本简介 Higress 发布 v1.4，基于为通义千问，以及多家云上 AGI 厂商客户提供 AI 网关的积累沉淀，开源了大量 AI 原生的网关能力。同时也在 Ingress、可观测、流控等云原生能力上做了全方位升级。AI能力全面开源：提供包含安全防护、多模型适配、可观测、缓存、提示词工程等领域在内的多个开箱即用插件，核心能力...

背景说明 前面 SJC 在中介绍了如何在本地开发和调试 Higress Controller。而 Higress 控制面除了 Controller 之外还有一个组件，那就是 Pilot。本文就将介绍如何在本地开发和调试 Higress Pilot。 环境准备 步骤一：克隆代码仓库 Pilot 的代码目前是以 Istio 上游仓库 submodule 加补丁文件的形式存在于 Higress 的主仓库中的，所以直接克隆 Higress 的代码主仓库 https://github.com/alibaba/higress 即可。 步骤二：准备项目代码 Higress Pilot ...

概述 本文旨在介绍如何在本地使用 IDE 来进行 Higress 控制台（以下简称控制台）的开发和调试工作。 代码结构 控制台的代码仓库地址为 。 控制台项目使用了前后端分离的架构。在将代码下载到本地后，我们可以看到整个项目主要由以下三个目录组成：backend、frontend 和 helm。它们也分别对应了项目的三个部分：后端、前端和部署。 Backend：后端部分 后端部分是一个使用 Maven 构建配置的 Java 项目，其中共有两个模块：sdk 和 console。 SDK sdk 中包含了定义了 Higress 治理平面的核心数据模型和业务逻辑，如路由模型...

1. 背景 Higress 一个遵循开源 Ingress/Gateway API 标准，提供流量调度、服务治理、安全防护三合一的高集成、易使用、易扩展、热更新的下一代云原生网关。而配置管理网关的运维工作中扮演者重要的角色。如何让配置管理自动化，尤其是与其他的运维系统进行对接，就成为了一个非常迫切的需求。本文将介绍如何使用 Higress Admin SDK 来管理 Higress 系统内的各类配置。希望能够对存在此类需求的朋友有所帮助。 2. Higress Admin SDK Higress Admin SDK 脱胎于 Higress Console。起初，它是作为...