April 14, 2025
MCP 架构下,提示词工程和标准化数据结构越加重要
对于工程师而言,LLM 应用的最大区别之一是不确定的数据结构。非 LLM 应用的服务调用逻辑是确定的,由工程师们进行定义;而 LLM 应用的服务调用逻辑和输出,则是由 LLM 进行定义。
因此,当我们用自然语言在客户端描述请求的时候,LLM 对请求识别的准确度,决定了 LLM 输出的准确程度。另外,工作流越复杂,MCP Server 越多,对信息传递的要求越高。
这很像以前大家玩的“肢体传话游戏”,自然语言的使用限制越多、传递的人越多,结果可能相距越远。由于 MCP 引入了更多的处理和传递环节,这就更加要求:传递过程中,标准化数据结构,提升数据的可读性和处理效率,并通过提...
April 11, 2025
实用工具来了,存量 OpenAPI 批量转化为 MCP Server
将存量 OpenAPI 批量转化为 MCP Server,这是 Higress 最新开源的能力,助力开发者们高效构建 MCP Server。[1]
01 OpenAPI 的相关概念
OpenAPI 采用 YAML 或 JSON 编写,定义了一个与语言无关的 HTTP API 接口,为 API 生命周期各阶段提供统一的信息传递方式。而 API 允许开发者在无须访问源代码的情况下,就可以发现并使用相应的服务。例如,一个社交 APP,想获取双方的地理位置信息,无须自建一个高德地图,也无须获取高德地图源码,而是通过高德地图的 API 接口,即可获得其地理位置信息的功能。
经典互联网应用...
April 9, 2025
万字长文告诉你企业如何基于MCP实现AI应用架构新范式转型
作者:计缘
AI Agent 现状及架构
人工智能(AI)在商业领域的应用正日益成为推动创新和效率提升的核心力量。其核心在于多个AI Agent的协作,这些AI Agent通过分工与合作,共同承载AI应用所支持的业务需求。这种协作模式不仅优化了企业运营,还展现了AI在解决高影响力挑战中的潜力。
当前的AI Agent,无论是和各种Tools(各类业务服务接口)交互,还是和各类Memory(各类存储服务接口)交互,亦或是和各类LLMs(各类大语言模型)交互,都是通过HTTP协议的,除了LLM因为基本都遵循OpenAI范式以外,和其他的Tools和Memory交互都需要逐一了解它们的返...
April 1, 2025
Higress 开源 Remote MCP Server 托管方案,并将上线 MCP 市场
导读:MCP Server 的实施存在着诸多挑战,特别是在认证授权、服务可靠性和可观测性方面,Higress 作为 AI 原生的 API 网关,提供了完整的开源 MCP Server 托管解决方案。即将上线的 MCP 市场,将大幅降低开发者构建 MCP Server 的时间和人力成本。
01 从事实标准迈向行业标准
MCP(Model Context Protocol)协议的生态发展正以前所未有的速度推进。近期,两大关键事件标志着 MCP 已从事实标准迈向行业标准:一方面,OpenAI 正式宣布跟进 Anthropic 的 MCP 协议,另一方面,Anthropic 发布了新版本 MCP...
March 28, 2025
IngressNightmare:Ingress Nginx 再曝5个安全漏洞,可接管你的 K8s 集群
作者:望宸&魁予
是否还记得2022年 K8s Ingress Nginx 披露了的3个高危安全漏洞(CVE202125745, CVE202125746, CVE202125748),并在那一年宣布停止接收新功能 PR,专注修复并提升稳定性。但近期再次被披露5个安全漏洞,攻击者可利用安全漏洞,接管你的 K8s 集群,被业内称为_[1]_
目录:
_01_ 背景
_02_ Nginx Ingress 安全漏洞频出的根因:架构设计缺陷
_03_ 架构设计缺陷带来安全问题,还带来稳定性问题
_04_ 自建网关容易忽略的细节
_05_ Higress&MSE Ingress:...
March 27, 2025
Java版Manus实现来了,Spring AI Alibaba发布开源OpenManus实现
此次官方发布的 Spring AI Alibaba OpenManus 实现,包含完整的多智能体任务规划、思考与执行流程,可以让开发者体验 Java 版本的多智能体效果。它能够根据用户的问题进行分析,操作浏览器,执行代码等来完成复杂任务等。
项目源码及体验地址:
效果展示
话不多说,先看运行效果,以下是我们通过几个实际问答记录展示的 Spring AI Alibaba OpenManus 实际使用效果。
1. 打开百度浏览器,在搜索框输入:阿里巴巴最最近一周股价,根据搜索到的信息绘制最近一周的股价趋势图并保存到本地目录。
2. 我计划在接下来的五一劳动节假期到韩国旅...
March 24, 2025
大模型上下文协议 MCP 带来了哪些货币化机会
先带个货:
+ Higress 及其云产品 API 网关:正在和通义灵码合作,采用 SSE + Tool + Redis 的技术方案,已经上线 Higress MCP Server Hosting_[1]_,提供两方面能力,一是 Higress 作为平台提供 IO 简单的 Tool 能力,实现若干主流的外部应用的对接,用户也可以自行实现 IO 复杂的 Tool 能力;二是作为网关对 MCP Server 的访问进行身份验证、授权等方面的管控。
+ Nacos 即将发布 MCP Register 的相关能力,包括动态发现和管理 MCP Server,并且通过动态 Prompt 下发管理 MC...
March 20, 2025
Higress.ai 站点全新发布,轻松解锁 AI 新能力,开启全球服务!
随着大模型技术的快速发展,AI服务的规模化落地对底层基础设施提出了新需求。在讨论到大模型规模化和安全使用时,AI网关是非常重要的AI 基础设施关键组件之一。
AI网关是传统API网关面向大模型场景的深度演进,它在保障基础网关能力的同时,针对AI服务的特性进行了专项增强:
+ 场景特性适配:专门优化长连接、高并发、大带宽等传输需求,适配大模型服务的高延迟特性
+ 智能流量治理:支持多模型动态路由、智能负载均衡、API Key轮转调度、语义化请求缓存
+ 安全合规保障:内置内容安全过滤、Token配额管理、多级限流熔断等安全能力
+ 成本精细管控:提供调用审计分析、流量灰度分发、失败请求自动...
March 13, 2025
AI 网关代理LLMs最佳实践
作者:付宇轩(计缘)
DeepSeek/QWen普惠AI趋势
随着DeepSeek R1的横空出世,又一次点燃了原本已经有点冷淡的大语言模型市场和话题,并且快速成为了现象级,小到中小学生,大到父母辈都知道了中国出了一个叫DeepSeek的大语言模型。各个行业,各个企业又都开启了新一轮的AI赋能/改进业务的浪潮。工信部发文力推最新AI技术普惠应用,三家运营商全面接入DeepSeek。国务院国资委召开中央企业“AI+”专项行动深化部署会。种种现象都表名,在DeepSeek引发的“鲶鱼效应”下,AI热潮持续升温,各个企业都愿意花钱进行尝试,云厂商GPU形态,线下一体机形态,云厂商DS API形...