April 27, 2025
AI Agent 十问十答,降低认知摩擦
作者:望宸
新兴技术的出现,总会伴随着术语洪流和流派之争,带来认知摩擦。
近期 OpenAI 发布了《A Practical Guide to Building Agents》电子书[1],随后 Langchain 负责人驳斥了电子书中的一些观点,在官方博客发布了《How to think about agent frameworks》[2]。在一次夜聊中,受到同事亦盏的启发:新兴技术领域往往会经历事实标准的争夺,是模型往上,还是编排框架向下,时间才能给出答案,但作为行业从业者,不妨从中举一反三,甄别对自己有价值的信息。
本文通过提取并梳理以上两篇文章中的技术术语和价值信息...
April 25, 2025
MCP 协议:为什么 Streamable HTTP 是最佳选择?
MCP(Model Context Protocol)协议是一个用于 AI 模型和工具之间通信的标准协议。随着 AI 应用变得越来越复杂并被广泛部署,原有的通信机制面临着一系列挑战。近期 MCP 仓库的 [1] 引入了一个全新的 Streamable HTTP 传输层替代原有的 HTTP+SSE 传输层。本文将详细分析该协议的技术细节和实际优势。
要点速览
+ Streamable HTTP 相比 HTTP + SSE 具有更好的稳定性,在高并发场景下表现更优。
+ Streamable HTTP 在性能方面相比 HTTP + SSE 具有明显优势,响应时间更短且更稳定。
+ Stre...
April 24, 2025
Lobechat使用WolframAlpha MCP工具减少LLM幻觉
为什么需要WolframAlpha
随着人工智能技术的飞速发展,大型语言模型(LLM)如GPT4在自然语言处理和生成方面取得了显著的成就。然而,这些模型在处理复杂的科学和数学问题时,常常出现所谓的“幻觉”现象,即生成错误或不合理的结果。这种现象不仅影响了模型的可靠性,也限制了其在教育、科研等领域的广泛应用。_[1]_
大语言模型在生成文本时,往往依赖于其训练数据中的模式和关联,而缺乏对现实世界的物理规律和逻辑规则的深入理解。这导致在处理科学和数学问题时,模型可能会生成看似合理但实际上错误的答案。例如,在解决物理问题时,模型可能会忽略单位转换、物理定律的应用,甚至在数学计算中出现低级错误。...
April 18, 2025
API 即 MCP|Higress 发布 MCP Marketplace,加速存量 API 跨入 MCP 时代
作者:望宸&澄潭
MCP 正成为各家企业获取 AI 流量的“桥头堡”,应用厂商、SaaS 服务厂商争相构建自己的 MCP Server。但挑战也随之而来:
+ MCP 是全新的通信协议,虽然提供了 JSONRPC 这种无关编程语言的数据格式,但是面对“Resource、Tool、Prompts”等新功能,有较高的 Server 构建和调试成本。
+ 已经发布到各个 Market 的 MCP Server,大部分都还未支持 Streamable HTTP,存在改造成本,以及在协议层的长期维护成本。
+ 企业用户构建自己的 MCP 市场,缺少最佳实践和完整方案。
基于以上挑战,...
April 14, 2025
MCP 架构下,提示词工程和标准化数据结构越加重要
对于工程师而言,LLM 应用的最大区别之一是不确定的数据结构。非 LLM 应用的服务调用逻辑是确定的,由工程师们进行定义;而 LLM 应用的服务调用逻辑和输出,则是由 LLM 进行定义。
因此,当我们用自然语言在客户端描述请求的时候,LLM 对请求识别的准确度,决定了 LLM 输出的准确程度。另外,工作流越复杂,MCP Server 越多,对信息传递的要求越高。
这很像以前大家玩的“肢体传话游戏”,自然语言的使用限制越多、传递的人越多,结果可能相距越远。由于 MCP 引入了更多的处理和传递环节,这就更加要求:传递过程中,标准化数据结构,提升数据的可读性和处理效率,并通过提...
April 11, 2025
实用工具来了,存量 OpenAPI 批量转化为 MCP Server
将存量 OpenAPI 批量转化为 MCP Server,这是 Higress 最新开源的能力,助力开发者们高效构建 MCP Server。[1]
01 OpenAPI 的相关概念
OpenAPI 采用 YAML 或 JSON 编写,定义了一个与语言无关的 HTTP API 接口,为 API 生命周期各阶段提供统一的信息传递方式。而 API 允许开发者在无须访问源代码的情况下,就可以发现并使用相应的服务。例如,一个社交 APP,想获取双方的地理位置信息,无须自建一个高德地图,也无须获取高德地图源码,而是通过高德地图的 API 接口,即可获得其地理位置信息的功能。
经典互联网应用...
April 9, 2025
万字长文告诉你企业如何基于MCP实现AI应用架构新范式转型
作者:计缘
AI Agent 现状及架构
人工智能(AI)在商业领域的应用正日益成为推动创新和效率提升的核心力量。其核心在于多个AI Agent的协作,这些AI Agent通过分工与合作,共同承载AI应用所支持的业务需求。这种协作模式不仅优化了企业运营,还展现了AI在解决高影响力挑战中的潜力。
当前的AI Agent,无论是和各种Tools(各类业务服务接口)交互,还是和各类Memory(各类存储服务接口)交互,亦或是和各类LLMs(各类大语言模型)交互,都是通过HTTP协议的,除了LLM因为基本都遵循OpenAI范式以外,和其他的Tools和Memory交互都需要逐一了解它们的返...
April 1, 2025
Higress 开源 Remote MCP Server 托管方案,并将上线 MCP 市场
导读:MCP Server 的实施存在着诸多挑战,特别是在认证授权、服务可靠性和可观测性方面,Higress 作为 AI 原生的 API 网关,提供了完整的开源 MCP Server 托管解决方案。即将上线的 MCP 市场,将大幅降低开发者构建 MCP Server 的时间和人力成本。
01 从事实标准迈向行业标准
MCP(Model Context Protocol)协议的生态发展正以前所未有的速度推进。近期,两大关键事件标志着 MCP 已从事实标准迈向行业标准:一方面,OpenAI 正式宣布跟进 Anthropic 的 MCP 协议,另一方面,Anthropic 发布了新版本 MCP...
March 28, 2025
IngressNightmare:Ingress Nginx 再曝5个安全漏洞,可接管你的 K8s 集群
作者:望宸&魁予
是否还记得2022年 K8s Ingress Nginx 披露了的3个高危安全漏洞(CVE202125745, CVE202125746, CVE202125748),并在那一年宣布停止接收新功能 PR,专注修复并提升稳定性。但近期再次被披露5个安全漏洞,攻击者可利用安全漏洞,接管你的 K8s 集群,被业内称为_[1]_
目录:
_01_ 背景
_02_ Nginx Ingress 安全漏洞频出的根因:架构设计缺陷
_03_ 架构设计缺陷带来安全问题,还带来稳定性问题
_04_ 自建网关容易忽略的细节
_05_ Higress&MSE Ingress:...