HiMarket 介绍
随着AI浪潮面向全行业进行重塑,大量的企业需要进行 AI 场景在内部落地,企业架构逐步升级成 AI 原生架构,实际落地当中有很多问题:
- 企业内各个团队分散使用各种模型,内部重复造轮子,规模增大,如何统一管理?
- 企业内个人使用公网模型、公网获取回来的 MCP ,是否安全,会不会泄露公司数据?
- 企业使用 AI 成本和效果怎么测算,SLA 如何量化,Token 用量如何量化,是否统一可量化可观测?
- 企业内部面向 AI 全员提升效率,面向私有模型、公网模型,如何分配账号和权限进行管理?
当企业开始大规模部署 AI 应用时,往往会遇到这样的难题,当这些资源超过一定规模后,问题会变得越来越复杂,最终制约 AI 应用的进一步发展。
一、HiMarket 是什么
Section titled “一、HiMarket 是什么”HiMarket 是基于 Higress AI 网关构建的企业级 AI 开放平台,帮助企业构建私有 AI 能力市场,统一管理和分发 LLM、MCP Server、Agent、Agent Skill、Agent Worker 等 AI 资源。平台将分散的 AI 能力封装为标准化的 API 产品,支持多版本管理和灰度发布,内置 Skills 市场和 Worker 市场供开发者浏览和安装,提供 HiChat AI 对话和 HiCoding 在线编程等自助式开发者体验,并具备安全管控、观测分析、计量计费等完整的企业级运营能力,让 AI 资源的共享和复用变得高效便捷。
二、使用场景
Section titled “二、使用场景”AI 场景(面对企业员工)
Section titled “AI 场景(面对企业员工)”HiMarket 提供了 HiChat 和 HiCoding 能力,HiChat 通过 Chat 模式替代搜索,做市场调研和产品调研,生成运营图片等工作;HiCoding 提供在线 AI 编程环境,支持 Vibe Coding 和人机协作开发。
- 企业全员 AI 使用入口:通过 HiMarket AI 开放平台,同时解决了员工不知道用哪些模型,企业如何管控员工用模型的两个问题;全员可以通过这个入口进行使用 AI 模型能力,企业可以进行整体安全合规审核,保证企业和员工使用 AI 范围安全可控。
- 多模型对比:可以选择多个模型市场的模型,输入一次对比多个模型,快速直接对比模型返回内容差异,选取最优内容。
- 会话历史记录:方便员工管理历史会话记录,可以快速基于历史信息进行对话回溯,并且计划后续基于对话可以形成知识点,知识点可以进行横向传递,提升数据共享效率。
- 联网搜索:通过体验中心可以支持配置联网搜索能力,配置 Higress AI 网关联网搜索能力之后,所有模型都可以支持联网搜索,AI 网关会把对应搜索内容传递给模型使用摘取,扩大实时数据能力。
- 支持关联 MCP 工具:体验中心聊天框支持关联 MCP 市场,可以实时快速的使用 MCP 能力,可以快速体验验证 MCP 本身能力情况,并且支持企业原本 API 快速配置化转换成 MCP 协议,结合模型做快速验证。
AI 市场(面对开发者)
Section titled “AI 市场(面对开发者)”HiMarket 支持构建涵盖 Agent、MCP Server、Model 的完整 AI 市场,让企业的各类 AI 资源不再分散,而是以标准化方式汇聚在一个平台上。
- Agent 市场:支持将复杂的 AI Agent 应用打包上架,可对接 AgentScope 等 Agent 开发平台,例如通过 AgentScope 构建的 Agent 可一键注册到 HiMarket,其他开发者订阅后即可直接使用,无需从零搭建;支持跨框架、跨语言的 agent 一键发布到 Agent 市场。
- MCP 市场:支持接入不同平台的 MCP Server,并支持将外部 API 转换为标准化的 MCP Server,开发者订阅后,即可让 AI 应用轻松调用外部能力。
- 模型市场:支持公有云模型及企业自研私有模型的快速接入,平台以 Higress 作为模型服务的网关代理,提供内容安全、Token 限流等防护能力,保障模型服务对外开放的安全合规。
-
Skills 市场:支持上传和分发 Agent Skill,开发者可浏览、订阅和安装 Skill 包,快速为 Agent 扩展能力,无需从零开发。
-
Worker 市场:Worker 是可装载 Skills 的 Agent Worker 执行单元,支持将 Worker 打包上传、版本化管理和分发。管理员可创建 Worker 产品并从 Nacos 批量导入,开发者可通过门户浏览、订阅、下载 Worker 包或通过 CLI 安装。
-
AI 资产生命周期管理:管理员将资源接入平台,配置访问策略和使用文档,发布上架;开发者在门户浏览、订阅、获取调用凭证即可订阅使用。
AI 体验中心(面对开发者)
Section titled “AI 体验中心(面对开发者)”HiMarket 提供了丰富的自助式开发者体验能力:
- HiChat AI 对话:支持单模型对话与多模型对比,结合 MCP 进行工具调用测试,支持联网问答等增强功能。通过 HiChat,开发者可以快速体验和验证模型及 MCP 能力。
- HiCoding 在线编程:集成安全沙箱环境,支持 Vibe Coding 和人机协作开发,实时查看文件变更与代码预览,让开发者无需本地环境即可进行 AI 辅助编程。
AI 治理(面对AI维护者)
Section titled “AI 治理(面对AI维护者)”HiMarket 实现了对 AI 资源的集中式治理,提供全方位的安全管控和协作能力:
- 安全合规保障:通过 Higress 网关统一管控所有 AI 资源的访问,支持内容安全检测、敏感信息过滤、访问权限控制,确保企业 AI 能力对外开放时符合安全合规要求。
- 高效协作共享:打破团队间的”能力孤岛”,一个模型或工具接入后,可被多个部门订阅复用,避免重复采购和重复开发。
- 降低使用门槛:开发者无需逐一对接不同厂商的 API,HiMarket 提供统一的协议标准和开箱即用的调用凭证,大幅降低接入成本,让团队更专注于业务创新而非基础设施搭建。
三、产品优势
Section titled “三、产品优势”HiMarket 内置完善的企业级管理能力,确保 AI 资源的安全开放与高效运营。
- 产品管理: 管理员可为不同 API 产品配置独立的认证鉴权和可见性策略,同时提供流量控制、IP 白名单等防护能力,保障服务安全稳定。
- 观测分析: 提供管理员视角的全局观测大盘,展示 AI API 的调用趋势、热门产品排行、异常流量预警等,支持按时间、产品类型、开发者等维度进行多维分析,为企业运营优化提供数据依据。
- 计量计费: 支持基于 Token、调用次数等多种计量模式,自动统计资源消耗并生成账单明细,既能服务企业内部的成本核算,也能支撑对外商业化运营。
- 版本管理: 支持 API 产品的多版本并行,管理员可以发布新版本、维护旧版本并平滑迁移用户,通过版本对比、灰度发布、快速回滚等功能,确保产品迭代的安全稳定。
丰富观测能力
Section titled “丰富观测能力”观测分析(支持阿里云 SLS 和数据库两种实现方式):
灵活扩展能力
Section titled “灵活扩展能力”为了能够快速对接企业现有的系统,HiMarket 提供了灵活的定制能力,包括:
- 门户品牌: 管理员可为门户配置自定义域名、Logo、主题色、布局样式等元素,并灵活配置首页模块、产品分类、推荐栏等功能区域。
- 身份认证: 支持内置账号密码和企业 OIDC 认证方式,可与企业 SSO、IDaaS 等身份系统无缝集成,实现统一的用户管理和身份认证。
- 审批流程: 开发者注册、凭证申请、API 订阅等关键流程可灵活配置自动或人工审批。
四、快速体验
Section titled “四、快速体验”HiMarket 提供多种部署方式,满足不同场景需求:
| 部署方式 | 适用场景 | 说明 |
|---|---|---|
| 本地搭建 | 开发调试 | 适合开发者本地开发和调试,需要 JDK 17、Node.js 18+、Maven 3.6+、MySQL 8.0+ |
| Docker Compose | 快速体验 / 测试环境 | 交互式脚本一键部署全栈服务(HiMarket + Higress + Nacos + MySQL),开箱即用 |
| Helm Chart | 生产环境 / K8s 集群 | 云原生部署,适用于阿里云 ACK、AWS EKS 等 Kubernetes 环境 |
| 阿里云计算巢 | 一键云上体验 | 无需本地环境,直接在阿里云上一键部署社区版 |
Docker Compose 和 Helm 部署均支持交互式引导,自动完成核心组件部署、智能初始化(创建管理员账号、配置示例 MCP Server、发布演示 API 产品),部署完成后即可访问管理后台和开发者门户。
详细部署步骤请参考:HiMarket 部署指南
五、欢迎共建
Section titled “五、欢迎共建”HiMarket 是多个开源社区共同发起的开源项目,核心参与者包括阿里云、蚂蚁数科、高德、淘天等团队,面向开源可以助力企业快速构建 AI 开放平台,提供开箱即用的能力。
HiMarket 仓库:
https://github.com/higress-group/HiMarket
基于 HiMarket 实现的 MCP 金融级市场
https://antdigital.com/products/MCP
HiMarket 钉钉社区群(2群):163370001036
推荐文章:
《AgentScope Java v1.0 发布,让 Java 开发者轻松构建企业级 Agentic 应用》https://mp.weixin.qq.com/s/vtb3t0JnSTau3XM6wJMEkw