Community / Blog
Blog
DeepSeek-R1来了,如何从OpenAI平滑迁移到DeepSeek
背景
1 月 20 日晚,DeepSeek(深度求索)公司发布推理模型 DeepSeekR1 正式版,同步开源模型权重,并允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。网友热评:这,才是真正的OpenAI。能力相当于一个月 200 美元的 ChatGPT o1 版本,却完全免费。
同时 DeepSeek 也开放了对应的 API 调用方式,过去依赖 OpenAI 的业务,可以考虑直接迁移到 DeepSeek,节省大量成本。
而 Higress 作为一款开源的 AI 网关工具,可以提供基于灰度+观测的平滑迁移方案:
快速安装 Higress
仅需一行命令,即可快速在本地搭建好...
阿里云高级工程师 | 2025-01-22
网关技术债怎么还?分层、插件、统一,三件套
团队和人员更迭的情况下,不可避免地会出现很多技术债。标准化是一种解决思路,分层、插件、统一技术栈是比较容易落地的路径。
和大部分企业一样,政采云也因各种历史原因,面临着网关上很多的技术债,例如容器网关配置较多,配置方式多样,带来较大的运维压力;5类开源网关并存,协作和迭代成本;业务诉求不断,网关上的业务逻辑越堆越多,风险无法收敛。
01.业务网关的项目背景
由于一些历史的背景,政采云平台在网关建设上遇到一些问题:
+ 容器网关配置较多,配置方式多样,运维压力较大
配置多,是因为容器网关配置分为服务路由、搭建类路由、return/rewrite类路由不同类型的路由。微服务架构使得服...
阿里云高级工程师 | 2025-01-07
智保未来:国泰产险的 AI 网关革新之旅
在数智化转型的大潮中,国泰产险以其前瞻性的视角,全面拥抱大模型技术,在外呼、客服、内容生成等多个业务场景中实现了大模型的深度应用。
一、引言
在数字化转型的浪潮中,国泰产险以其前瞻性的视角,全面拥抱大模型技术,在外呼、客服、内容生成等多个业务场景中实现了大模型的深度应用。通过引入阿里云云原生 API 网关,国泰产险不仅简化了大模型的接入复杂性,还有效提升了数据安全性和成本管控能力,成为保险行业数智化转型的典范。
二、背景
国泰财产保险有限责任公司(简称“国泰产险”)于 2008 年 8 月 28 日在上海创立。公司注册资本 26.3 亿元,在中国东南沿海和中西部地区多个省市设有分支机构...
阿里云高级工程师 | 2024-12-29
政采云业务网关实践——使用Higress统一替代APISIX/Kong/Istio Ingress
作者简介:政采云基础架构团队技术专家 朱海峰(片风)
业务网关项目背景
由于一些历史的背景,政采云平台在网关建设上遇到一些问题:
+ 容器网关配置较多,配置方式多样,运维压力较大
配置多是因为容器网关配置分为服务路由、搭建类路由、return/rewrite类路由不同类型的路由。微服务架构使得服务数目多,搭建类平台的技术方案导致子域名非常多,网关的配置复杂度就是MXN(M是服务个数,N是域名的个数),比如子域名个数约400多,服务个数约500多,整个配置量约20w+;搭建类平台子域名单独定义根路径转发,每个页面的分发路径随意填写,导致网关的配置需要支持到每个搭建页面到路径的映射关系...
阿里云高级工程师 | 2024-12-27
铭师堂的云原生升级实践
作者:升学e网通研发部基建团队
公司介绍
杭州铭师堂,是一个致力于为人的全面发展而服务的在线教育品牌。杭州铭师堂秉持“用互联网改变教育,让中国人都有好书读”的使命,致力于用“互联网+教育”的科技手段让更多的孩子都能享有优质的教育,促进他们的全面成长。
成立十余年以来,铭师堂不断汇聚优质的全国各地教育资源,并展开先进科学技术在学校教育智能化领域、学生个性化学习领域的应用研究。杭州铭师堂始终坚守使命,持续创新,“赋能学校、培养学生”,在教育信息化 2.0 趋势下,致力于促进线上教育与线下教育的高度融合,以学校为核心场景,与学校携手共建互联网学习空间,为学校与学生提供学习解决方案,极大促进...
阿里云高级工程师 | 2024-12-11
Envoy HTTP2 404 如何解决
问题背景
在大部分基于 Envoy 实现的网关里,都存在这样一个问题,当开启 http2 时,客户端访问会出现偶发的 404,并且可以从日志注意到这些 404 的请求,:authority 头里的域名和 SNI 里的域名不一致。
且在使用泛域名证书,且配置了多个域名的路由的情况下,这个问题特别容易出现。
问题相关的社区 issue:
问题成因
为什么 :authority 头和 SNI 不一致
这个问题涉及到客户端的连接复用机制,对于 http2 来说,连接多路复用的能力是对比 http1 的一个核心差异。特别是对于浏览器场景,尽可能的连接复用,可以在开启 TLS 的场...
阿里云高级工程师 | 2024-12-09
Higress x Kubesphere 开源沙龙成都站邀您参会
AI 驱动的应用程序开发、部署和运维,给应用带来了新的生命力和想象空间。但大部分开发者对 AI 应用的编程框架、可观测体系、网关架构的设计和使用依旧不太熟练,生产环境下的工程化实践仍不太丰富。为此,Higress 联合 Kubesphere 邀请了深耕 AI 应用工程化的一线研发工程师,分享他们的生产经验。本次活动因场地限制,采取报名审核制度。
阿里云高级工程师 | 2024-11-14
活动回顾丨云原生开源开发者沙龙,AI 应用工程化专场
11 月 08 日,云原生开源开发者沙龙丨AI 应用工程化专场在杭州顺利举办。现场座无虚席,阿里云一线工程师围绕《构建面向 AI 应用可观测能力》、《Java 开发者如何玩转 AI》、《事件驱动构建 AI 原生应用》、《智启未来:通过 AI 网关快速构建智能应用》4 个当下热门议题深入分享,讲师们的精彩演讲引发了现场开发者的强烈共鸣,并积极参与提问和讨论,现场互动氛围十分热烈。活动最后,现场开发者还通过实操环节进一步巩固了所学知识,整个活动充实而富有成效。点击文末阅读原文课可预约沙龙回放视频。
点击可免费获得杭州站讲师 PPT 合辑
一、精彩回顾
下面就让我们一起回顾本次活动上都...
阿里云高级工程师 | 2024-11-12
热联集团:从 APISIX 迁移到云原生网关
_作者:金峰(项良)、朱永林、赵世振(寰奕)_
一、公司简介
杭州热联集团股份有限公司成立于 1997 年 10 月,是隶属杭州市实业投资集团的国有控股公司。公司专业从事国际、国内钢铁贸易黑色大宗商品及产业服务,业务品种涵盖钢铁原料、钢铁产品及以铜为主的有色金属等。
2023 年,热联集团实现销售总量 9634 万吨,销售收入 2555 亿元,业绩增长 50%。
20162023 年,公司连续八年蝉联中国钢贸企业百强榜综合榜前三。入选国务院国资委“双百行动”企业名单,以及浙江省政府“凤凰计划”名单,被列入浙江省首批内外贸一体化“领跑者”培育企业。
目前热联集团的网点建设遍布国内...
阿里云高级工程师 | 2024-11-12