如何在 Higress AI 网关中集成 通义千问 (Qwen)

通义千问是阿里云自主研发的超大规模语言模型,具备强大的语义理解、内容创作、多轮对话和逻辑推理能力。

核心优势

原生中文支持优化
多模态理解能力
支持长文本输入
内置联网搜索增强

快速配置示例

provider:
  type: qwen
  apiTokens:
    - "YOUR_QWEN_API_TOKEN"
  modelMapping:
    "gpt-3": "qwen-turbo"
    "gpt-4": "qwen-max"

注:请将 YOUR_API_TOKEN 替换为您在 通义千问 (Qwen) 平台申请的实际令牌。

为什么选择 Higress 管理 通义千问 (Qwen)?

通过 Higress AI 网关接入 通义千问 (Qwen),您不仅仅获得了简单的协议转发,更获得了企业级的治理能力:

  • 统一协议适配: 使用标准的 OpenAI 协议调用 通义千问 (Qwen),无需关心底层差异。
  • 智能重试与熔断: 当模型服务不稳定时,Higress 自动处理重试,确保业务连续性。
  • 安全审计与限流: 保护您的 API Key 不被滥用,并基于 Token 消耗进行精准限流。
  • 语义缓存: 显著降低重复问题的响应时间,节省推理成本。

准备好开始了吗?

点击下方按钮,查看 Higress 的详细文档,或者直接在控制台中体验。

查看详细文档 Star on GitHub