首页 > 最新动态 > 模力方舟 GiEngine:国产算力时代的 AI 推理引擎
最新动态
模力方舟 GiEngine:国产算力时代的 AI 推理引擎
2025-10-304
作为模力方舟自研的重要底座组件,GiEngine 聚焦于大模型的高性能推理与国产算力适配,助力企业与开发者在本地或云端环境中高效部署各类 AI 能力。

自研引擎助力国产 AI 应用落地

GiEngine(Gitee Inference Engine)是模力方舟在开源模型服务基础上自主研发的高性能推理引擎,具备以下核心优势:

  • 灵活部署,开箱即用

支持快速私有化部署,标准 API 接口设计可无缝接入现有研发流程,适配常见 AI 科研与应用场景,一键搭建本地模型服务平台。

  • 覆盖主流模型,全面兼容

兼容包括 Diffusion、多语言、多模态等在内的多类主流开源模型,涵盖文生图、问答、总结、翻译、Embedding 等多种应用任务,对接超 150 款模型资源。

  • 支持主流国产算力

GiEngine 已适配包括沐曦、壁仞、天数智芯、华为昇腾等主流国产推理芯片,在众多设备上实现媲美 CUDA 的性能表现,显著降低部署成本。

即开即用的模型推理服务

基于 GiEngine 推理引擎,模力方舟推出了 Serverless API 服务,面向开发者开放调用与在线体验。

模力方舟 Serverless API 服务覆盖十三大类超 150 款业界顶级模型,无需部署,通过 API 即可快速调用,同时支持国产算力运行环境,降低开发门槛与算力成本。

推理之上,打造 AI 应用的落地闭环

以 GiEngine 的强大推理能力为基础,模力方舟在近期也上线了「AI 应用市场」,帮助开发者将模型快速打包为在线可用的实际应用。

AI 应用市场提供了模型接入、应用上架、页面展示、调用计费等一站式流程,搭配免费算力、流量扶持和零抽成机制,让开发者的好点子跑起来、用起来、赚起来。

构建可持续的国产 AI 生态

从模型推理到底座部署,从 API 服务到 AI 应用分发,模力方舟正在构建一个面向国产算力的 AI 技术闭环。

访问模力方舟,开启你的全流程国产 AI 开发之旅:https://moark.com





来源:模力方舟


点我访问原文链接