深圳热线
摄影 > 正文

腾讯混元AI Infra核心技术开源

2026-02-04 19:01:24 来源：界面新闻


(相关资料图)

2月4日，腾讯混元AI Infra团队正式推出开源生产级高性能LLM推理核心算子库HPC-Ops。腾讯混元称，在真实场景下，基于HPC-Ops，混元模型推理QPM提升30%，DeepSeek模型QPM提升17%。同时，在单算子性能方面，HPC-Ops实现Attention相比FlashInfer/FlashAttention最高提升2.22倍；GroupGEMM相比DeepGEMM最高提升1.88倍；FusedMoE相比TensorRT-LLM最高提升1.49倍。

关键词： 混元 腾讯 算子 推理 hpc 技术开源 知

热门推荐

热门文章

全站热门

深圳热线 版权所有 Copyright © 2022 SZONLINE(SZONLINE.CN) All Rights Reserved.邮箱：56 26 623@qq.com

粤ICP备18025786号-54 营业执照公示信息