国产GPU鼎力支持!摩尔线程快速部署DeepSeek
DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。
2025-02-05 09:39:56
来源:快科技  

快科技2月4日消息,DeepSeek V3、R1系列开源AI大模型在多语言理解、复杂推理任务中展现了卓越性能,不仅推动了AI技术的普及与发展,更是对开源社区的极大贡献。

目前,各家科技巨头都已纷纷开始支持、部署DeepSeek,国产硬件也在加速支持。

作为国产全功能GPU创新企业,摩尔线程快速实现了对DeepSeek蒸馏模型推理服务的高效部署,可让更多开发者基于摩尔线程全功能GPU,进行AI应用创新。

一键体验地址:

https://playground.mthreads.com

此外,用户也可以基于摩尔线程MTT S80、MTT S4000显卡,进行DeepSeek-R1蒸馏模型的推理部署。

其实早在1月28日,就已经有B站UP主在摩尔线程MTT S80上手动完成实践:

https://www.bilibili.com/video/BV18YfQYEEs2

通过DeepSeek提供的蒸馏模型,能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

摩尔线程基于自研全功能GPU,通过开源与自研双引擎方案,快速实现了对DeepSeek蒸馏模型的推理服务部署。

开源框架适配:

基于Ollama开源框架,摩尔线程完成DeepSeek-R1-Distill-Qwen-7B蒸馏模型的部署,并在多种中文任务中展现了优异的性能,验证摩尔线程自研全功能GPU的通用性与CUDA兼容性。

自研引擎加速:

通过摩尔线程自主研发的高性能推理引擎,结合软硬件协同优化技术,通过定制化的算子加速和内存管理,显著提升了模型的计算效率和资源利用率。

这一引擎不仅支持DeepSeek蒸馏模型的高效运行,还为未来更多大规模模型的部署提供了技术保障。 

最后,摩尔线程即将开放自主设计的夸娥(KUAE)GPU智算集群,全面支持DeepSeek V3、R1模型,以及新一代蒸馏模型的分布式部署。

夸娥集群集成先进推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,助力开发者快速实现业务落地。

最新文章
1
10月洗衣机内销市场大幅下滑 出口市场增速回落
2
10月多重因素叠加,导致了家用空调产销数据双双下滑
3
10月冰箱产销同比均呈个位数下滑
4
彩电10月:受高基数影响,内外销双双下滑
5
液晶电视面板出货连续4个月增长,京东方华星惠科有何长板?
6
豆包手机助手深度嵌入系统:努比亚 M153成首批工程机
7
预测12月面板价格或将企稳,中大尺寸产品预计小幅上涨
8
小米发布REDMI电视X55/65/75 2026:Mini LED只要2499元起
9
最新iOS设备好评榜TOP10出炉:口碑最好iPhone诞生于5年前
10
缓冲期已过,“旧国标”电动两轮车禁售,谁受益、谁出局?
11
史上最强悍的打印机,“超激鼓”一鼓作气打出50000页
12
十年再启,共创未来 第十届索尼中国创新大赛展会成功举办
13
“智造标杆”何以炼成?透过CCTV镜头探寻长虹“AI智造”答案
14
快手X新周刊X捷达开启“小店中国”探访之旅,真实烟火气赋能品牌营销
15
东北大花袄邂逅“冰雪海岛” 快手携和平精英这次打算做点不一样的
16
直播短视频构塑新大众文艺形态,快手分享AI时代文化传播新范式
17
国际雪联顶级赛事本周开赛,“三大效应”加速冠名商长虹国际化发展
18
什么才是优雅的壁纸电视?TCL A400 Pro给出终极答案
19
电视、投影集体“换接口”?康佳、希影加入,GPMI生态扩容加速
20
双11电视市场同比下滑22%,大尺寸、Mini LED、高刷成新增长点
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512