英特尔Sachin Katti:大模型在云端训练的成熟,将促进AI快速向边缘迁移
通信世界网消息(CWW)随着边缘计算与大模型技术的不断成熟,二者可以很好地融合在一起为行业应用中碰撞出新的“火花”。 近日,在2023英特尔网络与边缘产业高层峰会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti和英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士接受了通信世界全媒体记者的采访,分享了英特尔在边缘计算和大模型方面的战略和产品,以及如何推
2023-08-01 10:10:14
来源:通信世界全媒体 程琳琳  

通信世界网消息(CWW)随着边缘计算与大模型技术的不断成熟,二者可以很好地融合在一起为行业应用中碰撞出新的“火花”。

近日,在2023英特尔网络与边缘产业高层峰会上,英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti和英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士接受了通信世界全媒体记者的采访,分享了英特尔在边缘计算和大模型方面的战略和产品,以及如何推动边缘智能和大模型在行业中的落地。

如今边缘计算市场已经在快速增长过程当中,这对英特尔以及对整个英特尔生态系统,以及整个中国市场来说都提供了巨大的机遇。

“英特尔的边缘计算策略是提供大量的硬件选择,比如说CPU、加速器、GPU等,达到一流的性能。同时在软件方面,英特尔希望在应用的时候可以降低复杂性。”Sachin Katti表示:“我们要帮助客户,为他们提供一些选择,同时通过我们的软件解决方案可以使他们的运营更加简化、更加精简,而且我们要跟整个的生态系统的合作伙伴一起合作。”

随着大模型在云端训练的成熟,AI就会快速向边缘进行迁移。Sachin Katti说:“我们看到AI正在快速地迁移到云端,在这当中边缘也会发挥更加重要的作用来推动AI的部署。英特尔有很多边缘设备都是在行业落地的。所以我们要做的是通过所提供的选择,让用户可以更好的使用AI,把AI成果运用在日常运营当中。”

英特尔认为大模型是AI未来的关键,它可以帮助解决一些人类面临的重大挑战,比如医疗、教育、环境等。“我们相信大模型可以让AI更加通用,更加普及,更加有价值。我们也相信大模型需要和行业结合起来,要在行业里去做跟这个行业相关的,有针对性的大模型去解决行业里有针对性的一些问题。”Sachin Katti表示。

为了支持大模型的训练和推理,英特尔提供了一系列的硬件和软件解决方案。在硬件方面,英特尔发布了专门面向大模型训练的加速器Gaudi 2,它在第三方公开的运用GPT 3这样一个大模型的评测当中表现出了非常好的性能。同时,英特尔也提供了通用的CPU处理器以及专用的独立显卡等加速器来满足人工智能模型推理对算力的要求。

在软件方面,英特尔推出了OpenVINO的软件工具,可以实现模型在不同平台上的迁移和部署。在最新的OpenVINO版本里,英特尔增加了对大模型的支持,比如说Stable Diffusion这样一个文生图的模型,已经开始在一些行业里进行使用了。

除了硬件和软件之外,英特尔还提供了开放标准的网络连接技术,来把大量的GPU和加速器连接起来,让大模型的训练更加方便。英特尔还推出了IPU(Infrastructure Processing Unit),它能够给用户提供一个可靠、高速、低延迟的数据传输服务。

“我们要做到在中国为中国,在本地客户需求上做一些行业需要的相应解决方案,利用总部所提供的软件基础来做这个方案,从工具、解决方案、生态等方面,来为本地行业客户赋能。”张宇博士表示。英特尔希望通过软硬件结合、开放标准、生态构建等方式,为客户提供整体解决方案,让AI更加通用、普及、有价值。

最新文章
1
openEuler 汇聚开源力量,深化系统级创新,构筑 Agentic Infra 坚实底座
2
海信小墨E5S Pro成双11全网超级大单品,RGB-Mini LED引领大屏换代趋势
3
从全天候接待到智能挽单,快手电商智能客服助力商家做好双11售后服务
4
开售三周超25亿元,16位快手电商达人接连刷新单场销售纪录
5
存商跃迁、新商爆发,快手双11「全民任务」赋能腰尾商家生意增长
6
openEuler发布面向Agentic Infra的操作系统,全球协同共建AI生态
7
一套追光套系,全屋森林呼吸:长虹追光套系空调正式发布
8
双11全周期第一!TCL电视强势夺冠,SQD-MiniLED开启“狂飙”模式
9
这还是TIM和四维?影视飓风造型爆改 前后反差太大
10
13%跌幅背后 嵌入式微蒸烤卡在哪?
11
下一站,芯屏契合
12
预计双11家电大盘下滑14%,AI家电逆势领跑成最大驱动力
13
连续三年获中上协认可,四川长虹将ESG管理延伸至产业链
14
空调渠道为什么又涌现出撕裂型的变化
15
爆料称小米18标准版备案16GB+1TB顶配:2nm平台,整机重量约200g
16
中国电视平均尺寸涨到64.7英寸 75英寸仍是第一大尺寸
17
每卖10台就有近3台!Mini LED电视越来越吃香 RGB杀入2000元档
18
双11战报,家电消费电子企业不太需要?
19
快手电商亮相第九届进博会:以「展+播」新范式,助力商达破峰增长
20
快手电竞与杭州市智力运动管理中心、天猫校园达成战略合作,携手共建AEW产业生态
关于我们

微信扫一扫,加关注

商务合作
  • QQ:61149512