当前位置:资讯 > 正文

GTC 22 精彩看点 | 锁定阿里云硬核分享

2022-03-21 16:39:43  来源:壹点网

 

简介: 3月21日,2022英伟达 GTC 大会即将拉开帷幕。此次 GTC 22 大会上,阿里云将带来有关推理优化/部署、深度编译器、大模型部署、训练优化、云手游等主题的内容,分享云端机器台最新的创新实践。

3月21日,2022英伟达 GTC 大会即将拉开帷幕。此次 GTC 22 大会上,阿里云将带来有关推理优化/部署、深度编译器、大模型部署、训练优化、云手游等主题的内容,分享云端机器台最新的创新实践。

GTC 22 阿里云精彩演讲提前看

[S41068] PaiSparse:面向深度的稀疏加速库

· 李与超,阿里云,高级算法工程师

· 朱斐文,NVIDIA, 高级算法专家

· 3 月 23 日 星期三 | 3:00 PM - 3:25 PM 北京时间

随着超大语言模型的流行, 如何部署超大模型正在成为迫切需要解决的问题。非结构化剪枝可以将模型规模缩小99%,让超大语言模型在单卡上部署成为可能。然而超大模型稀疏后会呈现不同的非零分布,而这些分布会直接影响硬件的计算量并影响最终的执行时间。同时与传统的 HPC 任务不同的是,基于训练后的稀疏矩阵分布的 tuning 在深度推理中是可以进行的。因此我们提出一个面向深度的稀疏加速库:PaiSparse,可以自动生成更高效的稀疏算子。实验表明,与 cuSparse 相比,PaiSparse 可以提速1.5~5倍。

话题链接:https://www.nvidia.com/gtc/session-catalog/#/session/1634303703593001XjhX

[S41501] PTXC:使用 XLA 编译器通过云 GPU 扩展 PyTorch 训练

· 刘小勇,高级主任工程师

· 3 月 23 日 星期三 | 9:00 PM - 9:25 PM 北京时间

在工业界实践中,模型训练和部署的效率、规模和适配关系到最终的应用效果。为满足PyTorch eager-first 的 GPU 编译流程,Lazy Tensor 架构被提出来。通过采用实践验证过的产品化 XLA 编译器和分布式引擎,PTXC 能在阿里云 GPU 集群中以基于编译优化的方式一键快速搭建易用、弹且高效的 PyTorch 模型训练系统。

话题链接:https://www.nvidia.com/gtc/session-catalog/#/session/1637553159784001rkUB

[S41395] 通过 PAI-Blade 更易用、更可靠地使用 TensorRT

· 邱侠斐,阿里云,主任工程师

· 郭天佑,阿里云,高级工程师

· 李澜博,阿里云,高级工程师

· 3 月 24 日 星期四 | 9:00 AM - 9:25 AM 北京时间

TensorRT 是英伟达推出的业界领先的推理加速器,在深度推理场景应用广泛,但是通过 TensorRT 来优化深度模型仍有一定门槛。首先,通过 TensorRT 解析模型时会遇到转换失败或表现不理想的情况。其次,从零开始搭建网络比较耗时且难以扩展。此外,在生产环境里增加新的推理框架需要严谨的评估。本次演讲将介绍如何通过一站式 AI 加速器 PAI-Blade 解决上述问题。PAI-Blade 能够实现 TensorRT 后端上的自动圈图和自动化运行。同时还可以与 TensorRT Plugin 协同工作,以实现更好的能。目前 PAI-Blade 提供对 TensorFlow 和 PyTorch 的产品化支持。

话题链接:https://www.nvidia.com/gtc/session-catalog/#/session/1635516028378001Pxlx

[S41604] 未来游戏趋势:通过阿里云弹云手机解决方案打造云游戏

· 杨铭,阿里云,高级工程师

· 3 月 24 日 星期四|11:00 AM - 11:25 AM 北京时间

基于英伟达 T4 及原生的 ARM 台,阿里云设计研发了高能的云手游解决方案——弹云手机,可实现虚拟化渲染及显存隔离,在确保隔离的情况下充分发挥 T4 能。此外,弹云手机无缝对接阿里巴巴云游戏流媒体台,该台兼容多种流媒体协议,并具备完整的“渲染-编码-串流”云手游架构。

话题链接:https://www.nvidia.com/gtc/session-catalog/#/session/1638429961776001IhJm

[S41383] 云端 Triton 生产实践

· 李文鹏,阿里云,主任工程师

· 邱侠斐,阿里云,主任工程师

· 李澜博,阿里云,高级工程师

· 3 月 24 日 星期四 | 1:00 PM - 1:25 PM 北京时间

Triton 推理服务器是一款功能全面、可扩展且功能强大的推理解决方案,在边缘设备和云上皆可部署。在云上将 Triton 部署到生产环境中时,应考虑效率、可扩展以及与 Triton 自身外的云上基础设施的集成。我们将介绍在阿里云中通过 PAI- EAS 提供 Triton 作为云服务的关键见解:1) 一键部署 Triton 集群;2) 根据请求吞吐量扩展 Triton 集群;3) 与 OSS(对象存储服务)原生集成;以及 4) Triton 和 GPU 共享调度。

话题链接:https://www.nvidia.com/gtc/session-catalog/#/session/1635349148436001gNSE

[S41073] 阿里云基于 AI 编译器的通用透明能解决方案

· 朱凯,阿里云,主任工程师

· 3 月 24 日 星期四 | 2:00 PM - 2:50 PM 北京时间

本次演讲将从云服务厂商的视角,分享在云端和机器台上大规模部署 AI 编译器的实战经验。我们将详细介绍期刚刚开源的动态 shape 深度编译器 BladeDISC,包括它的背景和主要特,具体设计架构和实现细节,动态 shape 语义下的能优化经验,未来计划以及在 NVIDIA 设备上的应用等。

话题链接:https://www.nvidia.com/gtc/session-catalog/#/session/1634431966251001JhrZ

GTC 22 阿里云精彩演讲锁定攻略!

1. 点击访问 GTC 22 官网  https://www.nvidia.cn/gtc-global/?ncid=GTC-NVMAGGIEJ

2. 注册 GTC 22

3. 登录后可将会议添加至会议日程如下图

4. 开始后登录即可观看会议,若错过直播时间,可登录查看会议点播,随时观看会议

扫描下方海报二维码,即刻注册 GTC 22,了解阿里云关于推理优化/部署、深度编译器、大模型部署、训练优化、云游戏等主题的精彩分享。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

关键词:

推荐阅读

谷歌史上第二大收购案!谷歌54亿美元收购网络安全公司Mandiant

美国司法部已批准了谷歌54亿美元对网络安全公司Mandiant的收购案——这是谷歌史上第二大收购案,仅次于2011年以125亿美元收购摩托罗拉手机 【详细】

百度搜索快照功能消失?网页技术变迁所致

近日,有用户发现,百度搜索的快照功能因为不明原因"消失",对此,百度方面尚未回应。不过有知情人士透露称,"百度方面确实已下线了快照功 【详细】

Win11年度重大更新即将到来 你会选择升级吗?

去年微软发布Win11系统时,CEO纳德拉充满自信地表示Win11将会是多年来最具革命性的系统,更加现代化,更好的游戏性能,然而网友对此并不买 【详细】

国内手机市场如何扭转颓势?

如果说2020年的疫情打乱了大家生活的常态,2021年的芯片短缺是可以预见的疫情余震,那么2022年上半年这波疫情的反复,则是很多厂商都没有料 【详细】

复杂的降价细则!小屏iPhone还是没人要

前段时间苹果开启夏日促销的消息大家应该有所耳闻。不同于过去不出新款不降价的铁面形象,今年的苹果除了在常规的教育优惠与开学返校优惠之 【详细】

相关新闻

一加9手机相机 一加9手机对比

一加9手机相机一加手机将和徕卡达成合作,意味着下一代的一加9将会搭载徕卡认证镜头,其拍照实力将会大幅提升。一加9手机对比1、屏幕方面搭 【详细】

每日消息!研究发现从虾壳中提取的材料可以使水泥更加坚固

水泥的生产是碳排放的主要来源,因此水泥的使用量越少越好。一项新研究可能会有所帮助,因为它表明,加入从废虾壳中提取的材料可以使水泥更加 【详细】

微头条丨科学家发现一种可以帮助治疗白血病的天然化合物

天然物质通常具有治疗前景,但它们在治疗疾病方面的效用却因其毒性或不理想的副作用而受到限制。最近,由JoãoLoboAntunes分子医学研究所(iMM 【详细】

全球快讯:首个CRISPR治疗高胆固醇的方法进入人体试验阶段

新西兰的研究人员已经启动了一项基于CRISPR的治疗高胆固醇的新试验。该试验将测试这种一劳永逸的治疗方法的有效性和成功性,该方法在动物试验 【详细】

【世界新要闻】韩国研发电子纹身墨水:真正随身的健康检测设备

北京时间8月3日消息,韩国科学技术高等研究院的研究人员开发了一种由液态金属和碳纳米管制成的电子纹身墨水,可用作生物电极装置。在体内携带 【详细】

每日关注!科学家解释关于地球形成和演变的长期之谜

地球的地幔是地壳与其熔融核心之间的厚厚的硅酸盐岩层。它占我们星球体积的大约84%。虽然地幔主要是固体,但在地质时间尺度上,它表现为一种粘 【详细】

俄航天局澄清:不是说2024年就要退出国际空间站

俄罗斯航天局新任负责人尤里·鲍里索夫(Yuri Borisov)就俄罗斯计划退出国际空间站项目的说法进行了解释,表示俄罗斯航天局计划在2024年之 【详细】

美股收盘主要股指全线小幅下跌 结束了连续三个交易日的上涨

美国时间周一,美股收盘主要股指全线小幅下跌,结束了连续三个交易日的上涨。上周五,道琼斯指数和标普500指数创下2020年11月以来最大单月 【详细】

净利4.5亿!AMD二季度营收65.5亿美元同比增长70%

8月3日消息,当地时间周二美国芯片制造商AMD公布2022财年第二季度财报。报告显示,AMD第二季度营收为65 50亿美元,同比增长70%,分析师预期 【详细】

一个版号能卖上千万?游戏版号“地下交易”

今年的7月无疑是游戏行业的重要节点,《关于推进对外文化贸易高质量的意见》中扩大网络游戏审核试点的消息,使A股整个游戏板块四天里涨逾10 【详细】

高温闷热全靠开空调 网约车平台:禁止司机以“空调费”等名义收附加费

高温闷热,全靠开空调了。但是最近,个别消费者在乘坐网约出租车时,却被司机以成本太高为由拒绝开空调。网约车的空调开与不开,到底该由谁 【详细】

新浪微博移动端崩了?搜索页面显示“重新加载”

今日晚间十点左右,新浪微博移动端崩了,搜索页面显示重新加载。但值得一提的是,微博网页端可以正常使用。截至发稿,微博移动端暂未恢复正 【详细】

失去阿里合伙人身份一周后 倪行军又有了新的职务

失去阿里合伙人身份一周后,倪行军又有了新的职务——支付宝董事长。距离7月26日,阿里彻底挥刀斩断与蚂蚁集团之间扯不清的关系仅一周之后 【详细】

博主曝光!B站HR称公司核心用户都是Loser

最近二舅事件又让B站小火了一把,尽管视频目前已经被各路网友冲烂,但它们丝毫不愿意放过这视频背后的推手之一——B站。近日,一篇去年的微 【详细】

恒驰汽车开启了大定 数万台全是靠员工下的单?

此前,恒大关联汽车公司恒驰旗下的恒驰5(参数丨图片)汽车正式上市,预售价格出乎了大部分人的意料,只要17 9万元人民币。虽然对于恒驰汽车 【详细】

第一步就跌跤了?离开大厂体系创业第一步就困难

前蚂蚁金服、前字节电商工程师陈熙(化名)决定彻底脱离互联网大公司体系自己创业,计划想得很周密。实际执行时,第一步就跌跤了。去年 9 【详细】

咋回事?趣店罗敏的个人抖音账号“趣店罗老板”已经改名

趣店罗敏的个人抖音账号趣店罗老板已经改名趣店预制菜。而且该账号删除了所有与罗敏有关的视频,仅保留7条与预制菜有关的视频。此外值得注 【详细】

中国国航晚间公告 拟定增募资不超过150亿元

8月2日,中国国航晚间公告,拟定增募资不超过150亿元,用于引进22架飞机项目和补充流动资金。公告介绍,公司拟以本次非公开发行募集资金108 【详细】

iPhone的息屏显示功能终于要来了?

iPhone的息屏显示功能终于要来了?近日,网友Steve Moser透露,苹果自家给开发者做系统适配用的软件Xcode泄露了一些新品信息。据了解,即将 【详细】

余额宝近7日年化跌至1.4420%:存10万一天赚不到4块

8月2日,天弘余额宝近7日年化跌至1 4420%,每万份收益仅0 3893元。这意味着,存入10万,一天仅赚3 9元,吃顿早餐都不够了。2013年余额宝刚 【详细】

关于我们  |  联系方式  |  免责条款  |  招聘信息  |  广告服务  |  帮助中心

联系我们:85 572 98@qq.com备案号:粤ICP备18023326号-40

科技新闻网 版权所有