网易首页 > 新闻中心 > 新闻 > 正文

华为云人工智能领域首席科学家田奇:ModelArts 3.0助力行业AI落地

2020-09-25 13:22:40 来源: 商讯 举报
0
分享到:
T + -

中国,上海,2020年9月25日] 在HUAWEI CONNECT 2020期间, 华为云发布ModelArts 3.0,融合骨干模型、联邦学习、智能评估、智能诊断和高效算力。

华为云AI首席科学家田奇介绍华为云长期扎根AI基础技术研究,覆盖计算机视觉、语音语义和决策优化三大AI领域,提出了六大基础研究计划。这些计划产生的许多研究成果以即插即用的方式逐步部署于华为云ModelArts,助力行业AI落地。


以下是田奇演讲全文:


大家好,ModelArts在多个行业和项目中有了成功落地,这离不开华为云EI在人工智能领域的长期投入。

华为云长期扎根AI基础研究,覆盖计算机视觉、语音语义和决策优化三大领域。我们聚焦于模型高效、数据高效、算力高效、知识高效4大方向,提出了六大基础研究计划,包括面向大模型的模型摸高计划、面向小模型的模型瘦身计划、面向多模态学习的数据魔方计划、面向小样本学习的数据冰山计划、面向通用知识抽取的万物预视计划和面向新学习范式的虚实合一计划。

我们的许多研究成果,包括自动机器学习、小样本学习、联邦学习、预训练模型等,能够即插即用地部署于ModelArts使能平台,助力AI赋能千行百业。


在多项业界公开竞赛和测评中,华为云EI的持续创新研究已经取得了不错的成果,这些都将应用于ModelArts平台,提供给全球的开发者使用。

感知方面,我们在ImageNet大规模图像分类、WebVision大规模网络图像分类、MS-COCO二维物体检测、nuScenes三维物体检测、视觉预训练模型的下游 分类/检测/分割等验证中,均保持业界领先。目前,ModelArts驱动的感知模型已经在医疗影像分析、油气勘探、工业故障检测等领域获得广泛应用。

认知方面,依托语音语义和知识图谱方向的积累,我们整合行业数据,对多样复杂孤岛化的数据进行治理,实现感知智能认知智能的飞跃。目前,ModelArts驱动的认知模型已在药物靶点预测金融诈骗分析智能售后客服等多项任务中得到应用。

决策方面,依托运筹优化、强化学习、智能控制等算法,我们已经构建起完整的决策底座,使得AI真正实现感知-认知-决策的智能闭环。目前,ModelArts驱动的决策引擎已经应用于机位分配、工业制造、智能交通、游戏娱乐等领域。


我们发布的ModelArts3.0,是面向AI在行业落地提供的AI开发平台。在这里,我和我的团队主要是从技术领域进行探索和研究,如何通过AI技术高效解决行业挑战,比如,如何用极少数据训练出高精度模型?如何降低企业应用AI的门槛?如何解决企业对数据安全使用的顾虑等?最终,我们将骨干模型、联邦学习、智能诊断评估优化、和高效算力,很好的融入了ModelArts3.0,下面我将详细解读。


华为云骨干工具链EI-Backbone,整合模型高效、数据高效、算力高效、知识高效,全面提升行业AI落地能力。EI-Backbone的能力,已经在10余个行业成功验证,并且斩获10余个业界挑战赛冠军,发表100余篇顶级论文。EI-Backbone提供了AI开发的新范式,以肺部医疗影像分割为例来介绍:

过去需要成百上千例标注数据才能进行的训练,现在有了EI-Backbone,只需要几十例甚至十几例标注数据即可完成,节省标注成本90%以上

过去需要大量专家经验和试错成本的模型选择和超参调节,通过EI-Backbone提供的全空间网络架构搜索和自动超参优化技术,可在无需人工干预的情况下快速完成,且精度大幅提升;

过去需要几周甚至更长时间,从头开始的模型训练、测试、验收和部署流程,在加载EI-Backbone集成的预训练模型后,可以缩短到几小时甚至几分钟内完成,训练成本降低90%以上。

基于EI-backbone技术,我们华为云ModelArts和杭州云深处科技有限公司合作,实现了四足机器狗工业场景巡检


华为云ModelArts 3.0的下一个特性--联邦学习。

众所周知,数据是AI应用的基础,只有基于多样化的数据,才能实现AI智能感知。然而,在实际AI行业落地中,数据是分散在不同的数据控制者之间,这就导致了行业应用的数据孤岛问题,使得AI算法训练效果受到限制。

针对这个问题,华为云Modelarts提供联邦学习特性,实现数据不出户的联合建模。用户各自利用本地数据训练,不交换数据本身,只用加密方式交换更新的模型参数,实现协同训练。

华为云EI与中国科学院上海药物所的蒋华良院士合作,将华为自研的FedAMP算法和AutoGenome算法应用到药物研发的AI任务中,精准预测药物水溶解性心脏毒性激酶活性准确度远超传统的联邦学习和深度学习算法。

此外,华为云提供云边协同的服务,支持不同地点、不同客户的数据进行联邦训练,通过加密方式上传服务端,对全局模型进行更新,再将其下发至边缘设备,便捷支持同业态横向联邦跨业态的纵向联邦学习。联邦训练参与者可以通过云端,也可以通过华为云边缘设备(如智能小站)的计算能力参与联邦训练,实现行业内联合建模


模型在部署上线前,需要进行充分评估,结果优秀的模型直接投入生产环境,差强人意的则需要进一步优化迭代。ModelArts提供了全面的可视化评估智能化诊断功能,使得开发者可以直观的了解模型的各方面性能,进而针对性的进行调优部署生产。

下面以一个上皮病变细胞分类的模型评估来进行详细讲解。

在精度方面,华为云ModelArts提供了包含准确率、精确率、召回率、F1值混淆矩阵ROC曲线等常规指标,还包括了数据敏感度分析模块,评估模型在不同数据特征子区间上的表现;

在性能方面,ModelArts提供算子级别的时间空间消耗统计分析和多种整体的性能指标,并且针对模型的表现给出相应建议,如模型量化、蒸馏等;

在可解释性方面,ModelArts提供热力图,用以展示模型做出推理判断所依据的区域;

在可信方面,ModelArts内置多种模型可信相关评测方法,提供多角度模型安全能力评估指标,并能依据当前模型表现给出相应的防御建议。


随着深度学习分布式训练的不断发展,各类模型的训练对于计算设备的需求越来越大。但由于各种原因,训练作业的资源还没有被充分利用。造成资源浪费的原因非常多,主要包括以下几点:

训练算法代码本身质量不高、资源利用率低。

模型大小超参数的设置也会显著地改变计算资源的利用率。

资源池整体利用率存在波动峰谷。类似于“峰谷电”,训练作业的提交也有高峰期和低谷期,造成很大的资源浪费。

弹性训练是ModelArts的核心能力之一,可以根据模型训练速度的需求自适应实现资源的最佳分配。

ModelArts提供两种模式,一是Turbo模式,可以充分利用空闲资源加速已有训练作业,训练速度可提升10倍以上,并且不影响模型的收敛精度;二是经济模式,可以通过最大化资源利用率给开发者提供极致的性价比,在大多数典型场景下可以提升性价比30%以上。


为了更好地支持超大算力需求的AI研发,华为ModelArts平台在集群规模任务数量,以及分布式训练都做了针对性的优化。

ModelArts研发平台能够管理上万的节点,更好的支持大型训练任务需求。通过优化服务框架,ModelArts平台支持10万级别的作业同时运行、支持万级芯片的大规模分布式任务。

优秀的分布式加速比是大规模集群分布式训练的关键能力,也是促使用户选择使用大规模集群来加速AI业务的关键因素。

华为云ModelArts领先的分布式加速比能力,在MLPerf benchmark Imagenet-1K分类任务上,使用512芯片集群跑出93.6秒的成绩,优于NVIDIA V100120秒

在骨干网络、联邦学习、模型诊断优化、高效算力的加持下,华为云ModelArts会加速AI在行业落地。未来,华为云将持续聚焦于模型高效、数据高效、算力高效和知识高效4个重点方向,扎根于AI基础研究。在计算机视觉、语音语义、决策优化3大AI领域进行基础研究计划投入,我们会持续努力,提供强大的AI技术支持每一位开发者发挥所长、创造独特价值。华为云将持续践行普惠AI,与全球开发者共成长

谢谢大家!

纪珂 本文来源:商讯 责任编辑:纪珂_b6492
分享到:
跟贴0
参与0
发贴
为您推荐
  • 推荐
  • 热点
  • 娱乐
  • 体育
  • 财经
  • 科技
  • 军事
  • 汽车

威斯康星州最大县完成重新计票:拜登优势不减反增

新闻 拜登 重新计票
|
界面新闻
16小时前
3870 跟贴3870

人民锐评:马保国闹剧,该立刻收场了

新闻 马保国 武德
| 人民网-人民日报
13小时前
188741 跟贴188741

指责宾州出现“选票操纵”,特朗普发推:1126940张选票凭空产生

新闻 唐纳德·特朗普 拜登
|
环球网
11小时前
8662 跟贴8662

借2万还60多万还不够 85后白领卖车还欠亲友10多万

新闻 高利贷 孙磊
|
南方Plus
8小时前
4198 跟贴4198

澳大利亚官员:中方“毁灭性打击”

新闻 中国 澳大利亚
|
观察者网
1天前
27756 跟贴27756

福建莆田两车碰撞致9死7伤,死者多为附近打零工的菜农

新闻 莆田 莆田市
| 新京报
11小时前
2663 跟贴2663

日媒惊叹:165个国家,中国北斗导航精度已超过美国GPS

新闻 北斗卫星 gps
|
每日经济新闻
1天前
2520 跟贴2520

河南一女纪委书记被抛尸黄河案疑点重重 失踪多日却无人报案$2020

新闻 原阳县 中牟县
|
陕西法制网
16小时前
121096 跟贴121096

伊朗顶级核科学家遇袭身亡 被认定领导秘密核武项目

新闻 国防部 伊朗
|
界面新闻
1天前
106410 跟贴106410

第一观察|习主席东博会致辞释放了什么信号?

新闻 习主席 东博会
|
新华网
7小时前
443 跟贴443

伊朗常驻联合国代表警告美以:将采取一切措施保护该国人民

新闻 伊朗 联合国
|
环球网
16小时前
0 跟贴0

伊朗核科学家遇害后,德黑兰爆发抗议活动:“向美国开战!”

新闻 伊朗 美国
|
环球网
15小时前
8100 跟贴8100

伊朗最高领袖:将就核物理学家遇害一事展开报复

新闻 伊朗 物理学家
|
界面新闻
10小时前
3527 跟贴3527

太疯狂!中一套暴赚500万 深圳豪宅"打新"遭万人哄抢

新闻 华润城 大户型
|
中国基金报
6小时前
9646 跟贴9646

深圳“入职聚会疑遭同事强奸案”维权人:嫌犯已因强奸罪被判入狱

新闻 强奸罪 强奸案
|
界面新闻
9小时前
927 跟贴927

嫌哭声太吵?日媒:将男婴尸体放冰箱冷冻,中国籍男女在日被捕

新闻 中国籍 尸体
|
环球网
1天前
31 跟贴31

没错 美国人已经在讨论“清算特朗普”了

新闻 唐纳德·特朗普 拜登
|
参考消息
2天前
23412 跟贴23412

罕见!正副厅长同时落马,丈夫妻子双双投案

新闻 副厅长 厅长
|
长安街知事
7小时前
661 跟贴661

TikTok网红为何能告赢特朗普?是字节跳动的精心安排?

新闻 唐纳德·特朗普 tiktok
|
观察者网
2小时前
413 跟贴413

家属回应金龙泉创始人术后脑死亡:耳鼻喉医生做脑外科手术,医院

新闻 金龙泉 脑死亡
|
梨视频
2天前
47311 跟贴47311

中国正式宣布!对澳实施临时反倾销措施 澳商人郁闷了

新闻 澳大利亚 反倾销
|
每日经济新闻
2天前
3738 跟贴3738

路透社记者称中国媒体“暗示”新冠病毒或来源于国外,赵立坚:病

新闻 病毒 赵立坚
|
环球时报-环球网
1天前
0 跟贴0

被特朗普“搅局”四年,“第四权力中心”——美国政治游说业又“

新闻 唐纳德·特朗普 拜登
|
红星新闻
1天前
13 跟贴13

丹麦首相为“水貂门”含泪道歉但坚持扑杀,被批“鳄鱼眼泪”

新闻 丹麦 弗雷德里克森
|
澎湃新闻
1天前
0 跟贴0

印度运载火箭:设计“奇葩”,但运力进步明显

新闻 火箭 火箭发射
|
澎湃新闻
2天前
284 跟贴284

快讯!外媒:伊朗誓言要就核科学家遇害事件报复后,以色列各使馆

新闻 以色列 伊朗
|
环球网
8小时前
3004 跟贴3004

猪大肠甩上台湾“立法院”,台媒:有史以来“最血腥的一天”

新闻 立法院 民进党
|
环球网
20小时前
18 跟贴18

和马拉多纳遗体合影后,殡仪馆员工道歉:瞬间做出拍照决定,请求

新闻 佩卢西托 费尔南德斯
|
环球网
1天前
0 跟贴0

超40万人!俄罗斯军队开始大规模接种新冠疫苗

新闻 疫苗 接种
|
新华国际
19小时前
1025 跟贴1025

离开白宫后,“第一女儿”伊万卡一家有了新去向

新闻 伊万卡 唐纳德·特朗普
|
环球时报
1天前
3821 跟贴3821

“医生劝病人控制饮食反被家属打骨折”续:打人者涉故意伤害罪被

新闻 拘留 法庭
|
红星新闻
3小时前
246 跟贴246

五角大楼“智囊团”迎来“大清洗”,美媒预测特朗普“特赦名单”

新闻 唐纳德·特朗普 五角大楼
|
环球时报
21小时前
931 跟贴931

港媒:林郑月娥承认被美国制裁后没银行能提供服务,她每日用现金

新闻 林郑月娥 美国
|
环球网
18小时前
6908 跟贴6908

科学家证实发现第二颗“迷你月球”:约小汽车大小

新闻 月球 地球
|
中国新闻网
1天前
9 跟贴9

印媒报道巴基斯坦总理批准化学阉割强奸犯后,印度网友开始自黑

新闻 巴基斯坦 印度
|
环球网
2天前
2181 跟贴2181

希腊出台一系列税收优惠政策 以吸引外国人定居

新闻 希腊 税收
|
中国新闻网
1天前
11 跟贴11

外媒:马拉多纳朋友透露,他曾想过对自己遗体做防腐处理

新闻 佩卢西托 张晓雅
|
环球网
1天前
5 跟贴5

殡仪馆工作人员与马拉多纳遗体自拍,解雇后收到死亡威胁

新闻 马拉多纳 遗体
|
澎湃新闻
2天前
10 跟贴10

林民旺:印度这次封杀中国APP实属突然

新闻 印度 中印
|
环球网
1天前
0 跟贴0

统计:韩国人口情况堪忧 已连续11个月自然减少

新闻 韩国 总人口
|
中国新闻网
1天前
3 跟贴3

特朗普小儿子萌翻了!万圣节扮成小老虎,高冷第一夫人都被逗笑

红袖说国际
2020-11-28 15:47:35

杨钰莹近照曝光,背心配粉色衬衫似画中人,为爱放弃事业堕胎数次

策娱页菇凉
2020-11-27 10:57:24

中国真正的四大财团:每家资产都过万亿,阿里和腾讯都比不上

钱包那些事儿
2020-11-24 21:18:02

89分钟绝杀!2-1!亚冠大冷:全败鱼腩逆袭韩国劲旅,送国安大礼

开球咯
2020-11-28 06:15:57

狼真的来了?叫嚣72小时消灭东方舰队的女狠人,获得拜登正式任命

生活心情
2020-11-26 07:10:12

该国家单方面毁约,又意欲向中国寻求7000亿帮助,自信源于哪里?

仗剑侃文史
2020-11-26 07:20:08

中国最接近马拉多纳的球员是谁?天才击败阿根廷 可惜不被重用

风云体坛资讯
2020-11-28 16:48:08

金属材质,距今14万年,科学家怀疑“波罗的海异形”是坠毁的飞碟

时代家居装修
2020-11-28 10:08:00

水货状元?他才打了3年,22岁!着什么急啊!

野球帝
2020-11-28 10:52:45

中国两性心理学家李银河提倡的三种性行为模式

第一心理
2020-11-27 15:10:24

暖心!父亲苦寻儿子16年,意外成“疯子”,收留他的人竟是亲儿子

小梅说感情
2020-11-28 12:26:22

230万上海中环买44平房子,厨房巴掌大,卫生间估计你都没见过!

小兵聊装修
2020-11-27 10:23:49

周恩来得知林彪摔死 高喊“拿酒来”

人民网-人民日报
2020-11-27 08:02:50

拜登万万没想到,特朗普认输只是幌子?原来宝贝女儿原来早留了一手

海峡快讯
2020-11-28 22:50:18

为什么比赛结束后球员都要进急冻箱零下100度的液氮不怕冻坏吗?

观言问史迹
2020-11-24 06:30:02

深夜0点!AC米兰做出英明决定:伊布成大赢家,有望书写个人新历史

我爱国足
2020-11-28 22:59:38

中国式“糊弄早餐”正盛行,既没营养还伤身体,不少孩子天天吃

Angelia妈咪
2020-11-15 21:25:03

方媛被骗婚借肚生子?郭富城的财产竟然全在另一个女人手上…

新氧
2020-11-29 00:22:05

酒店的“开夜床服务”,是种什么样的体验?宾客:开始我是拒绝的

先森不讲李
2020-11-25 09:45:14

苹果20W快充追平66W的华为?充电功率越大越好?快充真的伤电池?

手机教授
2020-11-28 10:06:00
2020-11-29 03:09:00
+ 加载更多新闻
×

世界互联网大会·互联网发展论坛

阅读下一篇

返回网易首页 返回新闻首页