NeurIPS2021|一文洞悉因果机器学习前沿进展

2021-12-11 00:26:00 来源:网络整理 作者:管理员

原标题:NeurIPS 2021 | 一文洞悉因果机器学习前沿进展

微软中国MSDN 点击上方 蓝字关注我们

(转载自微软研究院AI头条)

编者按:近年来,因果机器学习在人工智能和诸多交叉领域产生了卓越的影响,得到了越来越多的关注。借助因果关系推理,机器学习的鲁棒性、泛化能力、可解释性等方面都将得到有效提升。今天我们精选了三篇微软亚洲研究院关于因果机器学习的 NeurIPS 2021 论文,为大家介绍该领域的最新科研进展。论文内容涵盖:在单源域泛化预测、多源域泛化预测,以及模仿学习三类任务中学习因果关系的方法和理论,并展示了利用因果关系提高模型在环境和分布发生变化时的稳健性。未来,微软亚洲研究院将进一步推进机器学习方法在更多更严苛的现实任务上的应用。

近年来,随着机器学习模型性能的不断提高,人们逐渐不再满足于它们在标准数据集上的表现,而是还希望它们能在真实的应用场景中同样具有稳定可靠的表现。但实现此目的的一个重要挑战是,真实场景中的环境情况通常与干净的标准训练数据集不同,会有数据分布的变化从而会遇到分布外样例,而模型不一定会在新环境中给出合理的结果。

这为机器学习模型带来了新的要求,即 模型需要学到做出预测或判断的本质原因和规律,而非依赖于表面“看上去”的关联关系,因为后者可能只是在特定环境下的表象,只有前者决定着环境变化之后的规律,可对分布外样例给出合理的结果。这便引出了因果机器学习这一新的研究方向。在 NeurIPS 2021 上,微软亚洲研究院的研究员们发表了一系列因果机器学习领域的研究成果。

学习用于分布外预测的因果语义表示

NeurIPS2021|一文洞悉因果机器学习前沿进展

  • 论文链接: https://arxiv.org/pdf/2011.01681
  • 代码链接: https://github.com/changliu00/causal-semantic-generative-model

人们已经发现标准的有监督学习方法,特别是深度学习方法对分布外样例的预测表现欠佳。例如图1中的例子[Ribeiro’16],若训练集中大部分“哈士奇”的图片都是暗背景而大部分“狼”的图片都是雪地背景,那对于处在雪地中的“哈士奇”的测试样例,模型会预测为“狼”。若对模型进行可视化可发现模型更关注于背景,因为在这样的数据集上,背景与前景物体具有很强的关联性,并且背景是一个比前景物体更有区分度的特征,但只有前景物体决定图片的标注。

图1:分布外预测任务的挑战

基于这个因果角度的考虑,研究员们提出了 “因果语义生成模型”(Causal Semantic Generative model, CSG),如图2(a)所示(注意基于前面的考虑,图中去掉了v→y)。此外,根据上面的例子,s和v在特定环境中常会相关,例如“哈士奇”/“狼”常与暗背景/雪地背景一起出现,但此相关性并非因为两者间有因果关系,比如把“哈士奇”放到雪地中不会让它变成“狼”,也不会把背景变暗。因此研究员们使用了一个无向边来连接它们。这不同于大部分已有工作,那些工作认为各隐因子间都是独立的。

显示全文
为您推荐
《欢迎光临》播出近半,口碑稳中有升
《欢迎光临》播出近半,口碑稳中有升

本报记者 李夏至由正午阳光出品制作的都市生活轻喜剧《欢迎光临》在北京卫视播出接近一半,口碑稳中有升。该剧讲述一个酒店门童和空姐的恋爱故事,看似多少有点悬浮的设定需要大量的生活细节与戏剧手段来弥补。对《.........

发布时间:2023-06-01 14:03:12

月球背面为什么去不了,月球背面到底有什么?
月球背面为什么去不了,月球背面到底有什么?

【导读】 月球背面为什么去不了,月球背面到底有什么?,下面是小编为你收集整理的,希望对你有帮助!作为太阳系中最为特殊的天体,月亮总是以一面面向地球,从来没见过它的背面长什么样,这主要是由于月球的自转和公转周期相同。然而自人类登月成功以来,如今已经成功发射探测器到火星了,但却根本没有月球背面的消息......

发布时间:2023-06-01 14:01:04

朱一龙爆发式的哭戏,刷新演艺圈新水平,拭目以待
朱一龙爆发式的哭戏,刷新演艺圈新水平,拭目以待

朱一龙主演的电影《峰爆》9月17日即将在各大电影院上映,这部属于灾难型的电影,里面没有过多装饰的场景和华丽的服饰。在灾难面前,个人是多么的渺小,他们帮助困难群众,为了保护家园逆行而上,在这期间产生的父.........

发布时间:2023-06-01 13:03:11

鸡胗怎么炒
鸡胗怎么炒

【导读】 鸡胗怎么炒,下面是小编为你收集整理的,希望对你有帮助!用料:小米椒,鸡胗,大蒜,盐,生抽,黄酒。步骤:1、鸡胗冷水下锅,煮变色了捞起切片。鸡胗要切花,一来好看,二来容易熟又保持了爽口感。2、切好的鸡胗加盐加黄酒加生抽腌制半小时以上。3、大蒜切成蒜蓉,小米......

发布时间:2023-06-01 13:01:03

周迅觉得何炅黄磊太像空巢老人
周迅觉得何炅黄磊太像空巢老人

今日何炅晒出与黄磊的《向往的生活7》海报,何炅黄磊两人牵着小h小o画面很温馨夸姣的呢。可是有的网友却戏弄:“如同两个假笑空巢白叟”“孩子们都离开了,就剩俩老人了,能开心吗?”“这笑脸是p的吧?”这一季.........

发布时间:2023-06-01 12:03:13

十二金仙为什么入佛门 十二金仙为凡人做出了什么贡献
十二金仙为什么入佛门 十二金仙为凡人做出了什么贡献

【导读】 十二金仙为什么入佛门 十二金仙为凡人做出了什么贡献,下面是小编为你收集整理的,希望对你有帮助!十二金仙并没有全部板衣佛门,十二金仙中慈航道人,普贤真人,文殊广法天尊和惧留孙最终依了佛门,分别变成观世音菩萨,普贤菩萨,文殊菩萨以及惧留孙佛。这四人成佛是他们自己的选择,因为这四位金仙经历过封神的劫......

发布时间:2023-06-01 12:01:04

张丹峰洪欣合体
张丹峰洪欣合体

5月28日,洪欣和张丹峰敞开了他们离婚闹剧后的初次合体直播,虽然仅仅秀恩爱并没有带货,却依然被网友骂惨了,网友纷繁表示:相比对张丹峰,现在对洪欣更没有好感了!直播间里,洪欣和张丹峰体现得非常恩爱,两个.........

发布时间:2023-06-01 11:03:11

耸怎么读
耸怎么读

【导读】 耸怎么读,下面是小编为你收集整理的,希望对你有帮助!sǒng。耸,中国汉字。该字的基本字义是:高起,直立的意思,如:高耸入云、耸立、耸拔、耸峙。又意:惊动或聋的意思。耸相关词语:耸肩、耸惑、修耸、逼耸、耸恿、严耸、巉耸、耸壑、耸切、耸拔等。笔顺:撇、点......

发布时间:2023-06-01 11:01:03

张子枫:获华表奖优秀女演员奖很幸福
张子枫:获华表奖优秀女演员奖很幸福

第十八届、第十九届中国电影华表奖23日在北京揭晓。张子枫凭借《我的姐姐》获第十九届华表奖优秀女演员奖。 谈到获奖感受,张子枫说自己感觉很幸福,挺开心的。她坦言作为演员大家都一样,说不想得到奖.........

发布时间:2023-06-01 10:03:09

如来杀的是真孙悟空 如来杀死孙悟空的论据有哪些
如来杀的是真孙悟空 如来杀死孙悟空的论据有哪些

【导读】 如来杀的是真孙悟空 如来杀死孙悟空的论据有哪些,下面是小编为你收集整理的,希望对你有帮助!在传说中说写到的是如来杀了孙悟空,因为不论是记载,还是《西游记》后期的演绎,都能看出很多的破绽,从分析上看,如来与六耳猕猴在之前就应该是认识的,但是如来通晓天下事,这一点有些解释不通。其实如来很明显就......

发布时间:2023-06-01 09:01:04

林西娅游乐园写真上线 俏皮灵动尽显温柔气质
林西娅游乐园写真上线 俏皮灵动尽显温柔气质

日前,林西娅在自己社交平台晒出一组新写真街拍。照片中,林西娅一身粉色毛衣秋冬感初显,落日余晖下玩耍流连于旋转木马之上,时而俏皮灵动、时而温柔妩媚。并配文到:保持童心,才不会变成无趣的大人。心态积极向上.........

发布时间:2023-06-01 08:03:15

赛太岁的法宝是什么?紫金铃(拥有它能战无不胜)
赛太岁的法宝是什么?紫金铃(拥有它能战无不胜)

【导读】 赛太岁的法宝是什么?紫金铃(拥有它能战无不胜),下面是小编为你收集整理的,希望对你有帮助!我国四大名著《西游记》中,出场的人、神仙、妖怪等人物除了自身有些本领外,都是会有法宝护身的,不管这个法宝是不是自己的,但是一定很好用。那大家知道赛太岁的法宝是什么吗?小编今天就跟大家科普一下吧。赛太岁......

发布时间:2023-06-01 08:01:03