如何利用深度神经网络(DNN)进行多目标学习

作者: JerryHouse 分类: 数据分析 发布时间: 2017-11-19 11:01 ė 6如何利用深度神经网络(DNN)进行多目标学习已关闭评论

在机器学习(ML)中,我们通常关心优化某个特定指标,不管它是某个基准上的分数还是业务KPI。为了做到这一点,我们通常训练一个模型或一组模型来完成我们想要的任务。然后我们微调和调整这些模型,直到它们的性能不再增加。虽然我们通常可以通过这种方式获得可接受的性能,但是仅仅专注于单一任务,我们忽略了可能帮助我们在我们关心的指标上做得更好的其它信息。具体来说,这些信息来自相关任务的训练信号。通过在相关任务之间共享表示,我们可以使我们的模型更好地概括我们原来的任务,这种方法被称为多目标学习(MTL)。

多目标学习已成功地应用于机器学习的所有应用中,从自然语言处理和语音识别到计算机视觉和药物发现。MTL有许多形式:共同学习和辅助任务学习的仅仅是一些名字已被用来指它。一般来说,一旦你发现自己优化了一个以上的损失函数,你就可以有效地进行多目标学习(与单目标学习相反)。在这些情况下,它有助于思考你想从MTL做明确并从中得出的见解。

在这篇博客中,我会尽量给出多任务学习的现状进行了概述,特别是当它涉及到MTL与深层神经网络。我首先会从不同的角度激励MTL。我将介绍两个最经常采用的MTL在深的学习方法。随后,我将描述机制,共同说明了为什么MTL的工程实践。看着眼前的更先进的基于神经网络的MTL方法,我将讨论MTL文学提供一些上下文。我将介绍一些MTL深神经网络更强大,最近提出的方法。最后,我会谈谈常用类型的辅助任务,讨论如何成为一个好的辅助任务MTL。

 

原文地址

本文出自 dcharm,转载时请注明出处及相应链接。

本文永久链接: http://www.dcharm.com/?p=713

Ɣ回顶部