金沙js0888_首頁(欢迎您)

  • <td id="dgejl"><strike id="dgejl"></strike></td>
        1. 神经网络内部长啥样?

          作者: 佚名 2020-10-30 11:25:15

          神经网络就像“炼丹炉”一样,投喂大量数据,或许能获得神奇的效果。

          “炼丹”成功后,神经网络也能对没见过的数据进行预测了~

          然而,这种情况下,神经网络其实成了“黑匣子”——具有一定的功能,但看不见是怎么起作用的。

          如果只做简单的图像分类,其实还好;但如果用在医学方向,对疾病进行预测,那么神经网络下的“判断”就不可轻信。

          如果能了解它是怎么工作的,就更好了。

          出于这种考虑,来自牛津大学的博士生Oana-Maria Camburu撰写了毕业论文《解释神经网络 (Explaining Deep Neural Networks)》。

          在这篇论文中,她将这些“黑匣子”一个个打开,对神经网络原理进行了详细的解释。

          为什么要打开神经网络“黑匣子”?

          事实上,神经网络之所以起作用,最直观的原因就是,它由大量非线性函数组成。

          这些非线性函数,使得网络可以学习原始数据中各种抽象级特征。

          然而,也正是因为神经网络中的这些非线性函数,使得人类往往难以理解,它们是如何起作用的。

          这就导致神经网络在疾病预测、信用额度、刑法等方向上“不太受欢迎”。

          医生和法律相关的研究者往往更乐意采用可解释模型,例如线性回归、决策树,因为神经网络在疾病预测中的确出过问题:

          人们利用神经网络预测肺炎患者的病情发展,其中一项患者特征为是否有哮喘病史。

          神经网络经过训练后预测,有哮喘病史的患者死于肺炎的可能性较低。

          但其实结果恰好相反,哮喘本身会给肺炎带来雪上加霜的效果。

          之所以数据表明哮喘患者较少死于肺炎,往往是因为哮喘能被及早发现,所以患者得肺炎后能被及早治疗。

          如果这种神经网络被应用于实践中,将会带来非常危险的结果。

          此外,即使是神经网络,也会对男女性别产生刻板印象、产生种族偏见。

          例如,调查表明,有些语料库和模型,在预测再犯时,会更“偏爱”男性。

          除了错误的预测和种族、性别歧视以外,神经网络还很脆弱。

          无论是对图像进行小改动欺骗分类算法、还是用语音识别瞒过NLP模型,神经网络被“爆雷”的情况也不少。

          为了让神经网络应用于更多的方向,也为了让我们更好地学习它的原理,作者从两个方向对神经网络进行了解释。

          2 种方法解释神经网络

          “事后再解释”

          第一种方法,称之为基于特征的解释方法,又叫“事后再解释”——因为这种方法,是在神经网络训练好后,才对其输入特征进行解释的。

          这种方法针对文本的词(token)、或是针对图像的超像素(super pixels),进行“事后”解释。

          目前这种方法应用较为普遍,不容易出现解释偏见,但需要验证解释方法的真实性。

          这里的根本原理,是研究外部解释方法给出的解释、与模型本身生成的自然语言解释之间,是否存在相关性,而相关性具体又是什么。

          在论文中,作者引入了一种新的验证方法,来判断解释方法的真实性。

          让神经网络自己解释

          那么,如果能让神经网络一边训练、一边“解释自己”呢?

          这是论文提到的第二种方法,即在模型中植入一个生成预测解释的模块,对预测的结果进行解释。

          至于神经网络对自己的解释是否正确,还需要人为进行判断。

          在这里面,作者同样引入了一种判断方法,对模型自己生成的解释进行判断,从而得出神经网络解释的结果。

          对神经网络详细结构、具体解释方法感兴趣的小伙伴,可以戳下方论文地址查看~

          神经网络 人工智能 黑匣子
          上一篇:8500万个工作岗位将被取代,工人如何保住“饭碗”? 下一篇:百花齐放的自动驾驶,距离真正上路还有多远?
          评论
          取消
          暂无评论,快去成为第一个评论的人吧

          更多资讯推荐

          人工智能如何解决数据中心运营商面临的挑战

          行业专家对人工智能如何帮助解决该行业内出现的运营挑战、数据中心行业需要克服的最大障碍,以及数据中心如何利用人工智能提高效率和保持弹性进行了探讨。

          Harris ·? 1天前
          细数从Al算法到产品化落地的八大鸿沟

          AI产业要真正产生价值,推动社会发展,面临着很多的挑战。从AI算法到产品化落地存在巨大的挑战,可以总结为八大鸿沟。

          陶然 ·? 2天前
          2021年六大科技趋势预测

          下面是对2021年人工智能、云、自动化、数字化工作空间和DevOps进行的一些预测。让我们一起来期待2021年的这些重大发展。

          业路网 ·? 2天前
          陈根:人工智能,正在跨越人机情感鸿沟

          很长时间以来,是否具备情感,是区分人与机器的重要标准之一。换言之,机器是否具有情感也是机器人性化程度高低的关键因素之一。想要人工智能理解人类感情,则需要从人工智能的情感计算开始。

          陈根 ·? 2天前
          2021年AI关键趋势,AI芯片初创公司可能发生并购

          最近发布的2021 AI/ML用例调查显示情况发生了变化,有86%参与调查的人表示新冠大流行已经或将导致其所在的组织投资于新的AI计划。由于大流行引起的不确定性仍然影响所有的人,但报告仍给出了一些2021年的AI关键趋势。

          包永刚 ·? 2天前
          应对全球粮食危机 AI、5G与机器视觉联手“养鱼”

          全球粮食挑战已经成为现实难题,人工智能、机器视觉与5G网络等新兴技术能否指明新的解决方案?

          佚名 ·? 2天前
          关于机器人流程自动化不可不知的十个秘密

          机器人流程自动化会简化工作流程,将遗留系统紧密整合在一起,并使业务用户有能力解决自己的问题。但在诸多好处的背后,潜藏着一些亟需解决的问题。

          Peter Wayner ·? 3天前
          人工智能、大数据时代,普通人拿什么赚钱

          未来我们出行有无人驾驶车,吃饭有程序化小吃一条街,理发有机器人理发师,建设制造全程机械化设备……在科学高度发达、人工智能、大数据越来越完善的今天,我们已经无限接近共产主义社会。那么,作为普通人的我们,如何才能赚钱?

          归宿129305691 ·? 3天前
          Copyright?2005-2021 51CTO.COM 版权所有 未经许可 请勿转载
          金沙js0888