金沙js0888_首頁(欢迎您)

  • <td id="dgejl"><strike id="dgejl"></strike></td>
        1. 危险信号:谷歌AI把戴口罩的女性识别为被胶带封嘴的女人

          作者: 飞翼点通 2020-10-12 12:48:14

          根据FuninUSA报道,微软、谷歌和IBM的视觉系统要跟上现实世界需要做很多工作。这项研究的一些结果确实令人不安。

          危险信号:谷歌AI把戴口罩的女性识别为被胶带封嘴的女人
          戴口罩的女人

          市场营销公司Wunderman Thompson的数据集团进行了这项研究,研究了著名的视觉AI对戴PPE口罩的男性和女性的观察方式是否相同。

          研究人员为每种性别拍摄了256张不同质量、在不同地点的图像,然后使用一些大型科技公司训练的通用模型:谷歌云视觉(Cloud Vision)、微软Azure认知服务计算机视觉(Cognitive Services Computer Vision)和IBM的沃森视觉(Watson Visua)来识别。

          结果却让人有点不寒而栗。

          虽然没有一个系统在识别口罩方面特别出色,但它们识别男性口罩佩戴者的几率是女性口罩佩戴者的两倍。这种根据性别分类而产生的显著的识别差异令人奇怪。

          那么他们认为这些女人戴的是什么呢?谷歌AI认为28%的女性图片中的嘴部是被胶带封住。在8%的例子中,AI认为这些人是面部有毛发的女性,看起来脸上有很多毛发。

          IBM的沃森(Watson)则更进一步。在23%的案例中,被识别为女性戴着封口胶。在另外23%的案例中,确定这是一位戴着镣铐或锁链的女性。

          微软的Azur计算机视觉可能也需要更精确的编码。调查显示,它们认为40%是女性佩戴的时尚配饰,14%是女性涂着口红。

          这样的结果可能会让很多人想知道这些人工智能的想法是从哪里来的。一个简单的答案可能是“男人”。

          然而,研究人员认为,这些机器是在网络上“一个黑暗的角落”里寻找灵感,在那里,女性是暴力或沉默的受害者。”

          很难想象这是真的,而且随着我们越来越容易地迷失在人工智能丛中,这可能会带来可怕的后果。

          研究人员表示,他们并不是要妖魔化人工智能。(人工智能很擅长为自己做这件事。)

          相反, 正如Wunderman Thompson的数据科学主管伊林卡·巴桑(Ilinca Barsan)所指出:“如果我们想要我们的机器做准确的和负责任的反映社会的工作, 我们需要帮助它们了解我们生活的社会动态,阻止它们通过自动化来强化现有的不平等,并让它们为‘好’而工作。”

          不过,当我问研究人员对IBM退出面部识别业务的想法时,他们回答说:"我们的研究侧重于视觉标签识别,而不是面部识别,但如果人工智能模型(公认是一般的)很容易混淆戴口罩的人和被堵住或被限制的人,那么对于IBM来说,退出一个如此容易被滥用、侵犯隐私和训练偏见的业务似乎是正确的(也是明智的)做法。”

          在帮助机器理解关键元素方面,人类还没有做得很好。比如人类本身。部分原因是机器没有这种本能,部分原因是人类很难理解自己。

          毫无疑问,人工智能在实验中也许发现了人类世界的深层潜意识,即女人在人类社会中的角色笼罩在某种黑暗奴役意识之中,当然这种潜意识普通人在浏览网页过程中无法察觉,但是当人工智能遍历网络世界中却能感受到大多数网络的深层潜藏的意识并加以提炼学习,目前还不清楚实验进行到了哪一个阶段,但我们必须要清楚在人工智能认知领域的研发,美国企业是领先世界的。

          目前出现的这种风险在人工智能领悟后又将传播多少黑暗呢?

          谷歌 AI IBM
          上一篇:研究idea不work,可能不是它不好,而是硬件没跟上 下一篇:机器学习系统的弱点:需要保护它们的5个原因
          评论
          取消
          暂无评论,快去成为第一个评论的人吧

          更多资讯推荐

          人脸识别,要方便更要安全

          11月1日,国家标准《信息安全技术 远程人脸识别系统技术要求》将正式实施。该标准将推动我国人脸识别技术产业化发展,进一步丰富人脸识别技术体系和应用场景。当前,我国人脸识别技术及应用现状如何?人脸数据等个人隐私数据信息存在哪些安全风险?

          光明日报 ·? 7h前
          常见的人脸识别系统的终端安装、接线大盘点

          人脸识别终端在人员管控、考勤打卡以及人流量密集的安检场所有着广泛的用途,今年在疫情期间更是兼顾了人脸识别和体温检测、提醒戴口罩功能等等。

          弱电智能化工程2018 ·? 8h前
          为什么人工智能各种完爆人类,但依旧听不懂你在说什么?

          在文章一开头,它首先引用了史蒂芬·霍金对AI的隐忧,然后礼貌地劝说人类“请相信我,AI不会毁灭人类”,它甚至保证“如果创造我的人将这项任务委托给我,我将竭尽所能全面阻止任何破坏的尝试与企图”。

          果壳 ·? 1天前
          人脸识别遍地开花,当心数字滥权风险

          前几天,这样一则消息冲上热搜:清华大学法学院劳东燕副教授拒绝小区安装人脸识别门禁系统。在大多数人眼中,人脸识别应用给日常生活带来的便利不胜枚举——支付、验票、核实信息等等,借助人脸识别技术一气呵成。劳教授偏偏“逆势而为”,对人脸识别进小区说“不”。

          李嫄 ·? 2天前
          十大针对机器学习的文本注释工具与服务,你会选用哪个?

          本文将和您探讨目前十大针对机器学习的文本注释工具与服务。您可以根据自己项目的实际情况,从中做出选择并试用。

          陈峻 ·? 2天前
          缺失何在?当下机器学习教育的短板

          随着机器学习的日益流行,网上出现了越来越多的在线课程,个个都说自己在教“开创AI职业生涯”的必备技能。

          大数据文摘 ·? 2天前
          疫情之下,一大波AI机器人正在上岗

          今年因疫情的出现,导致了一左一右的两个趋势加速:一个是全球化的退潮,从开放交流走向互相封闭,跨国人员流动大幅缩减;另一个是数字经济的加速,疫情导致的物理隔离,引发了传统行业的数字化升级和在线办公模式的增长。近几年来,一直大热的AI机器人概念,在此时,又发挥了什么样的重要作用呢?

          移动智观察 ·? 3天前
          认识网页抓取:一切都交给AI,还是加点“人情味”?

          对于许多专业人士来说,网页抓取仍然是必不可少的工具。那么,对于与网络机器人的污名,我们能做些什么呢?

          读芯术 ·? 3天前
          Copyright?2005-2020 51CTO.COM 版权所有 未经许可 请勿转载
          金沙js0888