首页 新闻 市场 科技 财经 商业 地产 手机版
国际 国内 产业 宏观 股市 公司 动态 行情 业界 电商 数码 手机 银行 理财 数据 金融 产经 生活 评论 观察 房产 家居 趋势 楼市

伪科学?初创公司声称可通过声音分析评估风险 专家批其为算法偏见洗白

正规申博开户登入 来源:前瞻网            发布时间:2018-11-26 17:49:22

1

图片来源:The Intercepte

是否可以通过观察人们的脸或听到他们的声音来判断某人是否是罪犯呢?这个想法可能看似荒谬,就像科幻小说中的一些东西,比如小说《1984》中的老大哥察觉到任何无意识的表情“伴随着异常的暗示”, 然而,一些公司最近开始正面回答这个问题。 AC Global Risk是一家成立于2016年的创业公司,声称能够确定你作为一名员工或寻求庇护者的“风险”水平,依据不是你所了什么内容,而是基于你怎么说。

这家位于加利福尼亚州的公司提供自动筛选系统,称为远程风险评估(RRA)。以下是它的工作原理:AC Global Risk的客户帮助开发自动化的、是或否的面试问题。选定进行筛选的人群,然后在10分钟的面谈中用自己的母语回答这些简单的问题,这些可以通过电话进行。 RRA然后测量他们的声音特征,以产生评估报告,该评估报告对从低风险到高风险的频谱中的每个个体进行评分。首席执行官亚历克斯·马丁表示,该公司的专有风险分析可以“永远改变人类风险的衡量标准。”

AC Global Risk在其咨询委员会中拥有罗伯特·盖茨,康多莉扎·赖斯和斯蒂芬·哈德利咨询公司,并与美国阿富汗特种作战司令部,乌干达野生动物管理局以及Palantir,苹果、Facebook、谷歌等安全团队签订了合同。马丁表示,在这些市场和其他市场广泛使用风险筛选已经证明它“高度准确,可扩展,具有成本效益,并且具有高吞吐量。”AC Global Risk声称其RRA系统可以同时处理数百个世界上任何地方的人。现在,针对美国唐纳德·特朗普要求对移民进行“极端审查”的呼吁,该公司已经将自己定位于“美国和其他国家目前正在经历的巨大难民危机”的最终解决方案。

这项建议似乎对美国国土安全部有吸引力。国土安全部已经资助研究开发类似的边境人工智能技术。该程序被称为实时真实评估自动虚拟代理(AVATAR),它使用人工智能来测量旅行者的声音,姿势和面部表情的变化,以便标记那些看起来不真实或似乎构成潜在风险。 2012年,它在美国 - 墨西哥边境的志愿者进行了测试。欧盟还资助了对技术的研究,以减少“由人为因素造成的工作量和主观错误”。

语音分析、算法偏见和机器学习方面的一些领先专家发现,数字测谎仪测试的趋势令人不安,他们指出了AC Global Risk等公司的方法错误。 “语音中的动态变化有一些信息,他们正在检测它。这是非常合理的。”普林斯顿大学心理学家亚历克斯·托多罗夫解释说,他研究社会感知科学和第一印象。 “但问题是,这些信息在检测他们认为有风险的人的类别时,有多明确无误?这些信号总是含糊不清。”

在过去的一年里,美国公民自由联盟和其他人报告说,边境巡逻人员根据他们的外表或口音一直在从灰狗巴士上抓人。由于海关和边境保护局的代理人已经使用有关某人如何说话或长相的信息作为借口,在100英里的边境地区搜查个人,或者拒绝个人进入美国,专家们担心声音情绪检测软件会以看似“客观”的方式使这种偏见成为常规、普遍现象。

AC Global Risk拒绝回应本文的多次评论请求。该公司也没有回复有关该技术如何运作的详细问题清单。然而,在公开场合,马丁声称该公司的专有分析流程可以确定某人的风险等级,准确率超过97%。 (同时,AVATAR声称准确率在60%到70%之间。)几位领先的视听专家审阅了AC Global Risk公开发布在The Intercept是的材料,使用“废话”或“虚假”一词来描述公司的主张。奥格斯堡大学教授BjörnSchuller说:“从道德的角度来看,只能通过声音识别欺骗行为,给人的印象是非常可疑和阴暗的”,他是该领域主要研究的领导者,以推进声乐情绪检测的最新技术水平。 “任何说他们能做到这一点的人都应该被视为一种风险。”

高风险业务

The Intercept在去年夏天报道,特朗普的极端审核计划要求软件能够自动“确定和评估申请人成为社会积极贡献成员的可能性”,并预测“申请人是否打算在进入美国后犯下罪行或作出恐怖行为”。 AC Global Risk已经成为实施这一举措的完美工具,可以评估“忠诚度不明的个人的风险等级,例如难民和签证申请人。” 该公司表示,国土安全部随后将决定如何根据这些报告的结果采取行动。“有四个级别可用于工作(低水平,平均水平,潜在和高水平),根据风险等级建立部门协议并不困难。”该公司在其博客上表示。

风险评估本身并不是什么新鲜事。近年来,在刑事司法程序的几乎每个阶段都引入了算法,从警务和保释到量刑和假释。这种技术的到来并非没有争议。许多这些自动化工具因其不透明性、保密性和偏见而受到批评。在许多情况下,官员、法院和公众没有配备 —— 或允许 —— 询问他们的基本假设、训练集或结论。持怀疑态度的专家关注的主要问题是机器学习的客观光环可能为歧视提供了貌似合理的借口。

AC Global Risk几乎没有提供有关其技术如何运作的公开细节。它没有发表支持其研究主张的白皮书,也没有公布其研究人员的科学谱系。该公司没有回答有关产品测量的质量(间距,速度,变形)和特征的问题。 “尽管在刑事司法环境中使用风险评估存在问题,但与该公司的工具相比,它更加准确。”犹他大学计算机科学家Suresh Venkatasubramanian表示,他专注于算法公平。

如果AC Global Risk对其技术的任何一项声明是有效的,它们将代表研究人员认为可以从人类声音中确定最前沿的东西。声音评估可以很好地识别人口统计信息。这些信息可能是一般的,例如某人的年龄、性别或方言,但它也可以是非常个人的,揭示某人来自的特定地区,以及他们可能遇到的任何健康问题。

上个月,亚马逊获得了一项专利,允许其虚拟助手Alexa确定用户的声音特征,包括语言、口音、性别和年龄。然而,当谈到从声音中确定情绪时,准确性仍然是一个主要问题。声音分析公司audEERING的联合创始人舒勒表示,目前无法判断某人是否在说谎(实际上谎言是该公司的风险指数之一),其声音超过70%准确性,与人类的平均判断基本相同。

舒勒说,有可能发现喝醉、真诚和欺骗,但同样,成功率与普通人的能力相似。“有了可靠的标签,你有时可以击败人类,但如果有人声称零误差,那就应该持保留态度。”他说。

评估AC Global Risks声称的有效性的核心是,什么符合风险这一模糊标签以及谁定义它。 “他们把风险定义为不言自明的,好像这是一种普遍的品质,”澳大利亚学者Joseph Pugliese说,他的工作重点是生物识别歧视。 “它假设人们已经知道风险是什么,而当然,谁定义风险参数以及构成风险参数的问题是政治上的负担。”

首席执行官亚历克斯·马丁曾表示,“寻找每个人都存在的连续统一体的实际风险。”然而,风险是一种天生的,可识别的人类特征 - 而这种特性可以从声音中确定 - 这种观点依赖于有缺陷的假设上。普林斯顿大学心理学家托多罗夫解释说。 他继续说道,我们检测人们实际感受的方式与我们感知他们感受的方式的能力,一直是机器学习中一个众所周知的难题。评估设置可能会使错误印象的可能性进一步复杂化。 “边境地区边的人们已经处于令人担忧和高度情绪化的环境中。” Pugliese说, “他们怎么能以所谓的正常方式服从呢?”

一种新相术?

越来越多的公司对其行为分析软件的能力提出了过高的要求,AC Global Risk就是其中之一。受人工智能观察能力的鼓舞,许多生物识别供应商和人工智能公司一直在向企业和政府出售从我们的面部表情、动作和声音判断整个人格的能力。例如,2014年俄罗斯冬季奥运会的生物识别供应商扫描了与会者的表情,以便让该国的安全机构FSB能够“发现一个看起来不起眼,但其精神状态激动即将作出威胁的人。”

一些研究人工智能和人类行为的持怀疑态度的专家将这些工具框定为人们对面相兴趣日益复苏的一部分,这是一种观察人体以寻找道德品质和犯罪意图迹象的行为。在19世纪中期,塞萨尔·隆布罗索(Cesare Lombroso)对“天生罪犯”的头骨和面部特征的精确测量为这种解释性实践披上了科学的外衣。然而,虽然像隆布罗索这样的犯罪人类学家的努力,后来已经被扔进了危险的垃圾科学的垃圾箱,但是仍然存在着从身体特征和行为中推断某人的道德品质或隐藏思想的欲望。

Pugliese说,在AC Global Risk和类似公司的努力下,假设大数据的相关性可以规避科学方法。他解释说,这些“相术”应用尤其令人不安,因为机器学习算法本身就是为了在他们给出的数据中找到表面模式(不管这些模式是否“真实”)而设计的。 Pugliese说:“当他们说他们正在为风险进行分类时,有一个不言而喻的观点,那就是他们对构成‘犯罪意图’的迹象有客观的认识。“但我们不知道这些犯罪预测指标将由什么实际迹象构成。”

然而,揭露这种技术的伪科学的前提并不一定会降低企业和政府使用这项技术的可能性。 这些技术的力量 - 与许多其他预测和基于风险的系统一样 - 主要依赖于它们对功效和速度的承诺。 Venkatasubramanian解释说:“他们的主要主张是提高效率,让事情变得更快,从这个意义上讲,它会起作用。”换句话说,这种效率是否有助于或损害那些遇到这些系统的人的生命机会,他们漠不关心。 在人类制定其建议的过程中,远程风险评估将被视为有效。 正如托多罗夫在一篇文章中写道,两位机器学习专家表达了他们对这一大趋势的担忧:“无论是否有意,通过计算机算法对人类偏见的'洗白',可以使这些偏见看起来客观合理。”

【免责声明】 凡本站未注明来源为投资观察界:www.psb21.net的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。其他媒体、网站或个人转载使用时必须保留本站注明的文章来源,并自负法律责任。 如您不希望作品出现在本站,可联系我们要求撤下您的作品。联系邮箱:xinxifankuui@163.com
责任编辑:

频道精选

最火资讯

首页 | 新闻 | 市场 | 科技 | 财经 | 商业 | 地产
网站地图 太阳城 申博现金百家乐 澳门新葡京赌场 申博太阳城登入
申博登录网址 申博手机客户端下载登入 申博138真人荷官 菲律宾申博代理开户合作
申博游戏登入不了 申博开户 申博太阳城 申博真人游戏
申博 申博会员登入 澳门博彩公司 申博手机版
申博直营现金网 申博游戏登入不了 太阳城申博 ag国际馆