人工智能开始种族歧视是谁之过

来源:当代财经网时间:2017-04-14 16:18:22

人工智能随着科学的发展正在不断提高,但其中也出现了不少让人忧心的问题,近日,一份报告显示,科学家在设计让计算机具备理解人类语言的人工智能(AI)工具时已经出现了明显的种族性别偏见

这些发现令人担忧现有的社会不平等和偏见正在以新的、不可预知的方式得到强化,因为影响人们日常生活的大量决策正越来越多地由机器人做出。

在过去的几年里,谷歌翻译等程序的语言翻译能力有了显著提高。这些成就要得益于新的机器学习技术和大量在线文本数据的使用,并在此基础上对算法进行训练。

然而,最新研究显示,随着机器越来越接近于掌握人类的语言能力,它们也在吸收隐藏于语言中的根深蒂固的偏见。

巴斯大学的计算机科学家、论文合著者乔安娜·布莱森(Joanna Bryson)说:“很多人都认为这表明人工智能(AI)存在偏见。不,这表明我们有偏见,人工智能正在有样学样。”

但布莱森警告说,人工智能有可能强化现有偏见,因为算法与人类不同,可能无法有意识地抵制学到的偏见。“危险在于,你拥有的人工智能系统没有一处零部件明确需要依靠道德观念驱动,这就不好了,”她说。

微软去年推出的Twitter机器人因不当言论而紧急下线

微软去年推出的Twitter机器人因不当言论而紧急下线

上述研究发表在《科学》杂志上,重点关注一种名为“单词嵌入”机器学习工具,后者已经改变了计算机解读语音和文本的方式。有人认为,下一步科技发展将自然而然地涉及到开发机器的类人化能力,如常识和逻辑。

“我们选择研究单词嵌入的一个主要原因是,近几年来,它们已帮助电脑在破解语言方面取得了巨大成功,”这篇论文的资深作者、普林斯顿大学计算机科学家阿尔文德·纳拉亚南(Arvind Narayanan)说。

这种方法已经在网络搜索和机器翻译中使用,其原理是建立一套语言的数学表示式,依据与每个单词同时出现的最常用单词,将这个词的意思提炼成一系列数字(也就是词向量)。也许令人惊讶的是,这种纯粹的统计方法似乎能够捕捉到每个词所在的丰富的文化和社会背景,这是字典无法定义的。

例如,在数学“语言空间”,与花朵有关的词汇往往与描绘心情愉悦的话语聚集在一起,而与昆虫相关的词汇则往往与心情不愉快的词汇同时出现,反映出人们对昆虫与花朵的相对特点所达成的共识。

最新的文件显示,人类心理实验中一些更令人不安的隐性偏见也很容易被算法捕获。“雌性”和“女性”与艺术、人文职业和家庭的联系更紧密,“雄性”和“男性”与数学和工程专业更为接近。

而且,人工智能系统更有可能将欧美人的名字与诸如“礼物”或“快乐”之类的愉快词语联系在一起,而非裔美国人的名字通常与不愉快的词语联系在一起。

研究结果表明,算法与隐式联想测试拥有同样的偏见,也就是把表示愉快的单词与(美国和英国的)白人面孔联系起来。

这些偏见会对人类行为产生深远的影响。一项先前的研究表明,相对于非洲裔美国人,如果申请者的名字是欧洲裔美国人,即使简历内容相同,后者所能获得的面试邀请将比前者多出50%。最新的研究结果表明,除非采用明确的编程来解决这个问题,否则,算法将与现实社会一样,充斥着相同的社会偏见。

“如果你不相信种族主义与姓名存在联系,这就是例证,”布莱森说。

研究中使用的机器学习工具是在被称为“通用爬虫”语料库的训练数据集中接受训练的,其中的8400亿个词语都是从网上公布的材料中选取的。当研究人员把训练数据集换成谷歌新闻的数据对机器学习进行训练时,也出现了类似结果。

牛津大学数据伦理和算法领域的研究人员桑德拉·沃彻(Sandra Wachter)说:“世界存在偏见,历史数据存在偏见,因此,我们得到带有偏见的结果,不足为奇。”

她补充说,算法不仅代表一种威胁,也可能为采取适当方式解除和对抗偏见提供机会。

“至少利用算法,我们可能知道算法会在什么时候出现偏差,”她说。例如,人类会在解释为何不雇佣某人时说谎,与此相反,算法不会撒谎,不会欺骗我们。”

然而,沃彻说,问题在于如何从旨在理解语言的算法中消除不恰当的偏见,同时又不剥夺它们的解读能力,这将是具有挑战性的工作。

“原则上,我们可以建立一些系统对带有偏见的决定进行检测,然后采取行动,”沃彻说,并与其他人一起呼吁建立一个人工智能监管机构。“这是一项非常复杂的任务,但作为一种社会责任,我们不应回避。”

尽管反对种族歧视的声音在不断增加,但这种情况依然不时会出现,未来如何平衡人工智能在自主学习与受人影响这两个方面依然还有很长的路要走。

相关阅读

推荐阅读

两连阳为啥还没回本?买入绩优、白马、中大盘股才能轻松获利

两连阳为啥还没回本?买入绩优、白马、中大盘股才

一、大盘点评展望周二沪深两市小幅低开后,沪深300权重带动指数震荡上行。最终沪指上涨0 53%报收3410点,K线上收出一根中阳线;深成指上涨1 更多

2017-11-22 16:17:00
2017百度世界大会李彦宏透露无人车2018年量产 无人驾驶概念股备受期待

2017百度世界大会李彦宏透露无人车2018年量产 无

一年一度的百度世界大会11月16日在北京举行,每年的百度世界大会,百度创始人李彦宏都会带来他对过去,现在和未来关于互联网和整个IT领域的 更多

2017-11-16 11:17:37
贵州茅台股价突破700元 贵州茅台股价为什么那么高?

贵州茅台股价突破700元 贵州茅台股价为什么那么

今日贵州茅台延续昨日强势走势,继续大幅攀升,盘中最高价突破700元整数关口,刷新上市新高纪录,截至发稿,最高价报704 97元,总市值超越8 更多

2017-11-16 10:32:47
百度世界大会今日召开聚焦智能硬件 百度世界大会受益概念股一览

百度世界大会今日召开聚焦智能硬件 百度世界大会

据怀新资讯报道,2017百度世界大会将于16日在北京举行。从邀请函上出现的神秘的盒子推测,本次百度将会有AI硬件以及诸多AI新技术发布。从今 更多

2017-11-16 10:17:03
中国财富总值全球第二但是超4亿人家庭没有卫生厕所 你拖后腿了吗?

中国财富总值全球第二但是超4亿人家庭没有卫生厕

瑞士信贷研究所(CSRI)最新出炉的《全球财富报告》显示,全球财富总额现已达到280万亿美元,比十年前金融危机爆发时高出27%。美国占全球财 更多

2017-11-16 10:07:07
比特币今日价格大幅反弹逾9% 比特币价格再次突破7000美元

比特币今日价格大幅反弹逾9% 比特币价格再次突破

在短短两周时间内,比特币价格呈现了非常惊险的过山车。由于对于这款加密货币未来趋势存在争议,上周比特币价格出现暴跌,曾一度低于6000美 更多

2017-11-16 10:04:14
油价调整最新消息:国内油价今日24时或迎年内最大涨幅 附92号/93号汽油最新价格

油价调整最新消息:国内油价今日24时或迎年内最大

新一轮成品油调价窗口将于16日24时开启。国际原油价格一度涨至近两年高位,受此影响,国内油价或迎年内最大涨幅。隆众资讯统计数据显示,以 更多

2017-11-16 09:22:17
国际油价调整最新消息:EIA原油及汽油库存双双增长 延长减产协议预期支撑油市反弹

国际油价调整最新消息:EIA原油及汽油库存双双增

美国能源信息署(EIA)周三(11月15日)公布的数据显示,上周美国原油库存意外录得增加,同时汽油库存也意外增长。EIA公布,截至11月10日当 更多

2017-11-16 09:21:49
和字书法纪念币2017预约时间 如何兑换“和”字书法楷书普通纪念币

和字书法纪念币2017预约时间 如何兑换“和”字书

人民银行网站消息,中国人民银行定于2017年12月13日发行和字书法——楷书普通纪念币一枚。一、纪念币图案和字书法——楷书普通纪念币正面主 更多

2017-11-15 16:16:33
MSCI中国A股指数大调整 msci中国a股指数成分股名单一览

MSCI中国A股指数大调整 msci中国a股指数成分股名

11月13日晚,明晟公司(MSCI)在半年一度的指数评估中,公布了对MSCI中国A股指数、MSCI中国全部股票指数的最新重大调整。公告显示,MSCI中 更多

2017-11-15 14:43:49
+ 点击查看更多精彩
蓝筹股带动大盘继续上攻 沪指重返3400点
    【盘面简述】今日早盘,随着油气股的拉升上涨,中国石油和中国石...
白马股崛起补涨强烈 短期恐慌性抛盘并不大
    今日市场点评:沪深两市早盘各股指纷纷小幅低开,开盘之后一度呈...
市场再度面临重要的时间窗口 一板块有望迎来年末行情
    【今日小结】今日,两市小幅高开,开盘回撤后快速上行翻红,金融...
不离谱的回落 三理由力挺节后机会
    今日市场点评:大盘在节后第一天走出了高开低走的行情。在国庆期...
第三批混改试点企业名单不久后推出 军工、民航、通信混改机会尤为突出
    国新办今日举行新闻发布会,国资委副秘书长彭华岗在回答记者关于...
多方护盘力量继续加码 市场震荡不改上行趋势
    【今日小结】全天看,两市双双低开,开盘后在煤炭、有色等资源股...