AI存在偏见和歧视,算法让用户喜好趋同?科学家给出了证据

摘要:北京时间20200807关于【AI存在偏见和歧视,算法让用户喜好趋同?科学家给出了证据】的具体情况和说明,让www.hlloo.cn新闻频道的以图文形式为您慢慢道来。

或许你已经注意到了,当你在电影评分网站给刚看完的电影评完分后,网站后续给你推荐的影片风格会与你看完的电影类似。举个更常见的例子,当你在购物网站搜索过某样物品后,第二天推荐页面上显示的都是类似款。

人工智能可以帮助商家获得客户喜好,但同时也在逐渐根据用户的反馈,形成喜好偏见,让用户的需求同化。不仅如此,在人脸识别领域,算法自带的歧视和偏见导致的问题,已经引发了诸多争议。

近日,来自多所大学学者的研究结果为上述的偏见和歧视提供了证据。他们的研究论文目前已在预印本网站Arxiv上发布。

算法推荐系统会放大偏见,并让用户喜好趋同

推荐系统的本质是一种基于产品内容或用户行为的信息过滤。如今,我们用的很多应用程序和网站都嵌有算法推荐系统。假如你在某视频网站给一部电影打了高分,那么系统就会为你推荐更多同类型的电影。如果你给系统推荐的电影也打了分,系统就会将你的反馈行为添加到系统中,这就是一种反馈循环。

但是推荐算法会受到流行性偏见(popularity bias)的影响。流行性偏见是指,一些流行的项目会被经常推荐,而其他项目会被忽略。在上面的例子中,一些电影被更多的人喜爱,获得了更高的评分,就属于流行的项目,或者可以叫做热门项目,这些项目会被更多推荐给用户,这就是流行性偏见。

流行性偏见的产生一部分源于训练数据本身存在不同的流行度,另一部分原因来自推荐算法。随着时间的推移,这种流行性偏见将会被加强。因为如果用户在反馈循环中不断为热门电影打高分,这些电影就变得更热门,被推荐的几率也就更大。

为了研究反馈循环对推荐系统放大偏见和其他方面的影响,来自埃因霍温科技大学、德保罗大学和科罗拉多大学博尔德分校的研究人员在一个电影数据集上使用三种推荐算法进行了仿真,模拟推荐系统的交互过程。

作为研究数据的MovieLens 1M数据集包含了6040个用户对3706部电影给出的1000209个评分,分数范围在1-5之间。研究人员使用的三种推荐算法分别是:基于用户的协同过滤(UserKNN)、贝叶斯个性化排序(BPR)和一种向所有人推荐最流行产品的算法MostPopular。

MovieLens数据集的初始流行性分布通过使用这些数据和算法进行迭代——系统不断为用户生成推荐列表,用户又不断对推荐列表中的项目进行打分,研究人员发现,随着时间的推移,三种算法下的数据平均流行度都有所上升,但总体多样性呈现下降,这也就证明了推荐系统在反馈循环后的偏见被放大。

流行性偏见的放大还改变了系统对用户兴趣的判断。在所有的推荐算法中,用户的偏好与其初始偏好之间的偏差随着时间的推移而增加。也就是说,这将导致推荐系统为用户做出的推荐越来越偏离用户的真实喜好,系统推荐给你的电影将不再符合你的口味。

除此之外,由于推荐系统的偏见被放大,用户几乎只能接触到流行度高的项目,只能看到那些被更多人打了高分的热门电影。于是,在推荐系统中他们的偏好都会向一个共同的范围集中,这就表现为用户偏好的同质化。而反馈循环造成的偏见对少数群体用户的影响更大。

随着迭代次数增加,项目平均流行度上升(左),总体多样性下降(右)“解决算法偏见的方法变得至关重要。因为如果处理不当,随着时间的推移,推荐系统中一个很小的偏差也可能会被极度放大。”研究人员在论文结尾处写道。

人脸识别用于训练的数据存在巨大偏差

针对人脸识别算法带来的偏见越来越受到关注。例如,能将模糊照片清晰化的PULSE算法将美国前总统奥巴马的模糊照片“还原”出了一张白人面孔,在全美BLM运动(Black Lives Matter,黑人的命也是命)如火如荼的背景下,就引发了巨大的争议。

图片来源:Twitter网友@chicken3gg人脸识别领域里出现算法偏差和歧视,一个重要原因是用于训练的数据集存在很大的偏差性。来自剑桥大学和中东科技大学的研究人员就从两个用于识别人脸表情的数据集中找到了证据。

这两个数据集分别为:RAF-DB和CelebA。其中,RAF-DB包含来自互联网的数以万计的图片,这些图片包括面部表情和属性注释,而CelebA拥有202599张图像,包含10177人的4​​0种属性注释。

为了确定两个数据集存在偏差的程度,研究人员对随机子集进行了采样,并裁剪了图像,以使面部在方向上保持一致。然后,他们使用分类器来衡量准确性和公平性。

理论上来说,为了让算法保持准确和公平,这个分类器应在整个过程中提供不同的人口群体的相似结果。但实际情况并非如此。

在RAF-DB数据库中,绝大多数的图片来自年龄在20-39岁之间的白人。从具体的数据来看,这些图片有77.4%来自白人,15.5%来自亚裔,而只有7.1%来自非洲裔美国人;在性别方面,女性为56.3%,男性为43.7%;在年龄上,超过一半的图片来自20-39岁的年轻人,3岁以下和70岁以上的人甚至少于10%。

为进一步研究数据库存在偏见的程度,研究人员分别使用了三种算法对数据库的准确性和公平性进行评估。结果发现,在准确性方面,RAF-DB数据库对少数族裔的识别准确性低于白人;在公平性方面,性别属性相对更公平,为97.3%,种族和年龄的公平性相对较低,为88.1%和77.7%。

RAF-DB数据库中的数据分布而在CelebA数据库的图片来源中,女性比例为61.4%,而男性只有38.6%。在年龄上,年轻人占75.7%,明显超过了占比24.3%的老年人。

在准确性方面,CelebA数据库对年轻女性的准确率为93.7%,但对老年男性的准确性较低,为90.7%。而该数据库在性别和年龄方面的公平性表现都较好,分别为98.2%和98.1%。

CelebA数据库中的数据分布许多公司曾用人脸识别软件给面试者的情绪打分,如果整个系统都是有偏见的,对于面试者来说就意味着不公平。面部表情数据集中偏见的存也凸显了监管的必要性。如何用法律防止技术滥用,成为未来这一领域里值得思考的问题之一。


查看更多
亲嘴电影|668欧美看片|男女裸交|神马三级我不卡|bt在线bt天堂网|㖭下面|羞羞漫画官网在线阅读破解版|yehualu|闹伴娘视频|爱做网站图片|授业到天亮chu|豆奶短视频app最新版下载|人兽操逼|代号8|videos成熟少妇|年上攻|A片视频免费看|耽美网|av女优排行|成版人抖音f2富二代破解|

实时推荐

“东家”这个词的背后,原来藏着这么多门道
推荐 2020-09-26 14:59 881 8738
人面蛇身:众神共享的标准像——“众神之像——创世神话中的重重蛇影”讲座纪要
推荐 2020-09-26 14:59 577 2321
大蛇因偷吃鹦鹉卡在居民家中
推荐 2020-09-26 14:59 889 2973
最佳男配角提名者印小天金鸡百花电影节献舞《站在草原望北京》
推荐 2020-09-26 14:59 308 7501
粉色紧身上衣搭配百褶裙活力满满,透明高跟鞋轻松打造少女气质
推荐 2020-09-26 14:59 109 1856
杰伦目前东决场均22.6分7板,命中率54.9%,三分51.9%
推荐 2020-09-26 14:59 408 5325
众志成城 南江县成功创建“天府旅游名县”
推荐 2020-09-26 14:59 335 1700
室内儿童卡丁车游乐场常见的七种盈利模式,看完收益匪浅
推荐 2020-09-26 14:59 580 6075
时隔470天,汤神终于回归!4巨头+榜眼签,快船湖人危险了
推荐 2020-09-26 14:59 431 9428
200920 张宇微博晒与蔡徐坤合照 坤PD暖心照顾学员尽显绅士魅力
推荐 2020-09-26 14:59 307 4087
就在今天,詹姆斯保持了13年的纪录被打破了
推荐 2020-09-26 14:59 650 5315
15岁爆红片约不断,却因跟错导演,混成18线网红
推荐 2020-09-26 14:59 344 4360
红米Note10已经在路上,骁龙750+高刷屏,1599元起有戏
推荐 2020-09-26 14:59 629 2653
05届十大超女现状,李宇春一枝独秀,谁才是人生赢家?
推荐 2020-09-26 14:59 685 1203
赖宝去哪里了 今晚80后脱口秀的段子都是出自赖宝之手
推荐 2020-09-26 14:59 442 2969
沉默不语顾小姐:陈安日记里提到的什么女子,有三个可能的人选
推荐 2020-09-26 14:59 722 7566
多特U19主帅:穆科科很出色,假如他为一线队出战我会很高兴
推荐 2020-09-26 14:59 764 7976
中国古代能以一敌百的名将,只有3位,其中一人完成3次百人斩
推荐 2020-09-26 14:59 201 8858
七年的轮回,巴斯克雄狮的怒吼再次响彻世界
推荐 2020-09-26 14:59 295 815
NBA最新交易流言汇总,恩比德哈登互换,乔治去篮网组三巨头
推荐 2020-09-26 14:59 673 6450
2020北京车展:观致7正式亮相
推荐 2020-09-26 14:59 880 1231
第七代现代伊兰特来了,起售价为10.98万元
推荐 2020-09-26 14:59 482 6441
雍正王朝:四阿哥在“扬州”为何特意聘请邬思道,就是为了夺嫡?
推荐 2020-09-26 14:59 871 9556
刘备真的仅靠运气,他的武力值如何?力量不输关羽和张飞
推荐 2020-09-26 14:58 281 5914
胤禵成为大将军王,为何会认为自己是皇位继承人?终究只是一场梦
推荐 2020-09-26 14:58 652 8060
浓眉季后赛800分用了27场,杜兰特30场,老詹和科比呢?
推荐 2020-09-26 14:58 963 2310
大众“小号途昂”实拍,轿跑造型更运动,搭1.0T发动机
推荐 2020-09-26 14:58 510 6275
武隆白马山:“文旅融合 错位拓展”推进旅游业高质量发展
推荐 2020-09-26 14:58 402 6009
塔图姆达成一壮举!詹姆斯不如,科比不如,贾巴尔和魔术师也不如
推荐 2020-09-26 14:58 990 3433
蔚来Navigate on Pilot领航辅助功能亮相 10月FOTA推送
推荐 2020-09-26 14:58 662 6527
国产游戏玩法逐渐同质化?对于玩家来说,这或许是个“危险信号”
推荐 2020-09-26 14:58 999 9150
本周精选龙岗捡漏房,首付171万就能买到四居室,桂芳园(六期)最新均价4.6万
推荐 2020-09-26 14:58 267 6703
修缮古长城:山野里的抢救
推荐 2020-09-26 14:58 125 9582
置业未央必看!价格喜人,每平1.3万!紫薇风尚锦程三居室,首付56万
推荐 2020-09-26 14:58 426 7402
领克 ZERO concept 全球首发
推荐 2020-09-26 14:58 642 5973
学位房盘点之龙岗篇,业主贱卖星都豪庭三居室,每平仅5.6万,首付仅145万!
推荐 2020-09-26 14:58 742 7115
南山高性价比学位房盘点,每平16.3万,半山海景兰溪谷二居室遭疯抢,首付才429万!
推荐 2020-09-26 14:58 870 6932
南山新上笋盘,汉京确悦三居室,首付仅270万!折下来每平才14.5万
推荐 2020-09-26 14:58 908 9087
嘉普力汽配批发平台全面升级,由汽配经销商转型服务商
推荐 2020-09-26 14:58 680 6918
中超争四只剩最后一席,战上港或战泰达,谁会搭上往苏州末班车
推荐 2020-09-26 14:58 954 4014
南山一周好房速递,这套二居室均价11.3万,首付195万就能搬进栖游记!
推荐 2020-09-26 14:58 423 6814
龙岗潜力盘流出!珑瑜二居室,均价仅3.0万,首付仅51万起!
推荐 2020-09-26 14:58 798 5700
秋后的第一碗粉,原汁原味,汤鲜味美,吃上一口能量满满,胃暖暖
推荐 2020-09-26 14:58 103 503
对判罚感到不满?北京国安球员王刚离场时,向裁判组竖大拇指
推荐 2020-09-26 14:58 354 1165
智慧农贸:开启菜市场新时代
推荐 2020-09-26 14:58 500 1476
创纪录!逾 2300 万起违规行为!澳大利亚第二大银行将缴纳 13 亿澳元罚款
推荐 2020-09-26 14:58 423 2085
优秀孩子与熊孩子的区别
推荐 2020-09-26 14:58 216 8808
秦淮重点学位房最新价格出炉,银龙花园(三期)三居室,均价仅2.6万,首付仅68万起!
推荐 2020-09-26 14:58 530 1640
"智"同道合 聚力向上 东风系列新品亮相北京车展
推荐 2020-09-26 14:58 576 7524
第十一届“中国统计开放日”暨包头市第七次全国人口普查宣传月启动仪式在昆都仑区举行
推荐 2020-09-26 14:57 355 1824
新房装修这21大遗憾你都不知道?快来了解一下,装修开不得玩笑
推荐 2020-09-26 14:57 335 9408
创业黑马赋能“创投无锡”,打造“科技、服务、人才”一体化链条
推荐 2020-09-26 14:57 865 834
开战!128支校园足球队城阳集结!
推荐 2020-09-26 14:57 322 2348
奥拉罗尤:击败恒大让我非常兴奋!深足有动力,但苏宁也有
推荐 2020-09-26 14:57 673 8411
厉害了!杭州又拿下一个国际荣誉!位列全球金融科技第一梯队
推荐 2020-09-26 14:57 302 1062
特斯拉携多款车型登陆北京车展
推荐 2020-09-26 14:57 873 2814
“科技犬”9月份第四周新品显示器盘点:海信入局 4K高刷标配
推荐 2020-09-26 14:57 289 2298
北京:应对突发公卫事件,防治两端都有新举措
推荐 2020-09-26 14:57 378 688
东京奥组委:东京奥运会有待简化事项超50个
推荐 2020-09-26 14:57 365 3324
权威访谈丨刘尚希:保护市场主体 加快形成新发展格局
推荐 2020-09-26 14:57 691 4803
【幸福东北】盘锦红海滩 嫣红似火碱蓬草碧波浩渺芦苇荡
推荐 2020-09-26 14:57 268 2899
遇见你丨大山里的足球小将 小小的你有大大的梦!
推荐 2020-09-26 14:57 436 5927
紧身修身长裙光华质感,时尚褶皱层次感,提升你的品位
推荐 2020-09-26 14:57 366 8753
海南西部中心医院成功开展海南西部地区首例“双腔ICD植入术”
推荐 2020-09-26 14:57 266 979
第四届“艺术天津”在河北区开幕三大群展呈现随“艺”生活
推荐 2020-09-26 14:57 875 5000
儋州发放首批安居型商品住房补贴7人领取补贴约115万元
推荐 2020-09-26 14:57 139 3435
女排精神大火!改国籍世界冠军:真酸了,只有成名才配得上苦练
推荐 2020-09-26 14:57 499 3843
世界私募股权:达格罗萨将收买南安普顿,锐盛投资供给资金
推荐 2020-09-26 14:57 975 4081
兰帕德制定了爱德华·门迪计划,新来的人动摇了切尔西门将
推荐 2020-09-26 14:57 950 2099
天津滨海新区全力打造“蓝色经济”名片
推荐 2020-09-26 14:56 772 7108
可乐瓶盖飞出 击中6岁女孩眼睛!医生:差点失明
推荐 2020-09-26 14:56 293 3962
牛仔裤紧致时尚,是塑造好身材,彰显女性魅力的首选时尚单品
推荐 2020-09-26 14:56 403 1168
比比东开启猎魂行动,肃清七大宗门,她真能够如愿以偿吗?
推荐 2020-09-26 14:56 394 1798
人走茶凉!梅西直言巴萨毫无人情味,再踢一年已是极限
推荐 2020-09-26 14:56 508 2904
科瓦奇:我依然坚持达观
推荐 2020-09-26 14:56 449 3365
判罚引争议!国安负上港因裁判不公?热内西奥:需要解释!
推荐 2020-09-26 14:56 956 5870
北京车展奶爸专场,备受关注的几款MPV车型亮相上市
推荐 2020-09-26 14:56 312 7927
TGS 2020:经典少女射击游戏《死亡微笑1·2》合集年内登陆PS4/NS
推荐 2020-09-26 14:55 329 3584
发动机启动状态下再次拧钥匙打火,会损坏发动机吗?
推荐 2020-09-26 14:55 181 5416
养狗前后的大对比,资深铲屎官纷纷“躺枪”
推荐 2020-09-26 14:55 798 7352
美媒评今年六大记录:字母哥超越张伯伦,勇士比上季少赢42场!
推荐 2020-09-26 14:55 214 1652
为什么狗狗在家会乱拉乱尿?6步训练帮你改善
推荐 2020-09-26 14:55 364 2045
里瓦尔多:苏牙能在马竞连续踢球风格,他是西蒙尼的抱负球员
推荐 2020-09-26 14:55 659 4225
奥特曼:为何有人无法接受昭和奥特曼,追昭和奥时所需要克服的那些问题
推荐 2020-09-26 14:55 367 8953
宜华结盟央企华融 变中开新、赋能育机
推荐 2020-09-26 14:55 420 3095
狗喜欢装瘸腿是什么意思
推荐 2020-09-26 14:55 539 729
不养孩子却拼命养狗,宠物经济对人的精神危害太大了
推荐 2020-09-26 14:55 201 4655
客场打败柏林赫塔,法兰克福主帅:成功实至名归
推荐 2020-09-26 14:55 771 7636
最难养的6种“大型犬”,如果你全部养过,那就太让人心疼了
推荐 2020-09-26 14:55 769 5714
广安玄武岩连续纤维产业实现行业领域里程碑式跨越
推荐 2020-09-26 14:55 458 8068
志愿军烈士遗物发现3枚印章!帮三位英烈寻亲
推荐 2020-09-26 14:55 168 6623
阿里董事会主席张勇:抓紧数字化的金钥匙,让农村因阿里而不同
推荐 2020-09-26 14:54 462 3112
北京国际车展 现代氢燃料电车 NEXO 亮相
推荐 2020-09-26 14:54 138 7185
价格严重限制销量,最便宜折叠手机首销,28万人预约1.8秒售罄
推荐 2020-09-26 14:54 966 653
詹姆斯退役后谁能够接班?现役仅有5人有资格,字母哥锡安上榜
推荐 2020-09-26 14:54 154 8592
通了!雅西高速今天16时起,小车可单幅双向通行
推荐 2020-09-26 14:54 673 7385
“初中生刺死霸凌者案”有新进展
推荐 2020-09-26 14:54 249 7975
又一运动B级车,双联大屏+无边框车门,6.4s破百,30.78万起
推荐 2020-09-26 14:54 1000 7631
为何印度摩托车这么耐用?几十人都压不坏,看完不得不服
推荐 2020-09-26 14:54 252 3240
中方谈全球如何共同面对生物多样性丧失的严峻挑战
推荐 2020-09-26 14:54 658 9751