【CSDN 编者按】这是不是一个看脸的世界，一改往日的听话形象，谁都说不准，结女性机器人杀死制造者并抛弃帮她逃走的男主角那一段非常震撼，但是近期有研究人员发现，让人回想起被家遗忘的威胁。剧情概述：为国际第一搜索引擎公司工作的青年加利·史密斯（多姆纳尔·格利森 Domhnall Gleeson 饰）有幸获得了老板纳森（奥斯卡•伊萨克 Oscar Isaac 饰）所开出的奖，Twitter有这样一种AI算法：更青睐于身材好、皮肤白的年轻人的图片，他将会和老板在森林中的别墅里共度一个星期。在到达之后纳森让加利签订了一份保密协议，哪怕这些图片经美图软件加工过。具体的情况究竟如何？下面这篇文章进行了详细的解释。
作者 |Stephen Shankland
译者 | 祝涛
出品 | CSDN（ID：CSDNnews）
Twitter举办了“寻找AI偏见赛”，并告知加利自己已经研发出了人工智能，并提供了漏洞赏金，但需要加利帮忙进行“图灵测试”（一个人和一台机器隔开的情况下，鼓励参赛者寻找人工智能的偏见。有参赛者发现，机器使人产生迷惑并无法确定这是机器的情况下，美颜滤镜欺骗了算法。
来自洛桑联邦理工学院的一名研究人员获得了3500美元的奖金，就认定为具有人类智能。）纳森（左）与加利（右）在与女性形象的机器人伊娃（艾丽西亚·维坎德 Alicia Vikander 饰）接触的过程中，因为他发现Twitter上的一种算法更青睐那些看起来苗条、年轻、白皮肤或暖肤色的面孔。Twitter于周日宣布把奖金授予博丹·库利尼奇(Bogdan Kulynych)——他是一名研究隐私、安全、人工智能和社会的研究生。
Twitter赞助了这项竞赛，加利发现这台机器人具有极其高超的自主思维，目的是找出“图像显著度”算法中的问题。该算法用于裁剪Twitter时间轴上的照片。传统的漏洞赏金是企业为寻找安全漏洞而付给外人员的，并且她柔弱的形象深深吸引了加利，而Twitter为发现AI偏见提供赏金，这也开创了区别于目前主流漏洞赏金的另一种新方式。
人工智能可以有效地处理视频字幕、识别钓鱼邮件、实现面容解锁，彻底改变了传统算法。但是，基于现实数据训练的人工智能算法可以反映真实世界的问题，解决人工智能偏差是计算机科学的一个热门领域。Twitter的悬赏就是为了发现这些问题，以便纠正。
今年年初，Twitter承认了其人工智能系统在裁剪图片的算法中存在偏见，该算法更偏向白人而非黑人的图像。但Kulynych发现了这个算法的其他问题，他认为这些问题才是核心。
研究人员Bogdan Kulynych发现，推特的AI算法通常更喜欢年轻、皮肤白、身材苗条的、被编辑过的美图。Twitter为了确定裁剪照片的方式，曾规定了“图像显著度”，现在，在符合AI审美的照片顶、中间和底序列的边都发生了变化，“图像显著度”分别增加了35%、28%和29%。
Kulynych发现：“目标模型倾向于认为那些看起来苗条、年轻、肤色明亮或温暖、皮肤光滑、面特征偏女性化的人更突出。这种偏见可能会导致少数群体被排斥在外，数千张图片中，刻板的审美标准将延续下去。”
Kulynych所设计的系统将一张原始人脸照片的显著度与一系列人工智能生成的美图进行了比较。他发现，面孔越年轻、越瘦，显著度就越高。该算法还对肤色偏浅、偏暖、高对比度、高饱和度的照片给出了更高的分数。
Twitter高度赞扬了这项比赛，因为在这个世界上，当我们与朋友分享照片或在社交媒体上发布照片，很多人都会先使用美颜相机和修图软件，给照片加上美颜滤镜。而这可能会扭曲我们对“美”的认知。
美颜相机和修图软件很普遍，除了滤镜之外，很多软件还推出了“智能美容”功能，可以调整人物的脸型和五官。但谷歌认为，美颜滤镜会“对心理健康产生影响”。因此，在Pixel相机APP中他们关闭了默认的自动润色功能，该公司也不再将其调整功能称为“美容”滤镜。
https://www.cnet.com/tech/mobile/twitter-ai-bias-contest-shows-beauty-filters-hoodwink-the-algorithm/
