AI与女性之间的关系,似乎一直不太好。

提到AI,我们看到的往往是“AI筛选简历带有性别歧视,更偏向于男性员工”“AI取代秘书、翻译和速记正在让女性失业”“一切AI助理都是女性配音加重男权主义”……

AI作为人类智慧与经验的高度结晶,同样也继承了人类社会文化中糟粕的部分,并且会毫无遮掩展示出来。

举个最简单的例子:

Siri

以Siri为代表的众多AI助理都被定义为女性的声音,因为社会中,女性会普遍被认为更有同情心、善良、关怀、乐于助人等特质。

可这些特质并不是女性特有。

“性别是社会塑造的”是女权主义先驱波伏娃很有名的观点,根据西方“二元论”,女性拥有这些特质,完全是因为女性的角色被设定为“他者”。

 当AI人工智能开始保护人类的时候 人工智能资讯报道_AI资讯 第1张


波伏娃

男权文化意识需要一个“他性”投射,女人的想法和身体都是为男人而存在,男性是被定义为理性的、勇敢的、可以征服世界的,那女性就来弥补他们没有的东西。

塑造的过程家庭、学校、社会,谁都脱不了干系,这些观念早已潜移默化植入每个人心里,除非接收过性别意识教育,否则很难意识到。

性别偏见的案例还有很多 ⬇️

贴标签 

神经科学家研究表明:人用肉眼识别一个动物是猫还是狗,一个人是男人还是女人,需要使用到复杂的神经突触……(此处省略我知识盲区500字)。目前AI还没有能力做到这一点,所以AI辨别物体大多还依赖“标签”,那么训练AI过程中“贴标签”的动作,就需要人(也就是一直提到的男工程师)来完成。因此这里就有很多WTF的事情出现了,比如:

和厨房、购物有关的场景中的人被识别为女人,而和运动有关的场景被识别为男人,一个站在灶前的男人也会被识别为女人。

推送歧视 

卡内基梅隆大学用软件 Ad Fisher 发现谷歌网站会通过用户表现猜测用户是否是男性用户或者女性用户。一旦判断用户是男性,谷歌更有可能向用户展示高薪管理职位的广告(给男用户展示了1852次,给女用户展示了318次)。

(另外大家不妨在各网站搜索“首席执行官”的图片,你会发现出来的大多都是男性的照片)……

所以结论就是:

占主导地位的男性工程师创造出来的AI机器人,固化了已有的性别偏见。

我说不完全赞同,因为这还不仅仅是一个女权问题,包括弱势群体在内的所有社会歧视,都隐藏在算法里。

谷歌算法里对黑人的歧视就曾引起很大的争议,一位黑人女性发现,在谷歌图片搜索“unprofessional hairstyle for work(不适合职业场合的发型)” 时结果会显示大量黑人女性天生的爆炸式发型,而去掉“un”搜索“professional hairstyle for work”,结果会出现大量白人女性未经修饰的天然发型。她把这件事曝到**上,引起轩然**。

 当AI人工智能开始保护人类的时候 人工智能资讯报道_AI资讯 第2张


**原文

面对这样的现状,最周全的解决办法是让决策层多元化,既然影响波及到不同的群体,那决策也得有他们的参与。这是女权主义者,也是少数群体/弱势群体一直在努力的,AI大牛李飞飞也说:机器是没有独立的价值观的,机器的价值观反映人类的价值观,那么我们如果不调动人类的公平的资源和包容多元的价值观,这对整个科技的发展是一种伤害,对社会也是一种伤害。

当AI被把握在女性手中

AI不能理解语境吗?显然不是,大量涉及到长本文语义理解的算法就是干这个的。只不过面对性别侮辱这类相对复杂的语境,需要大量的训练样本和反复调试。

当得不到*******的支持时,大赦国际做了两件事:

第一是找了6500位志愿者,在**上分别寻找收集那些侮辱女性的言论和正常言论,作为标注数据累积,建立起了全世界最大的“仇女言论”数据集。

第二是找到Element AI,一家提供AI既服务的创业企业,利用数据进行训练和分析,最终得出了上述完整的数据,并且训练出了一个可以判断女性侮辱言论的神经网络模型。大赦国际在报告中提出,目前这一模型的准确度已经达到了50%,并且还在不断提高中。

 当AI人工智能开始保护人类的时候 人工智能资讯报道_AI资讯 第3张


当然最后的结局没有人们想象中那么美好,*******并没有直接采用模型,借此保护平台上的女性用户。但通过这两件事,大赦国际明确了自己的需求,给*******提了很多富有价值的意见,例如*******应该改进举报机制,让爱赢|国际|娱乐|手机|官网女性侮辱的举报可以得到更多重视;*******应该更加清晰的解释平台过滤算法如何运行,如何识别那些针对女性的语言暴力;*******应该加强对女性用户的教育,提醒她们如何保护自己;更重要的是,*******应该更多的公开相关数据,让更多人知道女性正在社交媒体上承受着更多压力。

打破技术即权力:

保护她和他们的AI

这件事情其实带来了一个非常有趣的思考:当AI发展的愈发成熟,技术即权力的魔咒是不是正在被默默打破?

女性如今之所以处在一个让她们略感不适的地位之中,很大一部分原因在于对技术的掌控不如男性,所以她们不能创造和男性一样多的价值。千百年前女性不知道如何开垦更多土地种植粮食;几十年前女性不知道如何使用电脑;到今年女性不知道*******的算法为什么不能过滤掉那些仇恨言论。

而随着科技的发展,阻碍女性获取技术的门槛正在逐渐被磨平。从生理结构上天然的体力差别,到社会和家庭身份对于时间的占用,直到今天。

 当AI人工智能开始保护人类的时候 人工智能资讯报道_AI资讯 第4张


我们发现,号召志愿者收集数据,加上一家愿意帮忙的AI服务企业,女性可以轻易打破*******的“男权谎言”——你说算法做不到?她们就去证明算法可以做到。

当AI模型的开发越来越走向低门槛,当谷歌和百度都在推出小孩子都能使用的模型训练平台,这便意味着(综合来看)开发经验更少的女性群体也可以创造和利用AI的技术能力。

这也是AI作为工具而言最重要的价值,将以往高密度的经验与智慧集成为人人可以利用的算法,让马路杀手像老司机一样行驶在路上,让分不清PS和Photoshop的人也能拍出好照片。如今对于算法开发过程的简易化,更加提升了AI的工具价值。让我们感到欣慰的,不仅仅是女性开始利用AI的力量保护自己、为自己发声,而是大赦国际的成功是可以复制的,除了那些在社交媒体上被辱骂的女性,其他的弱势群体其实也可以利用类似的方式发出声响和自我拯救。

AI正在保护她,并且还可以保护他们。