Google AI再曝黑人女员工离职 这是所有科技公司都将面对的问题

去年年底,Gebru 发推表示自己被公司开除,她因一篇论文的发表与公司上层产生矛盾,被要求撤稿后,她在一篇内部邮件中表示了自己对公司种族偏见问题的不满,随后被解雇。

在从外界角度来看,似乎很难不将 Mitchell 的解雇和 Gebru 事件联系起来。

推特上的唇枪舌战

这位 Gebru 是谷歌 AI 伦理部门的联合负责人,也是谷歌内部极少数的黑人女研究员(根据该公司 2020 年年度多样性报告,Google 员工中有 3.7%是黑人),同时她也是 Black In AI 的联合创始人,致力于黑人在算法领域的平权。

而谷歌方,Gebru 的上司 Jeff Dean 站出来表示“论文未达到发表标准,是女方主动拿辞职要挟”。双方各有说法,在推特上来来回回唇枪舌战。

事件发生后,AI 界大多都站在了 Gebru 这一边。据 BBC 报道,超过 4500 名来自微软、谷歌等大公司的科研人员在支持 Gebru 的公开信上签了名,要求谷歌方进一步解释开除 Gebru 的原因。今年 1 月,谷歌内部员工还成立了 AIphabet 工会,该工会向所有 AIphabet 员工开放,包括临时工、供应商等,为少数群体利益发声,并要求恢复 Gebru 的职位。

公司 CEO Pichai 率先出来灭火,承诺将会进行进一步调查,以期能为这场轰轰烈烈的闹剧划上一个句号。今年 2 月,Dean 也向解雇 Gebru 和对其他女性员工造成的伤害致歉,谷歌还宣布了新的多元化政策,包括将 DEI(多元、公正、包容)目标与副总裁以上级别员工的绩效评估挂钩。这似乎是进一步的灭火行为,但随后 Mitchell 就被解雇。

如今被开除的 Mitchell 也是一位 AI 道德专家,曾从事机器偏见,种族和性别多样性以及用于图像捕获的语言模型方面的工作,她与 Gebru 共同领导该公司的道德 AI 团队。同时值得注意的是,她也是那篇导火线论文的共同创作者。

Gebru 被炒鱿鱼后,Mitchell 多次在公共平台表示对谷歌的不满。今年 1 月份,她被限制了公司内部电子邮件访问权限,就在被开除的几小时前,Mitchell 还在推特上抨击谷歌“一向疏远黑人女性”。

谷歌方对于开除 Mitchell 给出的回应是“在对这位经理的行为进行审查之后,我们确认存在多次违反我们的行为守则和安全政策的行为,其中包括泄露机密的业务敏感文件和其他员工的私人数据。”

算法偏见

回到导致 Gebru 和 Mitchell 均被解雇的最初,引起争议的论文《随机鹦鹉之险:语言模型会太大吗?(On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?)》,它从环保和成本角度、种族和性别方面探讨了大型语言模型(如 BERT)带来的高耗电等风险。同时 Gebru 指出如果不加区分地使用现有数据训练人工智能,会进一步加深 AI 语言模型中对少数边缘群体的偏见。

该论文的引言中写道:“我们问是否已对与开发这些风险相关的潜在风险以及减轻这些风险的策略进行了足够的思考。”

谷歌 AI 在 2017 年首先发明了 Transformer 语言模型,2018 年,在此基础上推出的 BERT 语言模型在人工智能领域引起轰动,同时也广泛运用到谷歌搜索引擎的训练上,已经成为谷歌经济收入的重要来源。

这篇论文是对谷歌目前最有利可图的 AI 研究提出的担忧,而这种担忧并不是空穴来风,AI 中涉及的伦理偏见已经不是第一次出现。

2015 年,谷歌相册将两个深肤色的人标记为“大猩猩”,谷歌公司当时保证“立即采取措施”,以防止再犯重复错误。不过随后为了解决这一问题,谷歌直接从搜索结果中删除了这一词条的标签。《连线》杂志在谷歌相册上测试了 4 万多张动物图片,最终得出了这样一个结论:谷歌不再将任何图片标记为大猩猩、黑猩猩、猴子,即使就是这种动物的图片也是如此。

而去年,最令人震惊的 AI 偏见应该是 PULSE 算法将奥巴马识别为一位白人男性。这个由英伟达开发出的算法,使用一种叫“upscaling”的技术来处理视觉数据,把原始的低分辨率图片生成为一个全新的高分辨率面部图像。该算法的创建者解释称这种偏差可能继承于训练 AI 的数据集,这些数据集中缺少有色人种的存在,在此基础上训练出的 AI 将会默认使用白种人特征。

在今年的疫情期间,谷歌 AI 也出现了类似情况。

经非盈利研究和倡导组织 AIgorithmWatch 证实,谷歌旗下计算机服务 Google Vision Cloud 会将手持测温计的深肤色人员图像标记为“枪”,而相同条件下,浅肤色人员图像则被标记为“电子设备”。究其原因,这与深肤色的人员图像在数据训练时在暴力场景出现的高频率有关,随后谷歌致歉并更新了算法,测温计图像中不再出现“枪支”标记。这种对于有色人种在数据训练中的忽视,已经成为 AI 偏见常出现的情况。

冲突中心的谷歌

AI 伦理问题产生的根源,是人类社会中存在着相同的偏见。

一直以来,硅谷科技公司向外界展示着它开放、平等的文化。早在 2014 年,硅谷的 33 家科技公司就共同签订了多元化承诺。然而除算法偏见,近几年,微软、亚马逊、Uber 等公司却频频爆出关于性别歧视、肤色偏见的道德丑闻,曾经的全球最佳雇主谷歌也难逃其中。

2018 年,据《纽约时报》报道,谷歌向因性骚扰传闻离职的“安卓之父”Andy Rubin 支付了约 9000 万美元,并在过去 10 年中保护了包括鲁宾在内的三位被指控性行为不端的男性高管。

这引发了谷歌员工的强烈抗议,全球 20 多个办事处的 20000 多名员工进行了历史性的集体大罢工,走上街头喊出“我们要透明度、追责和架构调整”的口号。随后谷歌致歉,并承诺将会撤销针对性不端行为的强制仲裁。

虽然近年来 Google 内部不断出现各种 AI 相关的伦理讨论时间,外界持续不断地批评 Google 在这些方面做得不够好。但从另一个角度看,在 AI 行业在全球快速发展的当下,也只有 Google 内部爆出了如此大范围的严肃讨论,这恰恰是从 Google 一直以来自由管理、直言不讳的文化中诞生的。

在 Gebru 离职风波后,不只是 Ethical AI 团队,整个谷歌公司的氛围都持续紧张。沸沸扬扬的争议声和谷歌内部多次抗议中,谷歌成立了硅谷的第一个大型工会 AIphabet Workers Union,旨在让员工自由发声。

在今年,经过多拨讨伐的 Dean 向 Gebru 事件致歉,并且任命了另一位黑人女性 Mariian Croak 为 Ethical AI 的主管,继续向他汇报工作。Ethical AI 成立的初衷就是为了监控 Google AI 的道德走向,为此,这个部门也是公司中多元化程度最高的一个部门,将那些在算法中那些最有可能受到偏见伤害的弱势群体聚集到一起。

值得注意的是,AIphabet 工会并没有在这件事后停下脚步。今年 2 月 11 日,AIphabet 工会向谷歌提出不公平劳动指控,这是该工会的第一个法律行动,与先前的公开信等行动不同,本次指控具备法律效力。

对于一个充满黑箱和未知的技术,AI 值得人们探讨的问题还有很多。Google 是第一家爆发激烈讨论的公司,但它绝不会是最后一家。

谷歌Project Zero团队调整漏洞披露指南:增加30天缓冲期

谷歌 Project Zero 安全团队今天对漏洞披露指南进行了调整,为每次安全漏洞披露增加了 30 天的缓冲期,这样终端用户就有足够的时间来修补软件,防止这些漏洞被攻击者利用。

发布于:3天以前  |  25次阅读  |  详细内容 »

谷歌云平台正式推出新一代API管理平台Apigee X

在 2016 年收购了 Apgiee API 管理平台之后,谷歌终于在今日发布了最新一代的 Apigee X 产品。谷歌云平台负责人 Amit Zavery 指出,在去年 3 月的 COVID-19 大流行之后,各行各业的数字活动和用例数量都迎来了大幅增长。与此同时,企业也迫切需要找到一套真正高性能、且相当可靠的数字管理平台。

发布于:2月以前  |  132次阅读  |  详细内容 »

Google Doodle纪念篮球运动发明者詹姆斯·奈史密斯

据外媒CNET报道,近130年前,体育教育家、教授、医生和教练詹姆斯·奈史密斯发明了一种“运动分心”游戏,让冬天被困在室内的学生们可以打发无聊时间:这就是篮球运动。现在,谷歌通过一个动画Doodle纪念奈史密斯为体育界做出的贡献。

发布于:3月以前  |  152次阅读  |  详细内容 »

Google搜索部门发起打击疫苗错误信息的活动

Google今天宣布,该公司正在其搜索结果中推出新的疫苗信息板块,以抵制错误信息,并指引人们了解他们所在地区有哪些可用的疫苗。得益于最早批准BioNTech/辉瑞的疫苗,这些板块将率先从英国开始推出,随着各国卫生部门开始完成疫苗的审核,这些板块将在更多国家推出。

发布于:4月以前  |  184次阅读  |  详细内容 »

报道称谷歌、Facebook未来几周将面临更多的反垄断诉讼

据外媒报道,预计到1月底,谷歌和Facebook将在美国面临新的反垄断诉讼,对科技巨头活动的持续调查仍有可能使苹果进入未来诉讼企图的行列。熟悉这些尝试的人士称,多达四起针对谷歌或Facebook的新诉讼显然正在准备中,并可能在未来几周或假期后发起。这些诉讼的细节尚不清楚,但据信联邦和州反垄断当局都在路上。

发布于:4月以前  |  232次阅读  |  详细内容 »

谷歌改进新冠预测模型 提升时间跨度增加新的区域

谷歌今年八月与哈佛全球健康研究所合作,推出COVID-19公共预测模型,为美国各州各县提供新冠病例、死亡、呼吸机可用性、ICU使用率和其他指标预测。今天,谷歌发布了改进的新冠预测模型,其中提升时间跨度并且增加新的预测区域。这个新模型采用来自笛卡尔实验室、美国人口普查局、约翰霍普金斯大学和其他地方的公共数据进行训练。

发布于:5月以前  |  244次阅读  |  详细内容 »

意大利对苹果、谷歌和Dropbox发起反垄断调查

意大利反垄断当局宣布,正在调查苹果、谷歌和Dropbox对云服务的公平性和不当商业行为的指控。除了最近对涉嫌价格操纵的调查,意大利反垄断监管机构还宣布,正在单独调查包括苹果在内的公司如何在该国运营云服务业务。

发布于:7月以前  |  445次阅读  |  详细内容 »

谷歌回应澳大利亚新闻付费法规:不反对 但目前草案不可行

北京时间9月7日消息,谷歌公司今天在其官方博客上发表了《谷歌如何支持新闻业》的文章,回应了澳大利亚当局近期发布的《新闻媒体议价法规》草案。谷歌明确表示,公司并不反对澳大利亚制订法规来监督新闻机构和数字平台之间的关系,他们已经与新闻机构达成了协议,通过一个许可计划向出版商支付内容使用费,多家澳大利亚出版商已经加入了这一计划。

发布于:7月以前  |  440次阅读  |  详细内容 »

印度电子商务新规遏制亚马逊、谷歌等本土称霸

据外媒最新消息,印度政府最新推出的电子商务政策草案,对于电子商务公司如何处理数据施加政府监督,根据新规政府监管部门甚至有权查看源代码或是算法,并要求电子商务公司需要在提出需求72小时内向政府提供数据。无论是在智能手机和移动互联网领域,印度市场近年来呈爆发式增长,但印度本土企业实力弱小,市场很快被跨国科技巨头主导。

发布于:9月以前  |  438次阅读  |  详细内容 »

谷歌将Pixel 4A智能机藏哪了?中端新机或推迟至7月发布

去年发布的 Pixel 3A 和 Pixel 3A XL,树立了谷歌对于 400 美元级别的智能机的期望。其因拥有在低光下更出色的拍照表现,而被该公司拿来与价格昂贵的苹果 iPhone 对标。如果按照正常的发布节奏,谷歌现在应该已经推出 Pixel 4A 智能机了。遗憾的是,受新冠病毒引发的 COVID-19 疫病大流行的影响,许多企业的新品发布节奏都被打乱了。

发布于:10月以前  |  445次阅读  |  详细内容 »

阵亡将士纪念日当天 谷歌Doodle再次变灰

为纪念战争中牺牲的军人和平民,英美多国设立了阵亡将士纪念日。2020 年 5 月的最后一个星期一,谷歌搜索引擎首页的 Doodle 再次变灰,同时在底部附上了美利坚合众国的国旗。该纪念日原定于 5 月 30 日,但 1971 年之后,为保证联邦雇员均可在当天放假,许多州都将之改成了 5 月的最后一个周一。

发布于:10月以前  |  450次阅读  |  详细内容 »

Chrome OS 的 Linux 终端迎来一系列新功能 运行更轻松

据外媒 AndroidPolice 报道,目前还在开发者频道的 Chrome OS 83 获得了更新的 Linux 终端,带来了一系列新功能,包括新的主题和自定义选项等。Chrome OS 终端应用程序可供选择使用 Linux 功能的 Chromebook 用户使用。

发布于:1年以前  |  486次阅读  |  详细内容 »

谷歌承诺斥资650万美元打击网上错误信息

随着有关新型冠状病毒的信息在网上不断膨胀,谷歌正在加大对事实核查和对反误导非营利组织的资助。谷歌周四表示,它计划捐赠650万美元用于打击在线错误信息。这笔资金将用于事实检查人员和与错误信息作斗争的非营利组织,其主要重点是应对冠状病毒危机。

发布于:1年以前  |  480次阅读  |  详细内容 »

[图]每搜索45次种一棵树:Chrome新增Ecosia搜索引擎

Ecosia搜索引擎近日宣布,在即将到来的Chrome移动端浏览器中能够将其作为默认浏览器。目前它已经成为Google, Bing, DuckDuckGo和Yahoo! 的预装搜索引擎之一,最大的亮点就是每搜索45次就会植一棵树。

发布于:1年以前  |  439次阅读  |  详细内容 »

谷歌就华为问题给出更详细解释

IT之家2月23日消息 IT之家昨天曾报道谷歌警告用户不要将其应用安装到华为新手机上,据Engadget报道,日前,Android & Play法律总监Tristan Ostrowski在安卓帮助社区,重新编辑了就华为问题发布的一篇较长解答,IT之家整理后发现其重点仍旧在“因政府限制”上,此外谷歌还强调侧面加载的Google应用将无法可靠运行、具有很高的风险,可能会损害用户安全。图源Engadget外媒表示华为曾暗示将开发自己的操作体统代替安卓,但目前仍在使用安卓系统,并且华为也在与TomTom合作开发地图应用以代替Google Maps。IT之家也在本月17日报道华为HMS将在欧洲亮相,首发于荣耀V30。以下为谷歌解答的谷歌翻译译文:2019年5月16日,美国政府将华为列入其实体名单。这项政府行动禁止包括谷歌在内的所有美国公司与华为合作。 这意味着禁止Google在新设备型号上与华为合作或禁止在这些设备上预加载或下载Google的应用程序(包括Gmail,地图,YouTube,Play商店等)。  我们一直致力于保护Google用户在全球数百万台现有华为设备上的安全。我们会继续与华为合作,遵守政府法规,以在现有设备上提供安全更新以及Google应用程序和服务的更新,并且在允许的范围内,我们将继续这样做。需要明确的是:美国法律目前允许Google仅在2019年5月16日或之前向公众提供的设备型号上与华为合作。   我们继续收到有关新华为设备的许多问题(例如,现在推出的新型号或2019年5月16日之后推出的较早型号,但现在在全球新地区可用)以及是否可以使用Google的应用和服务在这些设备上。我们想为那些提出这些重要问题的人提供明确的指导。 由于政府的限制,Google的应用和服务无法在新华为设备上进行预加载或侧加载。为了保护用户数据的私密性,安全性和整体体验,仅在经过Play Protect认证的设备上可以使用Google Play商店,Google Play Protect和Google的核心应用(包括Gmail,YouTube,地图等)。  经Google Play保护计划认证的设备经过严格的安全审查和兼容性测试过程,以确保用户数据和应用信息的安全。它们还从出厂时就带有我们的Google Play保护软件,该软件可以防止设备受到损坏。  这是我们长期以来为用户提供安全性和隐私权的方法,并在所有设备制造商中得到一致应用。   由于上述政府限制,2019年5月16日之后向公众提供的新华为设备型号无法通过此安全流程,也不会预装Play Protect。因此,它们被视为“未经认证”,将无法使用Google的应用和服务。  此外,侧面加载的Google应用将无法可靠运行,因为我们不允许这些服务在可能会损害安全性的未经认证的设备上运行。旁加载Google的应用程序还具有很高的风险,即安装经过更改或篡改的应用程序可能会损害用户安全。  要检查您的设备是否通过认证,请在您的Android手机上打开Google Play商店应用,点击“菜单”,然后查找“设置”。您将看到您的设备是否通过了“ Play Protect认证”认证。您可以在android.com/certified上了解更多信息。-Tristan Ostrowski,Android和Play法律总监

发布于:1年以前  |  555次阅读  |  详细内容 »

澳大利亚牙医状告谷歌 要求提供写下恶劣评价的用户信息

据外媒报道,日前,澳大利亚一家法院要求谷歌确认一名匿名用户的身份,据悉,该名用户对墨尔本一名牙医做出了极为负面的评价。Matthew Kabbabe医生表示,大概在三个月前,一名用户发表的评论足以让其他人“远离”他的诊所,这损害到了他的生意。

发布于:1年以前  |  504次阅读  |  详细内容 »

谷歌上诉:寻求推翻欧盟三项90亿美元反垄断罚单

谷歌对欧盟反垄断罚款提出上诉,寻求推翻欧盟的三项反垄断判决。这些判决向谷歌处以了共计超过90亿美元的罚款。据华尔街日报2月12日报道,谷歌当天在法庭上称,欧盟的反垄断执法者指控公司对小型竞争对手滥用支配地位并处以数十亿美元巨额罚款是没有法律基础的。

发布于:1年以前  |  596次阅读  |  详细内容 »

最新资讯

微软xCloud测试版今天登陆iOS和PC端 2小时以前  |  6次阅读
陕西出土汉代陶仓 发现满仓小米 3小时以前  |  28次阅读
Zoom推出1亿美元Zoom Apps投资基金 3小时以前  |  10次阅读

最热资讯

匠人用大米做出三星堆黄金面具 2天以前  |  438次阅读