AI招聘工具：致力于消除招聘过程中的人类偏见
Eyal Grayevsky 提出一个计划，来增加硅谷的多样性。他在2012年共同创立了 Mya Systems 公司。这家公司的战略是：减少人类对招聘的影响。
Grayevsky 表示，“我们致力于消除招聘过程中的人类偏见。“
他们通过Mya来实现这一愿景。Mya是一个很像招聘人员的聊天机器人，能对面试者进行面试和评估。Grayevsky 认为，Mya和一些招聘人员不同，它会问客观的、基于人员表现的问题，避免了人类可能做出的潜意识判断。Mya评估候选人简历时，不关注长相、性别、名字。
Grayevsky 拒绝透露使用Mya的公司。但据他表示，几家大型招聘机构都在使用Mya与候选人进行“初次对话”。Mya能够根据职位的核心要求过滤候选人，了解他们的教育和职业背景，告知工作职责的具体细节，回答有关企业文化和政策的问题。
众所周知，科技行业存在多样化失衡的问题，但试图纠正这种不平衡的过程过于缓慢。被一些公司指责的“流程问题”（pipeline problem）大多数来自于招聘过程。人员招聘是一个非常复杂、大批量的过程。招聘人员基于自己的主观判断挑选出最好的候选人。目前，很多创业公司在搭建人工智能招聘工具和平台，他们称这会大大降低招聘过程中的人类偏见。
除了Mya，另一个致力于消除招聘偏见的程序是HireVue。HireVue使用基于视频文本的软件，基于面部表情、语言词汇，从视频面试中提取25000个数据点来选出表现最好的人员，甚至可以对人员的同情心这类抽象特质进行评估。英特尔、联合利华、耐克等公司都在使用HireVue。
HireVue首席技术官Loren Larsen表示，无论是什么背景（性别、种族、年龄、学历、工作经历等），HireVue能让候选人得到同样的机会。这是因为HireVue对所有候选人都采用同样的评估过程。而在过去，招聘人员的评估判断可能会随着心情和环境而改变。
咨询公司CEB的产品总监 Aman Alexander 说，尽管AI招聘工具还没有得到广泛应用，但“需求在不断增长。”他还说，使用AI招聘工具最多的不是科技公司，而是进行大量招聘的零售商。这意味着相比起公正度，效率才是吸引AI招聘工具用户的主要原因。
然而，设计出AI招聘工具的团队（如HireVue和Mya）坚信他们的产品能使招聘更公正。他们值得被相信。由于自动化需要设定标准，因此使用AI招聘工具能够提醒公司意识到如何客观评估候选人。在最佳情况中，标准参数会在良性循环中不断更新，AI工具可以使用最新数据，使得招聘过程更加公平客观。
但是，请注意：AI使用的数据是由那些混乱、令人失望、充满偏见的人类所提供的。
AI工具可能会使偏见永远存在，而不是消除偏见
深入追究任何本意在于促进公平的算法，你都会发现隐藏的偏见。独立新闻机构ProPublica检查了被美国警察用来预测再犯罪率的工具，发现该算法对非裔美国人存有偏见。还有Beauty.AI，这个AI使用人脸识别和年龄识别算法从一系列提交给它的照片中选出最具有吸引力的人。令人遗憾的是，算法表现出对浅肤色、浅色头发的候选人的强烈偏好。
即便是AI系统的创造者也承认，AI绝非没有偏见。“在招聘过程中使用人工智能有很大的风险是增加偏见，而不是减少偏见。”Laura Mather 说，她是AI招聘平台 Talent Sonar 的创始人兼CEO。她补充说，由于AI依赖于由人类团队创建的训练集，它可能促进偏见，而不是消除偏见。这样的AI招聘到的人可能“都很聪明，很有才华，但很可能所有人都非常相似。”
而且，由于AI是从大批候选人中筛选，任何偏见都可能系统地影响许多人。Grayevsky 的报告称，Mya Systems 这个网站专注零售业等行业的招聘，“GVS Health（美国最大的药品零售商）每年招聘12万名员工，Nike 每年招聘8万人。”系统中的任何歧视都会大规模地影响申请者。通过快速检索，例如从50万或以上申请人中选取12万人，该AI平台可以瞬间得到申请人集合并发送给人类招聘专员。
此外，AI招聘的强大能力还有一个好处：它解放了HR，让他们得以把精力集中在做出明智的最终决定上。Grayevsky说：“我曾与数千名HR交谈过，每个人都抱怨自己没有足够的时间。”由于没有时间和每个候选人交谈，做决定时直觉就变得十分重要。尽管AI让HR处理更大数量的求职者，但它也可能给HR更多时间摆脱快速判断。
要避免这些缺陷，工程师和程序员必须高度警惕。Grayevsky 解释说，Mya Systems 对 Mya 用来学习的数据种类进行了“设置控制”。这意味着Mya的行为不是使用原始的，未处理的招聘数据和语言数据生成的，而是使用Mya Systems以及其客户预先批准的数据。 这一方法缩小了Mya学习偏见的机会。不过，这种方法并不能消除偏见，因为任何预先批准的数据都反映了人类选择的倾向和偏好。
这就是为什么AI工具可能会使偏见永远存在，而不是消除偏见。“我们尽量不把AI当成万能药，”奥克兰的一家多元化咨询公司 ReadySet 的执行总监 Y-Vonne Hutchinson 说：“AI是一种工具，AI也有它的制造者，有时候AI也会放大其制造者的偏见和盲点。”Hutchinson补充说，为了让工具奏效，“那些使用这些程序的招聘人员需要接受培训，以发现他们自己以及其他人的偏见。”如果没有这样的多元化培训，人类招聘专员就只是把自己的偏见强加到该流程中的另一个点。
AI+HI：利用AI工具增加多样性
一些使用AI HR工具的公司正在运用它们来增加多样性。例如，Atlassian是Textio的一个客户，它是一个智能的文本编辑器，使用大数据和机器学习技术提供对职位列表进行修改的建议，从而吸引不同类型的求职者。跟据Atlassian全球多元化和包容性负责人Aubrey Blanche的说法，该文本编辑器帮助公司将新员工中的女性比例从18％提高到了57％。
Blanche解释说：“我们已经看到了候选人的性别分布和我们正在招聘的人的性别分布的差异。”使用Textio的另外一个意想不到的好处是，除了申请人变得多元化之外，还使公司对自己的企业文化有了认识。
最终，如果AI招聘提高了生产效率，这些工具就会变得更加普遍。但是，仅仅依靠采用AI和信任AI对于实现更公平的招聘是不够的。更重要的是，企业需要不断增加多样性的意识。AI或许不会成为科技行业多元化问题的全能解药，但它起码可以成为硅谷努力改进的重要工具。
原文发布时间为：2017-09-18
作者：Simon Chandler
编译：neko 佩琦
本文来自云栖社区合作伙伴新智元，了解相关信息可以关注“AI_era”微信公众号
原文链接