以下文章来自新硅 NewGeek，作者：董道力

前两天彭博社做了个实验，大致意思就是想测试一下 ChatGPT 简历筛选的时候有没有歧视现象。

硅基君也做了个类似的实验，就想看看 GPT 会根据什么逻辑给各种不同背景的简历排序。

我们随机生成了各种类型的简历，毕业院校有清北复交，工作经历也是各种大厂。把众多简历发给 ChatGPT 后，硅基君发现它对学校、公司有一个默认排序。

在 ChatGPT 眼中，腾讯>阿里>百度>字节；清华>北大>浙大>复旦>交大。

我们看一下 ChatGPT 的解释。

也就是说，AI 分析简历的时候也会有一套自己的标准，那么除了学校、公司这种因素外，AI 会不会存在其他的歧视呢？

没错，你能想到的那些歧视，它都有。

在彭博社的 AI 招聘歧视实验中，发现 ChatGPT 简历筛选的时候存在对人种的歧视现象。

实验灵感来源于一项评估算法偏见及招聘歧视的经典研究，通过使用虚构姓名和简历，分析 AI 是否存在招聘歧视。

具体实验如下。

彭博社创建了数份具有相同教育背景、经验年限和职位要求的简历。唯一的区别是简历上的名字采用了具有浓厚人群特色的名字。

比如美国白人名字 KELLY WEISS、WYATT NOVAK，亚裔名字 STEVE TRUONG、TONY LU 等。

随后，笔者利用 ChatGPT 来对简历进行排名，确定哪份简历更适合岗位。

如果 ChatGPT 对所有简历一视同仁，那么每个人群都应该有接近 12.5% 的机会成为最佳候选人，但事实并非如此。

在数千次排序后，实验发现，ChatGPT在不同岗位上，对不同人群有偏爱。

1、在金融分析师岗位候选人选择上，亚裔女性/男性获得更多偏爱，远高于黑人男性/女性。

2、在零售经理岗位上，亚裔女性和西班牙裔女性受到偏爱更多，白人男性受到歧视。

3、在人力资源岗位上，西班牙裔女性遥遥领先，整体来看，在任何人种中女性都比男性受到偏爱。

4、在软件工程师岗位中，白人女性更受到偏爱，黑人女性受到歧视最多。

出现这样情况的原因，可能在于训练 ChatGPT 的各种数据中，本身就包含了歧视，AI 会将此进一步放大。

如果提前告诉 AI 不要歧视亚洲人、黑人，AI 也同样不会做出公正的判断。因为 AI 会将特征转移形成新的歧视。

北卡罗来纳大学教授 Ajunwa 解释说，招聘算法不会直接表明它喜欢某个人群，而会通过偏爱某些其它内容影响结果。

举个不恰当的例子，算法会偏向喜欢吃甜豆腐脑的候选人，喜欢甜豆腐脑的候选人往往是南方人，从而形成了对北方人的歧视。算法并不会直接说，它歧视北方人，歧视没有消失，只是它被隐藏了。

那么，大模型性能再好点，是不是就可以避免歧视呢？答案也是否定的。

彭博社对 GPT4 进行了同样的测试，结果发现 GPT4 也有很严重的偏见。当 Impact Ratio 值小于0.8，就代表 AI 对于这一人群有偏见。

以软件工程师为例，GPT 3.5 对于黑人女性有偏见，而 GPT4 对于白人男性和亚洲女性有偏见。

那么问题来了，既然 ChatGPT 有简历歧视，作为求职者该怎么办。反抗算法歧视，不如知己知彼，搞定算法。既然算法喜欢吃甜豆腐脑的人，那么大家都在简历里写不喜欢咸豆腐脑。

类似甜豆腐脑这样的词汇有多少，也许只有 AI 自己知道了。因此，求职的时候，我们多用用 AI。

我们先来了解一下目前企业在招聘环节中的AI使用情况。

根据《2023 AI 在企业人力资源中的应用白皮书》中调查，近一半企业会在简历筛选和解析中用到 AI，这也是求职者最该关注的地方。

在企业“简历解析和筛选”时，会用 AI 将格式和模板不一的简历进行结构化处理，统一模板、提取关键内容方便hr快速浏览和查看。

在“智能简历筛选和双向推荐”这一步，AI 会通过语义理解判断求职者是否适合该岗位，简单来说就是将合适的求职者推荐给 hr，将匹配的职位推荐给求职者。

也就是说，求职者的简历内容，在形式上要方便AI识别，不要别出心裁的搞一些艺术字。在文本语序上尽量说得简单有条理，让 AI 容易看懂，不要挑战AI的理解能力。

以往我们在写简历的时候，经常会说要突出重点，要让hr眼前一亮，在 AI 时代，简历就要让AI眼前一亮。

硅基君总结了几个比较好用的方法，分享一下。

如果你已经看中某个岗位，那么你可以把岗位要求发送给 ChatGPT，让它根据岗位要求修改你的简历。

其次，给 ChatGPT 分享几个比较优质的简历，让其参考。

最后，和 ChatGPT 交流的时候，要多使用“突出重点”“使用关键词”这种明确的指令。

我们来具体看个例子。假设你想面试 AI 产品经理岗位，但现在简历一篇空白，这时候你就可以寻求 ChatGPT 的帮助。

首先，可以向 ChatGPT 咨询一下建议，可以看到它会洋洋洒洒给你写一大堆，包括一些没什么用的"个人信息"，以及具有参考价值的“工作经验”“专业技能”等。

接下来，可以让 ChatGPT 给你举几个例子，如果你恰好有相关的经验，就可以直接修改。

看完参考后，我们可以进入岗位详情，把职位要求发送给 ChatGPT，让它根据需求，重新写更加详细的案例。

当然，硅基君知道你们在想什么，如何用 ChatGPT 凭空生成一份简历？打铁还需自身硬，ChatGPT 也没办法无中生有，生了也不敢用啊。

人类对于偏见和歧视会下意识的进行自我反思，但 AI 不会，而且更要命的是 ChatGPT 这样的黑箱 AI，它们偏见往往非常隐蔽，人们很难发现。

早在这一波 AI 浪潮前，算法就存在歧视的问题。据路透社报道，亚马逊使用公司十年来收集的简历建立了一个筛选算法，但这些简历往往来自男性，这个简历筛选算法最终学会了歧视女性。

如今算法已经深入我们生活的方方面面和物理规则一样重要，但算法不会像物理规则那样平等的对待每一个人。

那么面对 AI 的控制，我们能做的也许只有寻找 AI 的喜好，并不断的适应它。

【本篇文章属于白鲸出海原创，如需转载：需联系授权方可，未经授权严转载!】

友情提醒：白鲸出海目前仅有微信群与QQ群，并无在Telegram等其他社交软件创建群，请白鲸的广大用户、合作伙伴警惕他人冒充我们，向您索要费用、骗取钱财！