投了上千份简历，AI一个都不回

Erin Kistler过去四年在PayPal、微软、Netflix这些公司投了数千份简历，结果是石沉大海。不是她资历不够，是简历在进到HR面前之前，就被一道AI筛掉了。更让她恼火的不是被拒，是没人能告诉她为什么被拒。

这个事其实值得掰开看。

AI招聘工具这几年是条热门赛道，卖点是提效。企业端的逻辑很简单：一个岗位收几百上千份简历，人工看不过来，不如让模型先筛一遍。这套话术听着顺理成章，但问题恰恰出在流程的末端。你拿AI筛简历，AI不给任何解释，被刷的人问都问不到原因。这不是技术问题，是责任归属问题。

现在法律界正在往这个方向走。Workday那个案子，集体诉讼，原告主张AI招聘工具在性别、种族等维度上产生了歧视。Workday是卖招聘SaaS的，不是用AI筛人的雇主本身，它被拉进官司里，意味着法律在往工具开发方这个方向延伸。以前的歧视诉讼告的是雇主，现在开始告软件厂商了，这个信号挺强的。

我有阵子在帮朋友看招聘流程自动化的项目，当时聊到一个点：AI筛简历最大的风险不是准确率，是没法追溯。传统简历筛选至少有据可查，过了就是过了，过了没进面试还有个理由。AI筛简历呢，一个向量化匹配就把人分了类，特征权重在模型内部，别说求职者，连用这个工具的人都说不清权重怎么配的。出了纠纷，企业拿不出证据自证清白，就只能赔。

这跟"让AI少干活"那个思路正好能对上。我之前聊过索尼PSSR的做法，让AI只处理关键像素，把规则明确的活交还给传统算法。招聘场景同理：简历初筛是规则明确的活，学历、年限、技能标签，这类硬性条件用传统算法就能过一遍；真正需要判断力的环节，比如这人适不适合团队氛围、职业规划的契合度，才适合让模型介入。现在很多企业的做法是反过来的，把AI当全能的筛子，从简历到面试到入职评估全走模型，省事是省事，但出了事连个能解释的人都没有。

加州今年10月落地的那批法规，、其实就是往这个方向使劲。规则不复杂：用AI做招聘决定，要能解释为什么。NYC那个地方法，也要求对AI筛选结果做年度审计。但这些法规能落地多少，我持保留态度。条例是写了"要求解释"，可模型的解释跟人类的解释是两码事。给你输出一个特征重要性排名，论证一堆加权特征怎么组合成最终结论，这种解释哪怕在技术上完全合规，求职者依然读不懂。

再说回Erin这个个案。她的经历被媒体拿出来说，法院判了个什么结果反而不重要了，重要的是大众开始意识到：AI招聘的工具方是数据驱动的黑箱，面试者是无从辩护的个体，两边完全不平等。

企业在中间，被诉讼拽着付钱。这个三角关系里没有人真正受益，除了律师。

顺着往下想，真正的分歧点在于：

招聘场景里的"公平"，到底应该由谁来定义？是算法工程师调一组参数，还是立法者划一条红线，还是HR跟求职者面对面聊几句更靠谱？现在三条路都在试，但各自为政。等第一波判例出来，大概就能看清方向了。

我这边测下来的感觉是，AI做招聘决策这件事，不是"能不能做"的问题，是"该不该做这么多"的问题。技术没有原罪，但技术被放在不透明的位置上，就成了替罪羊。这个行业早晚要回答一个问题：你是要让AI替你下判断，还是让AI帮你把信息整理好，判断还是人来做。我倾向后者，但看起来多数厂商在往前者跑。

---

本文编译自 Hacker News，原文：Will AI give you the job? Automated hiring tools spark discrimination and secrecy lawsuits | AI (artificial intelligence) | The Guardian
版权归原作者所有，本文为基于公开报道的编译与独立分析。