AI 表面之下：从算法纠错到招聘决策的深层机制

这个人是否紧张？我的银行账户余额是多少？我该去哪里退这双鞋？在销售部门，简和鲍勃谁更值得聘用？

就在几年前，回答这些问题还需要人类。如今，机器不仅速度更快，而且在多数情况下表现更优。

从口袋中的手机到公司董事会里新增的语音助手，人工智能已触及个人与职业生活的诸多层面。面向用户的 AI 工具激增，催生了一批专注于 B2B 与 B2C 应用的利基型中型企业，它们正借助这一先进技术开拓市场。

普通消费者频繁与基于 AI 的聊天机器人和招聘工具互动，其中许多人并未意识到这一点。这些工具对用户而言或许简单直观，但其底层的复杂技术绝非如此。

产品构建与纠错

将产品推向市场往往需要大量时间和数据。但当 AI 需要遗忘或纠正时，会发生什么？

据 Agorai 首席执行官 Josh Sutton 在接受 CIO Dive 采访时表示，重新配置算法的方法取决于所使用的 AI 类型。深度学习作为机器学习的一个子集，是“强化版的模式匹配”，通过整合不同数据点来理解结果与答案；而符号 AI 则更基于人类理解世界的方式对世界进行表征。

纠正符号 AI 系统相对直接：开发者可修改或移除不需要的组件。然而，深度学习算法中的错误类似于不良行为，需要更复杂的修复手段。

Sutton 指出，就像高尔夫球手形成不良挥杆动作后，无法一蹴而就地纠正，AI 遗忘不良行为也需要渐进式强化，使“身体”或算法适应与训练时不同的行为模式。

对于面向消费者的 AI 产品（如聊天机器人），有多种途径可评估并改进 AI 输出。

客户服务与通信提供商 Comm100 的创始人兼首席执行官 Kevin Gao 在接受 CIO Dive 采访时表示，该公司帮助客户训练基于深度学习的机器人，这些机器人与客户互动，训练始于预测客户可能提出的问题、构建问题库并训练机器人。

AI 会为答案提供置信度评分，若评分低于阈值，该问题将被提取并评估，可能转化为新问题或并入现有问题。Gao 称，人工客服也可标记答案是否有帮助，从而触发专家介入审查。

训练有素的机器人始于优质数据，但即便在每天产生 PB 级数据的时代，获取高质量训练数据仍是挑战。Sutton 表示，数据所有权问题以及缺乏全面的数据交易市场，迫使许多公司拼凑解决方案来训练系统，即便这些方案可能包含偏见或错误信息。

这一问题还因少数公司（如 Facebook、Google 和 Amazon）持有远超普通企业想象的数据量而加剧，它们利用这些数据维持市场与消费者主导地位。

如今，聊天机器人已足够先进，能够预判客户需求、以不同形式回应问题并与多媒体交互。但即便最优秀的机器人有时也需要人工强化。

Gao 表示，若客户情绪激动或触发特定关键词，企业可能希望人工客服接管对话——尽管客户通常不会察觉这一转换。聊天机器人可靠，但 AI 仍只是增强人类能力的工具，而非独立运作。

随着 AI 工具日益普及，安全与隐私成为高管们反复担忧的问题。Comm100 产品营销与传播副总裁 Jeff Epstein 在接受 CIO Dive 采访时表示，在网站上部署聊天机器人很容易，但构建安全性却很难。

他称，工具必须无缝集成到各系统中，通信顺畅，且便于企业部署。没有任何事物孤立存在。

例如，连接银行并需访问和调取账户余额信息的聊天机器人，必须与具备强防火墙和 API 的关键任务系统建立连接。但安全不能以牺牲功能为代价，整个技术网络必须“在该技术沙盒中良好协作”。

是机器聘用了你吗？

AI 应用正被整合到更多商业工具和平台中，但许多员工在入职第一天之前就已与该技术互动。AI、机器学习和深度学习正稳步进入招聘流程——其作用远不止加快简历筛选。

Humantelligence 首席执行官 Juan Betancourt 在接受 CIO Dive 采访时表示，预测性成功中仅有 30% 基于招聘经理看到的传统简历信息，如经验、GPA、教育背景和推荐信。而最高指标“EQ”（情商）占 60%。

机器量化并评估人类性格细微差别的想法，对许多人而言令人不安。一串二进制代码如何能比真人更好地评估人类状况的主观性和职场文化的复杂性？

事实证明，它能做得更好。

Betancourt 称，当今数字工具可科学测量个体个性的数十种特征，从行为特质、工作风格到激励因素和价值体系。借助合适工具，企业可对其文化进行编码，并利用 AI 填补空白与短板。

Betancourt 表示，AI 可帮助企业审视顶尖绩效员工，提取其成功特质，再分析底层绩效群体，找出需发展的领域。在引入新人才时，算法有助于打破“人们雇佣与自己相似者”的模式，提升多样性与客观性。

AllyO 联合创始人 Ankit Somani 在接受 CIO Dive 采访时指出，AI 还能提升招聘效率。例如，工程师的招聘比仓库工人的招聘涉及更多人工接触点，企业需确保每个接触点都产生价值。

低接触点职位具有更大的效率提升空间，若每个接触点的时间得以缩短，求职者可申请更多职位。

对于服务员或销售代表等职位，招聘通常包括到店、与经理会面并迅速获得“你被录用了”的决定。这些职位的流失率最高，介于 50% 至 60% 之间。Betancourt 称，基于 AI 的候选人档案的广泛引入将通过寻找最佳匹配和降低流失率，对该领域产生巨大影响。

但 AI 在招聘中可能被有意或无意地滥用或误用。Somani 表示，AI 的“黑箱”问题——输入进入、决策输出且无解释——需得到解决。诚然，人类常基于比算法更少的数据点做决策，但若机器要缩小候选人范围，算法需展示为何某些候选人入选而另一些落选。

随着面试过程采用更多媒介，包括通过短信、电话和视频进行的自动化提问，评估候选人的方式也更多样。Cogito 工程高级副总裁 Margaret Olsen 在接受 CIO Dive 采访时表示，例如，对话中“怎么说”与“说什么”同样能传递信息。AI 应用可识别声音中的情感内容，捕捉人类可能忽略的微妙线索。

测试语音中的同理心和语言复杂性仍是早期工具，但随着市场成熟，更多应用将问世。然而，面部识别则更为遥远，据 Montage 总裁兼首席执行官 Kurt Heikkinen 在接受 CIO Dive 采访时称，仅 6% 的候选人表示对面试中使用该视觉工具感到舒适。

Heikkinen 表示，语音和面部识别等高级分析的使用还引发多项隐私问题，例如求职者是否需事先被告知正在使用这些工具、自动化决策是否可能部分决定其筛选结果，以及收集了哪些数据。