如果您正在考虑在人力资源或运营流程中使用智能工具(机器学习/人工智能),请考虑向潜在供应商提问。
告诉我有关用于训练算法和模型的数据。
合法和非法的偏见都通过训练数据集渗透到智能系统中。没有所谓的无偏差数据集,因为数据仅在上下文中出现。数据集的来源,完整性,准确性和上下文是什么?生成数据的群体的基本人口统计信息是什么(年龄,性别,地理位置,种族以及可以指定的其他信息)?
对系统进行培训需要多长时间?
每个智能工具都必须了解您公司的详细信息和特定的工作流程。一些供应商将学习曲线作为实施过程的一部分。其他人则从交易中学习。有些系统需要18个月的培训。
我们可以更改历史数据吗?
您可能要修改计算机的结果,因为它们反映了您的历史记录的偏见。进行对话很重要;它将为您提供真正风险的窗口。这个问题的答案很可能是“你做不到”。
将其关闭会怎样?如果您将其关闭,我们将收到多少通知?
想象一下,您使用的工具可以完成多名员工的工作(例如,审查简历的来源)。如果该工具以需要关机的方式失败,那么您会得到哪种预先警告?由于大多数提供者都处于试验阶段,因此,如果项目结束,该问题的答案也很重要。实际上,他们是数字员工,最好有一个替换计划。
见约翰Sumser更多的列这里。
我们是否拥有从我们那里学到的机器?我们如何携带这些帽子数据?
这些系统运作的部分方式是,它们既可以在汇总案例中也可以在个别案例中学习。大多数供应商都保证您的数据是“匿名的”。更换供应商后,您可能仍不希望您的操作方法成为更大的基准测试过程的一部分。
6.总拥有成本是多少?
我们对智能机器的行为知之甚少。像任何员工一样,他们需要培训,监督和纪律。确保对启用的任何学习机的总拥有成本有清晰的了解。
我们如何知道模型和算法何时“漂移”?
所有数据模型和算法都会老化。有时,这是正常的降级。其他时候,这是完全失败的。知道智能工具何时脱离困境对于管理它至关重要。
服务附带什么样的培训?
与机器合作伙伴合作不同于与人工合作伙伴合作。机器交付结果的能力会随着时间而下降。处理可变质量的输入是人际关系中的正常现象。使用机器时,我们不习惯这一点。
当情况变化时我们该怎么办?
正如其创造者所愿相信的那样,学习机器的机器可以在瞬息万变的环境中工作。昨天可行的建议今天可能会失败。当机器发出的指示不相关或错误时,其效用就会下降。知道如何调整工具以适应变化的环境是拥有和维护它们的关键部分。
另请参阅:当智能工具看不到重要内容时
我们如何监控系统性能?
拥有机器学习工具的最大支出可能是监视实际情况与建议之间的关系。这是监督算法任务的关键部分。就像生产线末端需要的质量控制一样。
您对产品责任有何看法?
确保就该工具的工作方式以及供应商如何监视机器学习曲线的影响进行长时间的交谈。这里的关键问题是“如果您的工具的建议或决定对我们的员工或我们的业务造成损害该怎么办?”
获取系统中使用机器智能的每个进程的清单。
探索使用算法,模型或其他形式的机器智能的每个地方。这就是执行风险所在。
您可能会猜到,我将在今年6月于Select HR Tech的研讨会上谈论这些问题。采购AI所涉及的期望与传统软件获取所带来的期望不同,并且此次会议具有一系列实践经验,其中包括名为“ AI&Intelligent Technologies”的我的实践。