人工智能已成为对人进行分类和排名的工具

推荐内容，为聊天机器人提供动力，买卖股票，检测医疗状况并驾驶汽车。这些只是人工智能最著名的应用中的一小部分，但是有一个尽管在AI的最近历史中处于很大的边缘，但现在正威胁着其显着增长。这是AI对人进行分类和排名的能力，可以根据他们相对于某些特定目的是好是坏将他们分开。

目前，西方文明还没有达到，其中基于人工智能的系统中使用的点集体根据我们是否很可能是“好”的员工，“优质”客户，“好”的日期，“好，我们归类公民。但是，所有可用指标都表明我们正在朝这个方向发展，这与西方国家是否有意识地决定构建中国目前正在发展的社会信用体系无关。

这种风险在9月底突显出来，当时出现了一种由AI技术驱动的系统首次被用于筛选英国的求职者。它是由总部位于美国的HireVue开发的，它利用机器学习来评估求职者的面部表情，语言和语调，这些求职者通过智能手机或笔记本电脑拍摄，并回答了一系列相同的面试问题。然后，HireVue的平台通过比较从每个申请人的视频中获取的25,000条数据与从现有“模范”员工的访谈中收集的数据进行比较，从而筛选出“最佳”申请人。

毋庸置疑，隐私拥护者和学者并不特别喜欢HireVue的“招聘情报平台”，该平台在全球范围内每90天用于进行100万次采访和超过15万次聘前评估。UCL的安娜·考克斯(Anna Cox)告诉《每日电讯报》：“这将有利于擅长视频采访的人，任何数据集都会有偏见，这将排除实际上本来会做得很好的人。”

HireVue的技术已经存在，但有迹象表明，类似的系统可能最终会在其他领域和部门使用，从而可能产生有害影响。9月底，《天空新闻》(Sky News)报道说，英格兰最大的学院链之一的Academies Enterprise Trust，已经开始使用称为AS Tracking的工具来监视其150所学校学生的心理健康，该工具使用人工智能来预测自我伤害，饮食失调和药物滥用。